Comment améliorer les résultats de votre LLM en dupliquant les questionnaires ?

Si vous voulez obtenir de meilleurs résultats avec LLM sans avoir à payer pour des sorties longues ou des réglages fins, ici une astuce concrète et élémentaire :

Dupliquez votre message !

Les chercheurs ont constaté que le fait de répéter exactement les mêmes innings peut améliorer considérablement les performances (jusqu'à 76% pour des tâches spécifiques).

LLM traite le texte de gauche à droite, chaque jeton ne peut regarder que le contexte précédent, jamais l'avant.

Ainsi, lorsque vous écrivez une longue invite avec un contexte au début et une question à la fin, le modèle peut s'appuyer sur ce contexte pour répondre, mais le contexte a été traité avant même que le modèle ne reconnaisse la question.

Cette asymétrie est une propriété structurelle fondamentale du fonctionnement des choses LLM.

La répétition rapide permet de contourner cette limitation en donnant au modèle un deuxième passage sur l'ensemble du contexte.

Il n'y a pas de calcul de nouvelles pertes ni d'ingénierie compliquée.

Il s'agit simplement d'une modification structurelle qui fonctionne sur presque tous les grands modèles qu'ils ont testés.

Voici un joueur de cornemuse : https://arxiv.org/pdf/2512.14982