Contexte et mémoire : la fenêtre de contexte, les documents et les consignes personnalisées

Vous avez peut-être remarqué qu'au bout d'une longue conversation, l'assistant semble « oublier » vos premières consignes, ou se mélange. Ce n'est pas un caprice : c'est une conséquence directe de la façon dont fonctionne la mémoire d'un modèle. Cette leçon vous apprend à gérer le contexte, à fournir des documents et à régler des consignes durables.

La fenêtre de contexte : la « table de travail » du modèle

Un modèle de langage ne possède pas de mémoire au sens humain. À chaque réponse, il reçoit en entrée un ensemble de texte : vos consignes, l'historique de la conversation, les documents que vous avez joints, puis il génère la suite. L'espace maximal disponible pour tout cela s'appelle la fenêtre de contexte, et se mesure en tokens.

Imaginez une table de travail : tout ce qui est posé dessus, le modèle le voit. Ce qui n'y est pas, il ne le sait pas. Quand la table est pleine, il faut retirer des éléments pour en poser d'autres.

• Le modèle ne « se souvient » de votre conversation que parce que l'outil lui renvoie l'historique à chaque tour.
• Si la conversation dépasse la fenêtre, les éléments les plus anciens sont tronqués ou résumés selon l'outil.
• Même sans dépasser, la qualité de l'attention peut baisser sur de très longs contextes : des détails au milieu d'un long texte peuvent être moins bien pris en compte.

La taille de cette fenêtre varie selon les outils et évolue sans cesse. Plutôt que de retenir un chiffre, retenez le principe : le contexte est une ressource limitée qu'il faut soigner.

Que se passe-t-il dans une longue conversation ?

Au fil des échanges, plusieurs phénomènes courants apparaissent :

• Dérive : la conversation s'éloigne de l'objectif initial après de multiples retours et changements d'avis.
• Consignes oubliées : une contrainte donnée au début (« réponds toujours en tableau ») finit par ne plus être respectée.
• Contradictions : des instructions successives qui se contredisent brouillent le modèle.
• Contamination : des éléments d'une tâche précédente (noms, ton, données) s'infiltrent dans une nouvelle tâche.

Quand repartir d'une conversation vierge

Ouvrez une nouvelle conversation dans ces situations :

• Changement de sujet : une tâche sans rapport avec la précédente. Mélanger les sujets favorise la contamination.
• Réponses de moins en moins pertinentes, après beaucoup d'allers-retours.
• Mauvaise piste initiale : si le premier prompt était mal cadré, mieux vaut le corriger et repartir que d'empiler des rectifications.
• Information sensible partagée par erreur : selon l'outil, supprimez la conversation et vérifiez les paramètres de conservation.
• Test d'un prompt de votre bibliothèque : pour savoir s'il fonctionne seul, il doit être testé sans historique.

À l'inverse, restez dans la même conversation quand vous affinez un même livrable : le contexte accumulé est alors précieux.

Fournir des documents

Beaucoup d'outils permettent de joindre des fichiers ou de coller des textes. Fournir le document source est l'une des meilleures façons de réduire les hallucinations : au lieu de répondre de mémoire, le modèle s'appuie sur ce que vous lui donnez. Quelques règles :

1. Dites quel est le document et ce que vous voulez en faire : « Voici le compte rendu de la réunion du 12. Extrais les décisions et les responsables. »
2. Délimitez le texte avec des repères clairs, pour séparer vos consignes du contenu à traiter :

   Consigne : résume le texte ci-dessous en 5 points.
   
   === DÉBUT DU TEXTE ===
   [coller le texte ici]
   === FIN DU TEXTE ===

3. Demandez de s'en tenir au document : « Réponds uniquement à partir du texte fourni. Si l'information n'y figure pas, écris "non précisé". »
4. Demandez des repères vérifiables : « Cite la phrase du texte qui justifie chaque point. » Vous pouvez ainsi contrôler rapidement.
5. Découpez les très longs documents : traitez-les section par section, puis fusionnez les résultats.

Instructions personnalisées et consignes système

Pour ne pas répéter les mêmes préférences à chaque conversation, de nombreux outils proposent des instructions personnalisées (ou profils, ou consignes persistantes) : un texte que l'outil ajoute automatiquement au début de chaque échange. Une consigne système est le même principe, au niveau de l'application : elle définit le comportement général de l'assistant.

Ce que l'on y place avec profit :

• Vos préférences de style : « Réponds en français, avec vouvoiement, phrases courtes. »
• Votre contexte général non sensible : « Je suis enseignant en lycée professionnel » (en évitant les informations identifiantes).
• Vos règles de fiabilité : « Signale quand tu n'es pas certain ; ne cite pas de source si tu ne peux pas la vérifier. »
• Vos préférences de format : « Propose d'abord un plan, puis développe. »

Exemple d'instructions personnalisées pour votre assistant de travail :

Tu m'aides dans mes tâches de bureau : rédaction, synthèse, organisation.
- Réponds en français, avec un ton professionnel et chaleureux.
- Va à l'essentiel : pas de longue introduction.
- Si ma demande est ambiguë, pose-moi d'abord une ou deux questions.
- N'invente jamais de chiffres, de citations ou de sources ; indique
  clairement quand tu n'es pas sûr.
- Propose une courte liste de points à vérifier quand c'est pertinent.

Les pièges des instructions personnalisées

• Trop longues ou contradictoires : elles occupent de la place dans le contexte et peuvent entrer en conflit avec un prompt précis. Gardez-les courtes et générales.
• Oubli de leur existence : un comportement surprenant vient parfois d'une consigne ancienne. En cas de doute, relisez-les, ou testez dans une conversation sans.
• Données personnelles : ne mettez pas dans votre profil des informations sensibles ou identifiantes que vous ne voulez pas voir circuler.

Certains outils proposent aussi une mémoire entre conversations qui retient des informations sur vous. C'est pratique, mais cela soulève des questions de confidentialité : sachez ce qui est mémorisé, comment le consulter et le supprimer.

Bonnes pratiques de gestion du contexte

1. Un objectif par conversation.
2. Placez l'essentiel au début : objectif, contraintes, format.
3. Réaffirmez les contraintes clés si la conversation s'allonge.
4. Résumez régulièrement pour verrouiller l'état d'avancement.
5. Nommez vos conversations pour les retrouver et éviter de les mélanger.
6. Gardez l'historique utile hors de l'outil : copiez dans votre propre document les versions finales et les prompts réussis, plutôt que de compter sur l'historique.

À vous de jouer

Exercice 1. Rédigez vos instructions personnalisées en 5 à 6 lignes (style, langue, règles de fiabilité) sans y mettre d'information sensible.

Exercice 2. Prenez un texte de votre choix (article public, texte que vous avez écrit). Utilisez le gabarit à délimiteurs de la leçon pour demander un résumé en cinq points, avec pour chaque point la phrase d'origine qui le justifie. Vérifiez au moins deux justifications.

Réponds en français, avec vouvoiement et un ton chaleureux.
Va à l'essentiel, sauf si je demande du détail.
Si ma demande est floue, pose une question avant de répondre.
N'invente ni chiffres ni sources ; dis-le quand tu n'es pas sûr.
Termine les analyses par les points à vérifier.

Consigne : résume le texte ci-dessous en 5 points. Pour chaque point,
copie entre guillemets la phrase du texte qui le justifie. N'utilise
que le texte fourni.

=== DÉBUT DU TEXTE ===
[texte]
=== FIN DU TEXTE ===

Vous disposez maintenant des fondamentaux. Au chapitre suivant, nous passons au prompting avancé : contrôler précisément la forme de la sortie, utiliser des patterns éprouvés, et tester vos prompts.