Accueil
›
Section B — Intelligence artificielle générative
›
Fenêtre de contexte
L’anecdote de Mathieu · étape 3 de « Bien parler à l’IA »
Un soir, Mathieu travaille sur un long mémorandum avec ChatGPT. Il colle un texte de 60 pages, demande un résumé. La réponse arrive, mais à un moment, elle se met à raconter des choses qui ne sont pas dans le document. Mathieu cherche d’où ça vient. Sébastien lui explique : il a dépassé la fenêtre de contexte . La machine a oublié le début pendant qu’elle traitait la fin.
Côté machine
La fenêtre de contexte est la quantité maximale d’information qu’un système peut traiter d’un coup, mesurée en jetons (fragments de mots). Au-delà, les premières informations disparaissent. Une bonne rédaction de requêtes tient compte de cette limite : découper en morceaux, résumer ce qui doit être conservé, repartir d’un contexte propre quand nécessaire.
Fenêtre de contexte
Équivalent anglais context window
Quantité maximale de texte (mesurée en jetons) qu’un modèle de langage peut traiter en une seule fois pour générer une réponse. Tout ce que l’utilisateur fournit en entrée et tout ce que le modèle a déjà répondu doit tenir dans cette fenêtre.
Note
Variante employée : « fenêtre contextuelle ». Les modèles récents disposent de fenêtres de plusieurs centaines de milliers, voire de millions de jetons.
Exemple
Une fenêtre de contexte de 200 000 jetons permet de soumettre l’équivalent d’un livre de 500 pages au modèle dans une même requête.
Source OQLF, Vocabulaire de l’IA ; Wikipédia, « Fenêtre de contexte ».
