Que sont les packs de contexte ?

Le vide qu’ils comblent

La mémoire est automatique : le système décide de ce qu’il garde et du moment où il le réintroduit, ce qui est pratique et imprécis. Une pièce jointe ponctuelle est précise et jetable : la semaine prochaine, vous rassemblerez les mêmes cinq documents.

Un pack est l’entre-deux : assemblé une fois, délibérément, et appliqué quand vous le décidez. Vos standards de code, la terminologie de votre produit, les contraintes qu’un travail doit respecter.

Ce qui y a sa place

Du matériau stable que vous devriez sinon réexpliquer : style maison, vocabulaire métier, contraintes permanentes, la forme de sortie que vous voulez toujours.

N’y a pas sa place ce qui change à chaque question. Un pack que vous modifiez à chaque usage est un prompt avec des étapes en plus.

Coût et discipline

Un pack, ce sont des tokens d’entrée à chaque message auquel il est joint : un gros pack appliqué à tout, c’est le problème de coût de la fenêtre de contexte sous une autre forme. Plusieurs petits packs spécifiques battent un gros pack général.

Parce qu’un pack est explicite, il est aussi relisible : vous pouvez lire exactement ce qui est envoyé, ce qui n’est pas vrai d’une mémoire qui s’assemble toute seule.

Questions fréquentes

En quoi est-ce différent d’un prompt système ?

Un prompt système est en général un bloc de consignes défini une fois. Un pack est un ensemble nommé que vous attachez et détachez par conversation, et il peut porter des fichiers et des références en plus des consignes.

Puis-je en utiliser plusieurs à la fois ?

Oui, et composer de petits packs est justement l’intérêt : un pack langue plus un pack style maison plutôt qu’un ensemble par projet.

Les packs remplacent-ils le RAG ?

Non. Un pack est trié à la main et toujours inclus ; la récupération sélectionne dans un grand corpus selon la question. Les packs conviennent au matériau stable ; la récupération au matériau trop volumineux pour être joint.