Un assistant de poste qui désigne, et ne tape jamais

« Baisse le son. » « Dans quel état est le serveur ? » « Qu'avions-nous décidé pour la carte graphique pendant les jeux ? » Un petit assistant local sait traiter ça, à condition de ne jamais l'autoriser à taper une commande. Le nôtre reçoit une table fermée de fonctions, en désigne une, et le script fait le reste.

Ce que vous y gagnez. Un assistant sur votre poste qui agit en moins d'une seconde quand le serveur est allumé, répond encore (plus lentement, jamais muet) quand il dort, et dit « je ne sais pas » au lieu d'inventer.

1. Le modèle désigne, le code agit

Mesuré : le modèle se trompait encore sur une question de logique sur sept. Il ne génère donc jamais de commande. Il renvoie un appel tiré d'une table fermée ; les arguments sont lus comme des littéraux Python, jamais évalués ; tout ce qui sort de la table devient NONE plutôt qu'un quasi-succès.

set_volume(percent: int)
machine_state(host: str)
search_memory(query: str)
escalate(question: str)

Déclarez la table en signatures Python avec des exemples. Déclarée en JSON Schema, le modèle choisissait la bonne fonction mais n'en remplissait pas les valeurs ; en Python, il a rendu 6 appels exacts sur 7.

2. Les sources avant la conversation

Interrogé sur « le mode GPU », un modèle a fait un exposé assuré sur les modes réseau de Docker : plausible, entièrement faux. Une question trouve donc d'abord sa réponse dans vos notes et votre journal d'infrastructure, le modèle n'ayant le droit d'utiliser que ces extraits. Chaque modèle de la cascade doit répondre exactement INSUFFICIENT quand il ne sait pas, et le code vérifie ce mot, lettre à lettre, avant de passer la main.

Gardez ce marqueur dans le code, pas dans le fichier de personnage modifiable : une retouche du personnage, et la sécurité disparaît.

3. Rapide quand c'est possible, jamais muet

Le modèle généraliste du serveur désigne d'abord, à environ 140 jetons par seconde ; un petit spécialiste de l'appel de fonctions, sur le processeur du portable, prend le relais à 5,5 quand le serveur dort. Le spécialiste est bon sur les ordres explicites ; sur une question indirecte, il a renoncé là où le généraliste a trouvé la bonne recherche.

4. Escalader avec le dossier

La dernière marche est un modèle de pointe. Notre première escalade a répondu à partir des seules sources, incapable de regarder la machine ; elle reçoit désormais un instantané de l'état de la machine et les extraits du journal, et l'écran l'annonce, parce que ça coûte un appel distant.

Utile ? Dites-nous ce qu'il faut mesurer ensuite.