Demandez à un chatbot combien coûte un ferry et il vous le dira. Demandez-lui d'où vient ce chiffre et, dans la plupart des cas, il ne saura pas le dire — non pas parce que la réponse est cachée, mais parce qu'il n'y a jamais eu de réponse à cacher. Le chiffre a été généré, pas récupéré.
Pour un produit grand public, c'est une contrariété. Pour une organisation, c'est tout le problème. Un port ne peut pas publier un tarif qu'il ne peut pas sourcer. Une administration fiscale ne peut pas annoncer un taux que personne n'a validé. La question qui le dit ? n'est pas de la pédanterie — c'est la différence entre un service et un risque juridique.
La première règle du camp ne portait donc pas sur Python. C'était celle-ci : un fait doit être sourcé avant que le bot puisse l'énoncer.
Classer avant de répondre
Le huitième jour a donné un nom à la règle. classify_authority() — une fonction dont la seule tâche était de demander, pour toute affirmation, qui est habilité à la faire.
Il s'est avéré que cela faisait trois questions, pas une, et Team Code X a donné à ce schéma un acronyme que le camp a gardé : ART.
Authority (autorité) — qui est habilité à dire cela ? Le site officiel d'un opérateur est une autorité. Un blog de voyage ne l'est pas. La mémoire propre du modèle non plus, aussi fluide qu'elle paraisse.
Register (registre) — quel registre contient l'information, et sur quel ton faut-il la dire ? Le mot joue un double rôle, délibérément. Il y a le sens d'archive : les tarifs vivent dans une table, les terminaux et les opérateurs dans une autre, le dédouanement du fret dans une troisième, et une question traitée à partir de la mauvaise produit une réponse assurée et hors sujet. Et il y a le sens que reconnaîtrait un linguiste — le registre comme manière de parler. Le même fait établi, adressé à un exploitant portuaire et à un voyageur inquiet qui part pour la première fois, est un seul fait dans deux registres. Le persona du bot n'est pas une décoration posée sur la réponse ; c'est la seconde moitié de sa classification.
Territory (territoire) — à qui revient la réponse ? C'est la question qui piège les gens, et dans un programme à huit territoires, elle a piégé tout le monde. Le terminal des ferries de Basseterre relève de la St Christopher Air & Sea Ports Authority (SCASPA). Posez la même question à propos de Niévès et la réponse change entièrement de mains — même question, même registre, autre île, autre fait.
Réussissez les trois et vous pouvez parler. Manquez-en un et vous devinez d'une manière qui ressemble à du savoir.
Le Golden Record
Au dixième jour, ART était devenu une table, et la table avait un nom : le Golden Record — une table de vérité unique à cinq colonnes.
Sujet. Question. Fait établi. URL de la source. Dernière vérification.
Les quatre premières correspondent à ce qu'on attend de n'importe quelle base de connaissances. La cinquième est celle qui témoigne d'une vraie maturité, parce qu'elle admet ce que la plupart des systèmes refusent d'admettre : les faits se périment. Un tarif exact en juillet peut être faux en novembre. Un terminal change d'opérateur. Un taux est révisé.
Un système qui vous dit quand il a vérifié pour la dernière fois est plus honnête qu'un système qui se contente de paraître sûr de lui — et c'est le seul qu'une organisation puisse défendre.
Team ASPIRE a poussé le plus loin ce second sens de Register. Skye répond à un enfant de six ans, Kaleb à un enfant de dix ans, Zion à un adolescent — trois registres autour d'un fait qui ne bouge pas d'un pouce. Ce que sont les 1 000 EC$, où en est placée la moitié, ce que signifie vraiment une action : identique dans les trois bouches, ancré dans les mêmes circulaires du ministère. Seul le registre change.
Et un second curseur vient se placer par-dessus le guide. Zion peut répondre en tant que The Professor ou en tant que The Llama — the guide sets the learning level; the personality sets the tone. (« le guide fixe le niveau d'apprentissage ; la personnalité donne le ton. ») Deux axes indépendants, tous deux affaire de registre, tous deux reposant sur un fait arrêté avant que l'un ou l'autre ne s'applique.
C'est précisément pour cela que ça tient. Varier la manière de dire quelque chose n'est sans risque qu'une fois que l'on est certain de ce que l'on dit ; faites-le dans l'autre sens et vous n'adaptez pas, vous improvisez à trois voix. Arrêtez le fait, puis choisissez le registre. Dans cet ordre.
Là où interviennent les garde-fous
Un Golden Record dit à un bot ce qu'il a le droit de dire. Les garde-fous sont ce qui se passe quand il ne le devrait pas.
Ce sont les deux moitiés d'un même mécanisme. L'ancrage fournit l'autorisation ; les garde-fous imposent le refus. Sans le second, le premier n'est qu'une suggestion — et la deuxième semaine avait déjà montré ce qu'un modèle de langage fait d'une suggestion.
Les règles ont donc été écrites dans le code plutôt qu'espérées dans un prompt. S'il n'existe aucune source, ne pas répondre. Si la source est trop ancienne, le dire, ou passer la main. Si la question touche à la sûreté, aux douanes ou aux dossiers privés de quelqu'un, refuser et escalader vers un humain. L'atelier de jailbreak du neuvième jour existait précisément pour tester cela : les campeurs ont passé une séance à essayer d'amener leurs propres bots à enfreindre leurs propres règles, en vertu du principe think like a hacker, but build your chatbots like a defender. (« pensez comme un hacker, mais construisez vos chatbots comme un défenseur. »)
Un garde-fou n'est pas un filtre à gros mots. C'est une règle qui détermine quand un système a le droit de parler.
Essayez vous-même
Voici une vraie question, à laquelle un vrai bot a répondu lors de la vitrine. Classez-la avec ART, regardez la ligne du Golden Record se constituer — puis déplacez la date de Dernière vérification et voyez ce que le garde-fou autorise et n'autorise pas.
Classer avant de répondre
Un voyageur demande : « Qui exploite le terminal des ferries à Niévès ? »
Avant que le bot puisse répondre, l'affirmation doit être classée. Réglez les trois.
La cinquième colonne
Le fait n'a pas changé. Seule a changé la date de sa dernière vérification. Déplacez-la, et regardez ce que le garde-fou laisse dire au bot.
Répond
Le terminal des ferries de Charlestown, à Niévès, est exploité par la NASPA, et non par la SCASPA. Vérifié il y a 12 jours.
Voilà ce qu'est un garde-fou. Pas un filtre à gros mots — une règle qui détermine quand le système a le droit de parler, appliquée dans le code plutôt qu'espérée dans un prompt.
Une illustration pédagogique écrite pour cette publication. La question et les faits sont ceux auxquels PILOT a répondu sur scène ; l'interface de classification est construite, et non une capture d'écran.
Ce que cela a permis
Voilà la mécanique qui sous-tend chaque réalisation de ce livre.
W.E.S qui refuse de communiquer un solde sans jeton valide. PILOT qui affiche ses sources avec la date de leur dernière vérification, et la mention à l'écran précisant qu'une date indique quand un fait a été vérifié, et non la promesse qu'il est toujours vrai. A.I.D.A. qui enveloppe une estimation fiscale dans un avertissement obligatoire. ASPIRE AI strictement ancré dans les circulaires du ministère plutôt que dans l'internet ouvert.
Rien de tout cela n'est une fonctionnalité à laquelle un adolescent de quinze ans pense spontanément. C'est ce que l'on construit quand le nom d'un vrai client va figurer sur le résultat — et tout a commencé avec une table à cinq colonnes et une question : qui le dit ?