Pregúntele a un chatbot cuánto cuesta un ferri y se lo dirá. Pregúntele de dónde salió esa cifra y, en la mayoría de los casos, no podrá decirlo; no porque la respuesta esté oculta, sino porque nunca hubo una respuesta que ocultar. La cifra se generó, no se recuperó.
Para un producto de consumo, eso es una molestia. Para una organización, es todo el problema. Un puerto no puede publicar una tarifa sin una fuente que la respalde. Un departamento de recaudación no puede enunciar una tasa que nadie aprobó. La pregunta ¿quién lo dice? no es pedantería: es la diferencia entre un servicio y un riesgo legal.
Por eso la primera regla del campamento no fue sobre Python. Fue esta: un dato debe tener fuente antes de que el bot pueda decirlo.
Clasificar antes de responder
El octavo día le dio nombre a la regla. classify_authority(): una función cuyo único trabajo era preguntar, ante cualquier afirmación, quién tiene derecho a hacerla.
Resultaron ser tres preguntas, no una, y Team Code X le dio a esa forma un acrónimo que el campamento conservó: ART.
Authority (autoridad): ¿quién tiene derecho a decir esto? El sitio oficial de un operador es una autoridad. Un blog de viajes, no. Tampoco lo es la propia memoria del modelo, por fluida que suene.
Register (registro): ¿qué registro lo contiene y en qué voz debe decirse? La palabra cumple una doble función, deliberadamente. Está el sentido de archivo: las tarifas viven en una tabla, las terminales y los operadores en otra, el despacho de carga en una tercera, y una pregunta respondida desde la tabla equivocada produce algo seguro de sí e irrelevante. Y está el sentido que reconocería un lingüista: el registro como la manera de hablar. El mismo dato duro, planteado a un operador portuario y a un viajero nervioso que viaja por primera vez, es un solo dato en dos registros. El personaje del bot no es una decoración encima de la respuesta; es la segunda mitad de su clasificación.
Territory (territorio): ¿de quién es la respuesta? Esta es la que hace tropezar a la gente, y en un programa de ocho territorios hizo tropezar a todos. La terminal de ferris de Basseterre pertenece a la St Christopher Air & Sea Ports Authority (SCASPA). Haga la misma pregunta sobre Nieves y la respuesta cambia por completo de manos: misma pregunta, mismo registro, otra isla, otro dato.
Acierte en las tres y podrá hablar. Falle en una y estará adivinando de un modo que suena a saber.
El Registro de Oro
Para el décimo día, ART se había convertido en una tabla, y la tabla tenía nombre: el Registro de Oro, una Tabla Única de la Verdad con cinco columnas.
Tema. Pregunta. Dato duro. URL de la fuente. Última verificación.
Las cuatro primeras son lo que cabría esperar de cualquier base de conocimiento. La quinta es la que muestra verdadera madurez, porque admite algo que la mayoría de los sistemas no admite: los datos caducan. Una tarifa correcta en julio puede ser errónea en noviembre. Una terminal cambia de operador. Una tasa se revisa.
Un sistema que le dice a uno cuándo lo comprobó por última vez es más honesto que uno que simplemente suena seguro, y es el único tipo que una organización puede defender.
Team ASPIRE fue el que más lejos llevó ese segundo sentido de Register. Skye le responde a un niño de seis años, Kaleb a uno de diez, Zion a un adolescente: tres registros sobre un dato que no se mueve ni un milímetro. Qué son los EC$1,000, dónde se guarda la mitad, qué significa realmente una acción: idéntico en las tres bocas, anclado en las mismas circulares del Ministerio. Solo cambia el registro.
Y sobre el guía hay un segundo dial. Zion puede responder como The Professor o como The Llama: the guide sets the learning level; the personality sets the tone. («el guía fija el nivel de aprendizaje; la personalidad fija el tono»). Dos ejes independientes, ambos de registro, ambos montados sobre un dato fijado antes de aplicar cualquiera de los dos.
Y precisamente por eso se sostiene. Variar cómo se dice algo solo es seguro cuando se tiene certeza de qué se está diciendo; hágalo al revés y no estará adaptando, estará improvisando a tres voces. Primero se fija el dato, luego se elige el registro. En ese orden.
Dónde entran las salvaguardas
Un Registro de Oro le dice a un bot qué puede decir. Las salvaguardas son lo que ocurre cuando no debería hablar.
Los dos son mitades de un mismo mecanismo. El anclaje en fuentes aporta el permiso; las salvaguardas imponen la negativa. Sin lo segundo, lo primero es una sugerencia, y la segunda semana ya había demostrado lo que hace un modelo de lenguaje con una sugerencia.
Por eso las reglas se escribieron como código, en lugar de confiarlas a la esperanza de un prompt. Si no existe fuente, no se responde. Si la fuente es demasiado antigua, se dice, o se deriva. Si la pregunta toca seguridad, aduanas o los registros privados de alguien, se niega y se escala a una persona. El laboratorio de jailbreak del noveno día existía justamente para poner esto a prueba: los campistas pasaron una sesión intentando convencer a sus propios bots de saltarse sus propias reglas, según el principio de think like a hacker, but build your chatbots like a defender. («piensen como un hacker, pero construyan sus chatbots como un defensor»).
Una salvaguarda no es un filtro de groserías. Es una regla sobre cuándo un sistema tiene derecho a hablar.
Pruébelo usted mismo
Abajo hay una pregunta real, respondida por un bot real en la muestra. Clasifíquela con ART, observe cómo se arma la fila del Registro de Oro y luego mueva la fecha de Última verificación para ver qué permitirá la salvaguarda y qué no.
Clasificar antes de responder
Un viajero pregunta: «¿Quién opera la terminal de ferris de Nieves?»
Antes de que el bot pueda responder, hay que clasificar la afirmación. Defina las tres.
La quinta columna
El dato no ha cambiado. Solo la fecha en que se comprobó por última vez. Muévala y observe lo que la salvaguarda le permite decir al bot.
Responde
La terminal de ferris de Charlestown, en Nieves, la opera NASPA, no SCASPA. Comprobado hace 12 días.
Esto es una salvaguarda. No un filtro de groserías, sino una regla sobre cuándo el sistema tiene derecho a hablar, aplicada en código y no confiada a la esperanza de un prompt.
Una ilustración didáctica escrita para esta publicación. La pregunta y los datos son los que PILOT respondió en el escenario; la interfaz de clasificación es una construcción, no una captura de pantalla.
Lo que se ganó
Esta es la maquinaria que hay debajo de cada desarrollo de este libro.
W.E.S negándose a devolver un saldo sin un token válido. PILOT mostrando sus fuentes con la fecha en que se comprobó cada una por última vez, y la línea en pantalla que aclara que una fecha indica cuándo se verificó un dato, no una promesa de que siga siendo cierto. A.I.D.A. envolviendo una estimación de impuestos en un aviso legal obligatorio. ASPIRE AI anclado estrictamente en las circulares del Ministerio y no en internet abierto.
Nada de eso es una función que a alguien de quince años se le ocurra añadir. Es lo que se construye cuando el nombre de un cliente real va a ir en el resultado, y empezó con una tabla de cinco columnas y una pregunta sobre quién lo dice.