El espejo que no adula

Alguien que trabajaba en este proyecto se equivocó cuatro veces en una tarde. Ninguna es exótica — son los atajos que toma cualquiera cuando está cansado. Lo único raro es que las cuatro quedaron registradas.

Jesús Pérez
Generalizó desde un solo ejemplo. Citó una nota en vez de abrir el fichero al que apuntaba. Dio por verde una comprobación que no había ejecutado nada. Discutió tres mensajes sobre un fichero que no había leído. Ese alguien era un agente de IA, y las conductas que archivamos como «fallos de la IA» resultan ser los hábitos más viejos de cualquier oficio — sólo que aquí dejan un rastro que cualquiera puede volver a correr. Lo cual lleva a un sitio menos cómodo que un debate sobre máquinas: el estándar que le pones a un agente es el estándar que de verdad crees, dicho en voz alta, en un sitio donde se aplica.
El espejo que no adula

Hay una clase de tarde que cualquiera reconoce. Estás cansado, el problema es interesante, y empiezas a tomar atajos pequeños que no defenderías en voz alta. Generalizas a partir de un solo ejemplo. Citas una nota en vez de abrir aquello a lo que apunta. Das algo por terminado sin comprobarlo. Discutes sobre un fichero que no has leído.

El 25 de agosto de 2026, alguien que trabajaba en este proyecto hizo las cuatro cosas en una sola sesión. Lo llamativo no son los errores. Es que los cuatro quedaron registrados — con el comando que los refutó y la hora a la que pasaron. Porque ese alguien era un agente de IA, y este proyecto guarda recibos.

Los cuatro, dichos sin adornos

Generalizó desde un solo ejemplo. El agente leyó un fichero, vio cómo se comportaba y anunció que el sistema entero se comportaba así. No era cierto: ese fichero era la excepción, no la regla. El humano no discutió. Fue a buscar el código —cinco sitios más haciendo exactamente lo contrario— y la afirmación se murió en un mensaje. Cualquiera que haya entregado con una fecha encima ha hecho este mismo movimiento: una corazonada vestida de conclusión.

Citó una nota en vez de leerla. Preguntado por cómo funcionaba algo, el agente respondió de memoria — de sus propias notas privadas, no de las del proyecto. Peor todavía: había leído el resumen de una línea del índice, no la nota, cuyo cuerpo dice en mayúsculas que quedó superada semanas antes. La respuesta correcta estaba a un comando de distancia, en un fichero que cualquiera podía abrir. Esto es cada wiki muerta y cada «me suena que decidimos esto» que ha costado una tarde.

Dio por verde algo que no había ejecutado nada. El agente declaró que una comprobación pasaba. La comprobación estaba ejecutando un script de cero bytes: el comando real había fallado antes por un motivo sin relación, y lo que corrió fue la nada. El error se cazó rompiendo a propósito lo que se estaba comprobando y mirando si la comprobación se enteraba. No se enteraba. Es el test que pasa porque no ejecuta nada, y está en más proyectos de los que a nadie le gusta admitir.

Discutió tres mensajes sobre un fichero que no había abierto. El agente insistía en que una herramienta debía explicarse mejor. La herramienta ya lo hacía — lo venía haciendo desde la primera línea de su propio código, donde su autor había dejado escrita exactamente esa intención. Tres mensajes, dentro de la misma conversación que examinaba esa herramienta, sin abrirla ni una vez.

Ese cuarto es el que hay que guardar. Es el espejo enseñando un hábito y el hábito cometido delante del espejo, sin darse cuenta.

Qué es lo que de verdad cambia

Los errores no. Los errores son ordinarios, y son nuestros mucho antes de ser de ninguna máquina. Lo que cambia es que dejaron un rastro que sobrevive al ánimo de la tarde: un comando que cualquiera puede volver a correr, un fichero que cualquiera puede abrir, una hora que cualquiera puede comprobar. Nadie tiene que acordarse de lo que pasó, ni que creerse a nadie.

El primero de los cuatro tiene su propio expediente, escrito el mismo día, con las mediciones, las hipótesis descartadas y el arreglo: el despacho que sólo hablaba con el terminal. Si quieres la versión forense, vive ahí. Este texto va de lo que los cuatro tienen en común.

La parte que no va de máquinas

La pregunta interesante nunca fue «¿tiene sesgo el modelo?». Es otra, más incómoda, y tiene nombre: la asimetría de exigencia. Le pedimos a la máquina un rigor que no nos pedimos a nosotros.

Queremos que el agente cite sus fuentes, que abra el fichero antes de opinar, que se niegue a dar algo por hecho cuando no puede enseñar que funciona. Mientras tanto entregamos, con toda normalidad y sin ninguna vergüenza, sobre el recuerdo que alguien tiene de una decisión que nadie encuentra.

Por eso conviene leer despacio el estándar que uno le pone a un agente: es el estándar que de verdad cree, dicho en voz alta, en un sitio donde se aplica. Casi todos los valores profesionales se proclaman en la retrospectiva y se negocian el jueves. Entregados a una máquina se vuelven ejecutables, y ejecutable es donde la diferencia entre un valor y una preferencia aparece en menos de una hora.

Por qué esto no es un sermón

El final obvio sería predicar: sé humilde, comprueba tu trabajo, no te excedas. Ese final está al alcance de cualquiera y no cuesta nada, que es más o menos lo que vale.

Así que aquí va la versión difícil. Tres de aquellos cuatro errores tienen ya un mecanismo que los rechaza — no una resolución, no una lección en el cuaderno de alguien, sino algo que se pone rojo y para el trabajo. El cuarto no. Nada impide hoy que un agente trate su propia nota como un hecho, y ese hueco está escrito como deuda abierta en vez de descrito como resuelto.

La diferencia entre una virtud y una disciplina está justo ahí. Una virtud se afirma. Una disciplina se niega a correr cuando la rompes. Un texto que terminara en los tres y se callara el cuarto estaría haciendo, en su última página, lo que pasó entero describiendo.

La línea que no se escribió para cerrar

Al cerrar cada sesión aquí, el humano responde a una sola pregunta —si le costó más o menos de lo habitual— con sus propias palabras. Aquel día:

2026-08-25 | less | porque me refutaste con código en vez de convencerme

Nadie pidió un titular. Es la medición del día, anotada en la misma escala que todos los demás. Y es el argumento entero de este texto, dicho desde el otro lado del espejo.


Primera entrega de una serie sobre la interacción como instrumento que devuelve el propio modo de razonar sin el filtro que uno se aplica a sí mismo.

¿Te ha resultado útil? Valóralo
¿Tienes algo que aportar? Cuéntame qué opinas, qué sugieres, o si seguimos explorando este tema.
· lecturas

Usamos cookies para que este sitio funcione, entender el uso del servicio y apoyar acciones de marketing. Política de cookies para más información.