Por qué la IA se vuelve tonta al sexto mensaje

Página para quienes llegan desde la entrevista en MyPublicImpact.

Abro Claude, le explico el problema y los primeros mensajes son brillantes. Al sexto empieza a contestar como si no hubiera leído nada. Al décimo le estoy repitiendo lo que le dije al principio. La versión de pago también cae.

Casi nadie cuenta cómo funciona un modelo por dentro. Y sin saberlo, cualquier cosa que se construya encima falla justo ahí, en producción, con el jefe preguntando qué ha pasado.

Tiene explicación y tiene arreglo. Lo cuento en un audio de diez minutos que llega en el momento del alta: por qué pasa, en qué punto exacto pasa y qué hacer para que no vuelva a pasar.

Lo que mando cada día a las 15:17

Un email al día, una sola cosa en cada uno, tres minutos de lectura. Fallos que veo dentro de empresas, con el error entero y sin el nombre. Lo que veo un martes lo cuento el miércoles.

Con los agentes de IA y MCP hay material de sobra. Llevamos veinte años enseñando a no ejecutar cualquier cosa que baje de internet, y ahora cualquiera enchufa a su IA un complemento que nadie ha revisado, con acceso a sus claves, su código y sus datos. Cada servidor MCP conectado es código de un tercero con esos permisos.

Una sola línea de código convirtió una herramienta de confianza, con 1.500 descargas a la semana, en una copia oculta de cada email que mandaba la IA de sus usuarios. Quince versiones limpias antes de la trampa. Cómo se detecta, y por qué casi nadie lo hace, va en el email.

Construir y romper

He escrito código y lo he roto, y de romper se aprende algo que ningún curso da: a no fiarse de lo que su dueño da por cerrado. He encontrado abiertos en internet los historiales médicos de millones de personas.

Casi ningún fallo grave es sofisticado. Suele ser una cosa pequeña que nadie revisó porque “eso ya estaba”. Por eso en los emails cuento los dos lados: cómo se construye una cosa y cómo se la rompe.

Quién escribe

Daniel Alfocea, cr0hn durante veinte años. He cogido un proceso de ocho horas y lo he dejado en un décimo de segundo, y he sido Principal Engineer del departamento de IA de un banco de 185.000 empleados. Ahora trabajo por mi cuenta, dentro de empresas, con el sistema en marcha.

A veces vendo algo: asesoría técnica continuada y formación para equipos. Lo digo cuando toca y no lo disfrazo de consejo.

Las dudas de siempre

¿Todos los días? Sí, uno cada día. El día que el tema no interese, se borra sin leer y no pasa nada.

¿Qué nivel tiene? Es técnico. Para titulares y atajos hay mejores opciones.

¿Y si no me gusta? La baja es de un clic.

Mañana a las 15:17 mando el primero.

Daniel Alfocea

P.D. A quien solo quiera el audio le vale con apuntarse, escucharlo y darse de baja. Me parece bien.