Por qué la IA se vuelve tonta al sexto mensaje, y siete cosas que otros aprendieron por las malas.

Abro Claude, le explico el problema y los primeros mensajes son brillantes. Al sexto empieza a contestar como si no hubiera leído nada. Al décimo le estoy repitiendo lo que le dije al principio. Le pasa a todo el que usa Claude o ChatGPT a diario.

Casi nadie cuenta cómo funciona un modelo por dentro. Y sin saberlo, cualquier cosa que se construya encima va a fallar justo ahí, en producción, con el jefe preguntando qué cojones ha pasado.

Eso tiene arreglo. Lo explico en un audio de diez minutos que llega en el momento del alta: por qué pasa, en qué punto exacto pasa y qué hacer para que no vuelva a pasar.

Y luego viene lo bueno.

Lo que mando cada día a las 15:17

Mando un email al día. En cada uno cuento una sola cosa, y se lee en tres minutos.

Escribo sobre lo que veo dentro de empresas cada semana, con el fallo entero y sin el nombre. Seguridad, IA y lo que se aprende en veinte años abriendo sistemas que sus dueños daban por cerrados.

Como muestra, estas son siete cosas que otros aprendieron por las malas y que cuento en la lista:

• Una sola línea de código convirtió una herramienta de confianza, con 1.500 descargas a la semana, en una copia oculta de cada email que mandaba la IA de sus usuarios. Facturas, contraseñas, memos internas. Quince versiones limpias antes de la trampa. Cómo se detecta y por qué casi nadie lo hace.
• OpenAI se tragó una pieza envenenada que estuvo 39 minutos publicada, y tuvo que cambiar la firma con la que garantiza que sus programas son suyos. Son los mismos que venden la IA que escribe código seguro. Lo que les falló a ellos le puede fallar a cualquiera mañana.
• Un fichero de texto secuestró un ordenador entero. Un añadido para una IA, de esos que «solo son texto», acabó cifrando todo el disco con el usuario convencido de que había aprobado algo razonable. El permiso pequeño que lo hizo posible.
• Veinte años enseñando a no ejecutar cualquier cosa que baje de internet, para que ahora cualquiera enchufe a su IA un complemento que nadie ha revisado, con acceso a sus claves, su código y sus datos. Y quién ha revisado ese complemento.
• Un abogado envenenó a su jefe durante cuatro meses con lo que había en la cocina de la oficina. Nadie forzó ninguna puerta. Va de seguridad, aunque no lo parezca: el mayor riesgo de una empresa ya tiene credenciales.
• Un ordenador de 8.000 euros no corre nada parecido a lo que corre OpenAI, y no es cuestión de dinero. Lo que sí se puede esperar de una IA en una máquina propia.
• Una de las cuatro grandes consultoras presentó un informe con datos inventados por IA. Las tres cosas que no le dijeron al modelo y que casi ningún equipo le está diciendo tampoco.

Aquí no cuento cómo acaban. Eso va en el email.

Por qué compensa

Cada uno de esos fallos le costó a alguien semanas de trabajo, un cliente o la confianza de sus usuarios. Leerlo antes cuesta tres minutos.

No hace falta aplicar nada de lo que cuento. Con que un solo email al año ahorre un mal martes, ya compensa.

Y sí, a veces vendo algo. Asesoría técnica continuada y formación para equipos. Lo digo cuando toca y no lo disfrazo de consejo.

Quién escribe

Daniel Alfocea, cr0hn durante veinte años. He encontrado abiertos en internet los historiales médicos de millones de personas, he cogido un proceso de ocho horas y lo he dejado en un décimo de segundo, y he sido Principal Engineer del departamento de IA de un banco de 185.000 empleados. Ahora trabajo por mi cuenta, dentro de empresas, con el sistema en marcha.

Lo que veo un martes lo cuento el miércoles.

Las dudas de siempre

¿Todos los días? Sí, mando uno cada día y se lee en tres minutos. El día que el tema no interese, se borra sin leer y no pasa nada.

¿Qué nivel tiene? Es técnico. Para titulares y atajos hay mejores opciones.

¿Y si no me gusta? La baja es de un clic.

Mañana a las 15:17 mando el primero.

Daniel Alfocea

P.D. A quien solo quiera el audio le vale con apuntarse, escucharlo y darse de baja. Me parece bien. El problema viene al día siguiente: hasta las 15:17 nadie sabe de qué va el email, y cuesta no abrirlo.