La IA que se construye a sí misma: la automejora recursiva después del caso Coxon

Todos hemos hablado del investigador que dimitió de Anthropic. Durante días, en septiembre, los titulares persiguieron los porcentajes de riesgo, la palabra superinteligencia, el fin de la humanidad. Yo también escribí sobre ello en caliente, porque esa noticia merecía ser contada. Hoy sin embargo, pasado el clamor, creo que la reflexión debe volverse más técnica y, si es posible, más honesta. Porque hay un documento que explica mejor que cualquier titular qué estaba denunciando Jacob Coxon: el estudio de Anthropic sobre la automejora recursiva, publicado tres meses antes de su dimisión. En Italia lo han leído pocos. Intentemos leerlo juntos.

En breve. La automejora recursiva, en inglés recursive self-improvement, es el escenario en el que un sistema de inteligencia artificial se vuelve capaz de diseñar y desarrollar por sí solo a su propio sucesor. Según el estudio de Anthropic «When AI builds itself», publicado en junio de 2026 y actualizado en septiembre, aún no hemos llegado y no es un escenario inevitable. Pero la IA ya escribe más del 80% del código dentro de la propia Anthropic, y el papel humano se está reduciendo a dos tareas: dar la dirección y verificar. El primer límite que encontraremos, escriben los autores, será precisamente nuestra capacidad de verificar.

Qué es la automejora recursiva

Empecemos por las palabras, porque aquí se hace mucha confusión. Cuando oímos decir «una IA que se mejora a sí misma» imaginamos un programa que por la noche reescribe su propio cerebro y por la mañana se despierta más inteligente. Es una imagen potente, pero no es la que describe el estudio.

La definición de Anthropic es más sobria y, permítanme decirlo, precisamente por eso más inquietante: un sistema de IA «capaz de diseñar y desarrollar de forma completamente autónoma a su propio sucesor». No el modelo que se modifica a sí mismo, sino el modelo que hace el trabajo de las personas que construyen el modelo siguiente. Escribe el código, lo corrige, propone los experimentos, los ejecuta, lee los resultados y decide el siguiente paso.

En mi artículo de septiembre escribía que los modelos actuales no pueden modificar su propio código fuente. Sigue siendo cierto literalmente. Pero el estudio nos obliga a cambiar de pregunta: no importa tanto si un modelo puede modificarse a sí mismo, importa cuánta parte del trabajo que lleva al modelo siguiente ya la hace un modelo. Y la respuesta, como veremos, es: mucha más de lo que pensábamos.

Las cinco etapas: de la persona al ciclo cerrado

En el estudio hay un esquema que vale más que muchas páginas, y que intentaré contarles con palabras. Muestra cinco etapas, una debajo de otra. En cada una, las herramientas disponibles producen un nuevo modelo de IA, y ese modelo se convierte a su vez en una herramienta de la etapa siguiente.

1. La persona y el ordenador. Es el mundo de hace algunos años: investigadores e ingenieros que escriben código a mano y construyen el modelo.
2. La persona, el ordenador y el chatbot. El modelo recién nacido entra en el trabajo de quien construye el próximo, como asistente al que consultar.
3. La persona, el ordenador, el chatbot y el agente. La IA ya no solo responde: ejecuta tareas, escribe código, lanza pruebas.
4. La persona y un equipo de agentes. No un asistente, sino muchos agentes que trabajan en paralelo, coordinados por un ser humano.
5. El ciclo cerrado. En la última etapa la persona ya no está. Un agente coordina cientos de otros agentes, su trabajo produce el modelo siguiente, y ese modelo vuelve al inicio del ciclo para construir el próximo.

Esta última imagen es la automejora recursiva. Y es aquí donde hay que ser precisos: el estudio es claro en que la quinta etapa aún no ha llegado. Por lo que describe, sin embargo, el trabajo dentro de Anthropic ya se parece mucho a la cuarta. Y el paso de una etapa a otra no ha sido un salto repentino, ha sido un deslizamiento lento. Cada mes un poco más de trabajo pasa de las personas a las máquinas.

A qué punto estamos realmente: los números del estudio

Los números que Anthropic publica sobre sí misma son, en mi opinión, más elocuentes que todos los titulares salidos en septiembre. Reporto algunos, tal como los escribe el estudio.

• Más del 80% del código integrado en la base de código de Anthropic, en mayo de 2026, fue escrito por Claude, el modelo de la empresa.
• Los ingenieros de Anthropic producen aproximadamente ocho veces más código de lo que hacían entre 2021 y 2025.
• La duración de las tareas que un modelo consigue completar solo se duplica aproximadamente cada cuatro meses, según las mediciones de la organización independiente METR. Esto significa que si un Agente hoy consigue trabajar en una Tarea durante 1h seguida, dentro de 4 meses conseguirá hacerlo durante 2h seguidas. Hasta hace poco tiempo la duplicación de la duración de una tarea requería un intervalo de siete meses.
• En un experimento sobre un problema de investigación, dos investigadores en una semana cubrieron aproximadamente el 23% de la distancia hacia la solución. Los agentes de IA llegaron al 97% en el mismo tiempo.
• Con la actualización de septiembre, las tasas de éxito de los modelos en todos los tipos de tarea medidos por el estudio se acercan al 90%.

Hay además una frase, ligada a ese experimento, que por sí sola cuenta el cambio: «Direction-setting was the only meaningful role a human played». Dar la dirección fue el único papel realmente significativo desempeñado por un ser humano.

Por honestidad hay que decir también el resto, porque el estudio lo dice con claridad. Los autores escriben: «We are not there yet, and recursive self-improvement is not inevitable». Aún no hemos llegado, y la automejora recursiva no es un escenario inevitable. Y cuando citan la encuesta interna según la cual los empleados se sienten aproximadamente cuatro veces más productivos, admiten que la ganancia real probablemente fue un poco inferior. No es un manifiesto apocalíptico. Es una empresa que mide cuánto está delegando, y se da cuenta de que está delegando mucho, y cada vez más rápido.

El hilo que une el estudio a la dimisión de Jacob Coxon

Pongamos en fila las fechas, porque por sí solas ya cuentan mucho.

1. Junio de 2026. Anthropic publica «When AI builds itself», firmado por Marina Favaro y Jack Clark.
2. 8 de septiembre de 2026. Jacob Coxon, 27 años, investigador que había trabajado en el entrenamiento de modelos primero en OpenAI y luego en Anthropic, dimite y explica públicamente que los laboratorios están corriendo hacia una inteligencia capaz de mejorarse a sí misma, sin garantías suficientes.
3. Pocos días después. El mismo Dario Amodei, al frente de Anthropic, invita públicamente a ralentizar el ritmo con el que crecen las capacidades de los modelos.
4. 18 de septiembre de 2026. El estudio se actualiza con datos aún más contundentes.

¿Ven el punto? Coxon no reveló un secreto. Dio un rostro, y una elección personal, a una tendencia que la empresa ya había puesto por escrito. Y sus peticiones, un acuerdo entre los laboratorios para no dirigirse directamente hacia la automejora recursiva y una forma de supervisión internacional, no están lejos de aquellas con las que se cierra el estudio: tener la posibilidad de ralentizar, o incluso de poner en pausa durante un período el desarrollo de los sistemas más avanzados, con herramientas que permitan verificar que también los demás lo estén haciendo realmente. E involucrar en la decisión también a quien no trabaja en las empresas de IA.

En septiembre el relato era el del investigador valiente contra la empresa que corre. Leída hoy, la historia es otra, y según yo más seria: hay un fenómeno que quien trabaja dentro lo ve con gran claridad, y hay dos modos distintos de reaccionar. Irse y dar la alarma, o medirlo, publicarlo y pedir reglas comunes. No se excluyen, se complementan.

El verdadero cuello de botella somos nosotros

Y aquí llegamos a la parte que, como quien trabaja cada día con estas herramientas, considero la más importante de todo el estudio. Está escrita casi de pasada, en un párrafo sobre el futuro del trabajo: si las personas no consiguen revisar el código a la misma velocidad con la que Claude lo produce, «human review will become the bottleneck to AI development». La revisión humana se convertirá en el cuello de botella del desarrollo de la inteligencia artificial.

Detengámonos un momento en esta frase. Una persona lee con atención, en el mejor de los casos, algunos cientos de palabras por minuto, y muchas menos si debe realmente entender un código o un contrato. Un modelo produce miles en el mismo minuto, sin cansarse, a cualquier hora. No es una diferencia que se colme leyendo más rápido o haciendo más horas extra. Es una asimetría estructural entre la velocidad con la que la IA produce y la lentitud con la que un ser humano puede verificar.

Es exactamente la trayectoria que el estudio describe a escala industrial. En Anthropic un revisor automático basado en Claude ya controla cada modificación antes de que sea integrada, y según la empresa habría interceptado aproximadamente un tercio de los errores en el origen de viejos incidentes. En el escenario extremo, el del ciclo cerrado, a los seres humanos les quedarían tres tareas: supervisión, validación y verificación.

Y es aquí donde el discurso deja de concernir solamente a los laboratorios de California.

Qué significa para las empresas italianas

Ninguna empresa italiana está a punto de construir una superinteligencia, y es justo decirlo para no alimentar miedos inútiles. Pero la asimetría entre la velocidad de la IA y la lentitud de la verificación humana ya ha entrado en nuestras oficinas. La veo en las empresas que acompaño y en las aulas de formación: informes generados en treinta segundos y aprobados en diez, documentos resumidos y nunca releídos, código integrado porque al fin y al cabo funciona. La famosa "Prohibición de Confianza Ciega" es completamente eludida por una ahora "Aclamada Confianza Ciega" y esto es un gran problema.

Hay un nombre para esta actitud: sesgo de automatización, la tendencia a confiar más de lo debido en lo que produce una máquina. No es una obsesión de académicos. La AI Act europea, en el artículo 14, pide expresamente que quien supervisa un sistema de alto riesgo sea puesto en condiciones de permanecer consciente precisamente de esta tendencia. Y la obligación de alfabetización sobre inteligencia artificial, de la que he hablado en mi punto sobre la AI Act, sirve también para esto: no para aprender a escribir un prompt perfecto, sino para entender cuándo no fiarse de la respuesta.

El punto, sin embargo, es práctico antes que normativo. Si la verificación humana es el nuevo cuello de botella, la competencia que cuenta ya no es solo saber usar la IA. Es saber diseñar la verificación. En concreto, significa:

1. decidir antes, no después: establecer qué hace bueno un resultado antes de pedir a la IA que lo produzca;
2. verificar en función del riesgo: releer todo lo que es crítico, controlar por muestreo el resto, y saber por qué se hace así;
3. hacer controlar las máquinas a las máquinas, donde se pueda: controles automáticos, verificaciones cruzadas, reglas que se dan cuenta solas cuando algo no va bien;
4. pedir resultados pequeños y verificables, con las fuentes y los puntos inciertos declarados, en lugar de grandes bloques a aprobar por confianza.

Quien desarrolla software con los agentes de IA ha llegado primero a esto, y es por eso que hablo de ello a menudo también en la sección vibe coding. Pero vale para una asesoría jurídica, para un departamento de marketing, para una administración.

Las preguntas que me hacen más a menudo

¿La IA hoy ya se mejora a sí misma? No, no en el sentido pleno del término. Según el mismo estudio de Anthropic aún no hemos llegado: las personas todavía deciden la dirección y aprueban el trabajo. Pero una parte muy grande del trabajo técnico que lleva a los nuevos modelos ya la realiza la IA.

¿Qué diferencia hay entre automejora recursiva y superinteligencia? La automejora recursiva es un proceso: la IA que construye la IA siguiente. La superinteligencia es un posible punto de llegada: un sistema más capaz que los seres humanos en casi todas las tareas. El temor de quien, como Coxon, ha lanzado la alarma es que la primera acelere muchísimo la llegada de la segunda.

¿Qué puede hacer una empresa, hoy? Formar a las personas no solo para usar la IA, sino para verificarla. Y repensar los procesos de modo que el control humano esté diseñado, no dejado a la buena voluntad de quien tiene poco tiempo.

Lo que nos deja este estudio

La automejora recursiva no será un evento que suceda de repente, con un titular en primera página. Es una curva, y ya estamos sobre ella. Cada mes delegamos un poco más, y cada mes nuestro papel se desplaza un poco más arriba: menos ejecución, más dirección, más verificación.

La dimisión de Jacob Coxon nos recordó que esta curva tiene un extremo que da miedo. El estudio de Anthropic nos recuerda algo menos espectacular pero quizás más urgente: el primer límite que encontraremos no será técnico, será humano. Será nuestra capacidad de entender, a tiempo, qué estamos aprobando.

Por esto creo que la pregunta a hacerse, en un laboratorio de Silicon Valley como en una pequeña empresa italiana, no es «¿cuánto puede hacer la IA sola?», sino «¿cuánto conseguimos todavía verificar de lo que hace?». Mientras la respuesta sea suficiente, la inteligencia artificial sigue siendo la herramienta más extraordinaria que hayamos tenido nunca entre las manos. El día en que la respuesta se convierta en ya no, deberemos tener el valor de ralentizar.

---

Fuente principal

Marina Favaro y Jack Clark, «When AI builds itself», The Anthropic Institute, junio de 2026, actualizado el 18 de septiembre de 2026. Las citas en inglés y los datos de este artículo provienen de este estudio, salvo donde se indique.

Para profundizar

• Si dimette ricercatore di Anthropic preoccupato dalle AI autoaggiornanti, mi artículo de septiembre sobre el caso Coxon.
• Reglamento europeo sobre inteligencia artificial, artículo 14, sobre la supervisión humana.