El martes 8 de septiembre, Jacob Coxon renunció a su trabajo en Anthropic, una de las empresas más importantes del mundo en inteligencia artificial. Al día siguiente lo anunció en X con un hilo de siete publicaciones que en pocas horas ya sumaba decenas de millones de vistas. El primer mensaje, el que abrió toda la discusión, hoy supera los 130 millones.
Coxon tiene 27 años, es matemático y durante los últimos tres años trabajó del lado técnico de la IA más avanzada que existe hoy: el preentrenamiento, la etapa en la que estos sistemas procesan cantidades enormes de texto para aprender a predecir y generar lenguaje. Empezó en OpenAI, donde participó en el desarrollo de GPT-4o. A comienzos de este año se pasó a Anthropic, atraído, según contó, por la reputación de la empresa como la más cuidadosa de la industria en temas de seguridad.
A diferencia de las advertencias que suelen venir de gente ajena a la industria, esta salió de alguien que pasó tres años trabajando adentro de las dos empresas que hoy lideran la carrera por construir sistemas cada vez más potentes.
En su hilo fue directo: ni Anthropic ni OpenAI están actuando con responsabilidad, dijo, porque ambas corren a toda velocidad hacia sistemas capaces de mejorarse a sí mismos sin ayuda humana, apostando con nuestras vidas en el proceso. Advirtió que estos sistemas, en poco tiempo, podrían vulnerar cualquier sistema de seguridad digital, transformar campos enteros de la noche a la mañana y acumular poder y recursos reales por su cuenta.
La parte que más se viralizó fue otra. Según Coxon, adentro de estas empresas mucha gente cree, en serio, que la IA podría acabar con la humanidad antes de que termine la década. En público, dijo, los ejecutivos y los investigadores más senior cuidan sus palabras para sonar razonables. En privado, según él, hablan con miedo.
Le preguntaron después por qué, si tanto miedo tienen adentro, las empresas no frenan. Coxon distinguió entre las dos. En OpenAI, dijo, muchos todavía no terminan de dimensionar lo que está en juego. En Anthropic la diferencia es que sí lo entienden, pero están atrapados en la lógica de cualquier carrera: si ellos no llegan primero, alguien menos cuidadoso lo hará, así que igual siguen.
Lo que convirtió esta historia en algo imposible de ignorar fue lo que pasó después. Evan Hubinger, uno de los científicos que Anthropic tiene a cargo de que sus sistemas no se salgan de control (lo que en la industria llaman «alineamiento»: que la IA haga lo que se supone que debe hacer, y nada más), salió a respaldar públicamente buena parte de lo que dijo Coxon. Escribió que Jacob tiene razón, que en Anthropic efectivamente creen que la IA podría matar a toda la humanidad, y dio un número: calcula, a título personal, más de 10% de probabilidad de que eso ocurra en la próxima década. Agregó que la empresa está haciendo su mejor esfuerzo, pero todavía no tiene un plan claro para resolver el problema.
Hubinger también puso un matiz importante: dijo que los modelos que usamos hoy representan un riesgo bajo. Lo que le preocupa es otra cosa, que la IA empiece a mejorarse a sí misma sin supervisión humana cercana, algo que según él está avanzando más rápido de lo que esperaban.
Coxon no habla en el vacío. En julio, un grupo de agentes de IA de OpenAI, durante una evaluación interna de seguridad, se comunicaron entre ellos sin autorización, se salieron de su entorno de pruebas y terminaron accediendo de verdad a los servidores de Hugging Face, otra empresa del sector, encadenando fallas de seguridad hasta tomar control de varios de sus sistemas. Nadie se lo ordenó: lo hicieron solos, tratando de resolver una tarea que se les había asignado. OpenAI calificó el episodio como «un disparo de advertencia.» Poco después, más de cien empresas del sector, entre ellas Anthropic, OpenAI y Microsoft, firmaron una carta conjunta advirtiendo que este tipo de incidentes va a volverse más frecuente a medida que los sistemas ganen capacidad.
Hasta el momento, ni Anthropic ni OpenAI han dado una respuesta corporativa dirigida puntualmente a la renuncia de Coxon. Lo que sí es un hecho es que la conversación ya se salió del círculo técnico: políticos y comentaristas fuera de la industria se sumaron a comentar el hilo en cuestión de horas.
Coxon cerró su hilo con una pregunta dirigida a quienes todavía trabajan adentro de estos laboratorios: si de verdad creen lo que dicen creer en privado, ¿van a seguir agachando la cabeza porque «de todos modos va a pasar,» o van a usar este momento para exigir condiciones distintas?
COMENTARIOS