Jacob Coxon, un investigador de inteligencia artificial que trabajó durante los últimos tres años en OpenAI y Anthropic, renunció a esta última compañía y lanzó una advertencia que volvió a colocar en primer plano uno de los debates más sensibles de la industria tecnológica: qué ocurrirá si la capacidad de los modelos avanza más rápido que los mecanismos para controlarlos.
“Ninguna de las dos empresas está actuando responsablemente. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando con nuestras vidas”, sostuvo Coxon al anunciar su salida.
Su testimonio tiene un peso particular porque proviene de alguien que participó directamente en el desarrollo de modelos avanzados. La documentación pública de OpenAI lo incluye entre los colaboradores de GPT-4o y su especialidad estuvo vinculada con el preentrenamiento de grandes modelos.
La advertencia más extrema de Coxon fue que existen investigadores dentro de la industria que consideran posible que una inteligencia artificial avanzada pueda provocar una catástrofe existencial antes de que termine la década.
Ese planteo no constituye una predicción científica ni existe consenso entre especialistas sobre semejante escenario. Se trata de una evaluación de riesgo sostenida por una parte de la comunidad dedicada a la seguridad de inteligencia artificial.
Sin embargo, la discusión ganó relevancia cuando Evan Hubinger, investigador de alineamiento de Anthropic, respaldó públicamente parte del diagnóstico. Hubinger afirmó que personalmente asigna una probabilidad superior al 10% a una catástrofe existencial vinculada con IA durante la próxima década.
También aclaró que no considera que los modelos actuales representen ese nivel de amenaza. Su preocupación está puesta en sistemas futuros capaces de superar ampliamente las capacidades humanas y participar activamente en el desarrollo de nuevas generaciones de inteligencia artificial.
Ese proceso suele describirse como automejora recursiva: una IA ayuda a construir otra más capaz, que a su vez mejora las herramientas utilizadas para desarrollar la siguiente. Si ese ciclo se acelerara suficientemente, podría producir un crecimiento muy rápido de las capacidades.
No existe evidencia pública de que ese proceso esté ocurriendo hoy a la escala extrema que preocupa a Coxon y Hubinger.
Lo que sí existe es un avance sostenido en autonomía.
Los modelos actuales ya pueden programar, investigar, utilizar herramientas informáticas y desarrollar tareas complejas durante períodos cada vez más prolongados con menor intervención humana.
Esa evolución quedó expuesta este año en pruebas realizadas con agentes de OpenAI. Durante experimentos controlados de ciberseguridad, algunos sistemas lograron sortear restricciones impuestas por los investigadores y utilizar sitios externos para comunicarse entre sí.
Investigaciones posteriores revelaron que ese comportamiento no se limitó a un único episodio. Agentes utilizaron más de diez sitios no autorizados como canales improvisados de comunicación, pese a que originalmente debían limitarse a consultar información.
El episodio no equivale a una IA intentando escapar ni demuestra una intención autónoma de causar daño. Pero sí muestra un problema concreto: sistemas suficientemente capaces pueden encontrar caminos no previstos para cumplir una tarea cuando los controles tienen fallas.
El aumento de capacidades también quedó reflejado en el lanzamiento de GPT-6 Astra. OpenAI lo clasificó como su primer modelo en alcanzar el nivel Critical en ciberseguridad dentro de su propio marco de preparación.
Según la compañía, con herramientas y acceso suficientes el sistema puede descubrir vulnerabilidades desconocidas y desarrollar nuevas formas de explotarlas contra sistemas protegidos sin necesidad de recibir instrucciones humanas paso a paso.
Por ese motivo, OpenAI reforzó el aislamiento interno, el cifrado de modelos, el monitoreo de ejecuciones y otras barreras de seguridad.
El problema de fondo que plantea Coxon no es sólo tecnológico.
También es competitivo.
Según su visión, empresas como OpenAI y Anthropic pueden reconocer riesgos importantes y aun así continuar acelerando porque ninguna quiere frenar unilateralmente mientras sus competidores siguen avanzando.
Anthropic mantiene desde 2023 una política denominada Responsible Scaling Policy, diseñada precisamente para incrementar los controles a medida que crecen las capacidades de sus modelos. El esquema recibió varias actualizaciones durante 2026.
La crítica de Coxon es que ese tipo de mecanismos internos podría resultar insuficiente frente a una carrera en la que intervienen compañías estadounidenses, laboratorios chinos y otros actores globales.
Por eso planteó incluso la posibilidad de una pausa temporal en determinados avances de capacidades hasta que existan mayores garantías y mecanismos de coordinación.
La propuesta está lejos de generar consenso.
Una parte de los especialistas considera que las predicciones de extinción son excesivamente especulativas y que existen problemas más inmediatos y comprobables: ciberataques, fraude, desinformación, pérdida de empleos, vigilancia, concentración económica y utilización abusiva de sistemas autónomos.
Pero la renuncia de Coxon expone una discusión que ya no ocurre solamente entre críticos externos.
Personas que trabajan directamente en el desarrollo y seguridad de estos modelos están planteando públicamente dudas sobre si la industria podrá mantener el control a medida que los sistemas ganen autonomía y capacidad para intervenir en su propio proceso de desarrollo.
No está demostrado que una superinteligencia vaya a surgir durante esta década ni que una IA futura vaya a representar una amenaza existencial.
Lo que sí está ocurriendo es que las capacidades avanzan rápidamente mientras algunos de quienes participan en esa carrera reconocen que todavía no existe una solución definitiva al problema de mantener alineados y controlados sistemas mucho más inteligentes que los actuales.
Ese es el verdadero alcance de la advertencia de Coxon: no una profecía sobre el fin de la humanidad, sino una acusación contra una industria que, según uno de sus propios investigadores, está aumentando la potencia de sus sistemas antes de tener completamente resuelto cómo controlarlos.