OpenAI, Anthropic y Google DeepMind comenzaron a discutir la creación de un organismo común destinado a evaluar la seguridad de los modelos de inteligencia artificial más avanzados antes de que lleguen al público.
La iniciativa retoma una propuesta de Demis Hassabis, CEO de Google DeepMind, para conformar una entidad inspirada en FINRA, el organismo autorregulador de la industria financiera estadounidense. La idea contempla pruebas técnicas independientes y estándares comunes para los llamados modelos de frontera. Las conversaciones entre las compañías llevan varias semanas, aunque todavía no existe un acuerdo definitivo sobre su estructura o facultades.
El debate se aceleró en medio de una sucesión de advertencias provenientes de la propia industria. Dario Amodei, CEO de Anthropic, pidió reducir el ritmo de desarrollo de los modelos más poderosos, planteo que recibió respaldo público de Sam Altman y Elon Musk. También investigadores que dejaron Anthropic y Google DeepMind advirtieron sobre riesgos extremos asociados con sistemas futuros mucho más capaces que los actuales.
La discusión, sin embargo, no gira solamente alrededor de la seguridad. Aidan Gomez, cofundador de Cohere, cuestionó que un pequeño grupo de compañías dominantes pueda terminar definiendo las reglas para toda la industria y advirtió sobre el riesgo de que la seguridad se convierta en una barrera para nuevos competidores.
Ese reparo también llegó al terreno regulatorio. El presidente de la Comisión Federal de Comercio de Estados Unidos expresó reservas frente a los pedidos de algunas empresas para obtener excepciones antimonopolio que les permitan coordinar determinadas políticas de seguridad.
El sector ya cuenta desde 2023 con el Frontier Model Forum, creado por Anthropic, Google, Microsoft y OpenAI para compartir investigaciones y estándares de seguridad. La propuesta actual apunta a dar un paso adicional: establecer evaluaciones más estructuradas de los modelos antes de su lanzamiento.
Mientras las empresas buscan algún mecanismo común, la discusión de fondo sigue abierta: cuánto debe autorregularse la industria y cuánto control debe quedar en manos de gobiernos, organismos independientes y actores externos a las propias compañías que desarrollan la tecnología.