Mientras las grandes potencias tecnológicas se disputan el liderazgo en inteligencia artificial (IA), una voz de alarma resuena con fuerza en la cumbre mundial de París: el avance sin control de esta tecnología podría tener consecuencias devastadoras.
La advertencia proviene de Yoshua Bengio, uno de los principales arquitectos del desarrollo de la IA moderna y ganador del Premio Turing 2018, quien expresó su creciente preocupación por los peligros que plantea esta carrera acelerada.
El científico canadiense presentó el primer Informe Internacional sobre Seguridad de la IA, un documento elaborado por un centenar de expertos de 30 países, junto con organismos como la ONU, la OCDE y la Unión Europea. En su intervención, Bengio alertó sobre la posibilidad de que la humanidad pierda el control sobre los sistemas de IA, una amenaza que podría materializarse en la próxima década.
Los peligros de una IA descontrolada
Bengio no solo hizo hincapié en los problemas actuales, como la desinformación y los contenidos falsos generados por IA, sino que también advirtió sobre amenazas aún más serias:
- Ciberataques avanzados que podrían paralizar infraestructuras críticas.
- Manipulación biotecnológica, con el riesgo de desarrollar armas biológicas de manera automatizada.
- Autonomía de la IA, donde los sistemas podrían desarrollar “una voluntad propia de sobrevivir”, generando escenarios de difícil previsión.
En este contexto, el experto criticó el auge de modelos avanzados de IA como DeepSeek, un sistema chino de bajo costo y alto rendimiento, cuya llegada intensificó aún más la competencia global. "La aceleración de esta carrera no es buena para la seguridad", subrayó.
Regulación o colapso: el llamado urgente de Bengio
El informe de Bengio deja en claro un mensaje: sin intervención gubernamental, la situación será insostenible. Actualmente, solo una mínima parte de las inversiones en IA se destinan a investigar su seguridad, lo que podría derivar en un punto de no retorno.
En este sentido, criticó la falta de liderazgo de Estados Unidos en la regulación del sector. Tras la salida de Joe Biden y la llegada de Donald Trump, Washington abandonó los intentos de imponer restricciones al desarrollo de IA.
"Lo que más me asusta es la posibilidad de que la humanidad pueda desaparecer en 10 años. Es aterrador. No sé por qué más gente no se da cuenta de ello", concluyó Bengio, en un llamado de atención que no deja margen para la indiferencia.
Si llegaste hasta acá tomate un descanso con la mejor música
