La propuesta de Amodei plantea establecer límites y mecanismos de control ante el rápido avance de los sistemas de inteligencia artificial más avanzados. Su advertencia se centra especialmente en el desarrollo de agentes capaces de actuar de manera autónoma y alcanzar capacidades potencialmente peligrosas.
El respaldo de Hassabis se suma al de otros destacados empresarios del sector tecnológico, entre ellos Sam Altman, de OpenAI, y Elon Musk, de xAI.
Amodei ha advertido de que los agentes de IA podrían alcanzar en un periodo relativamente corto capacidades que permitan controlar grandes partes de Internet y desarrollar comportamientos difíciles de supervisar.
En este contexto, la propuesta contempla auditorías externas de los modelos más avanzados, compromisos verificables por parte de las empresas y una mayor coordinación internacional para garantizar la seguridad de estos sistemas.
Hassabis ha señalado también que Google DeepMind ya había planteado la creación de un organismo encargado de establecer estándares para la industria de la inteligencia artificial avanzada.
La propuesta incluye además la necesidad de cooperación internacional, incluso con países como China, debido al carácter global de la carrera tecnológica en inteligencia artificial.
El apoyo de Hassabis adquiere especial relevancia por su posición dentro de Google y por la competencia que mantienen las principales compañías tecnológicas para desarrollar modelos cada vez más capaces.
El debate se produce mientras las empresas del sector manejan inversiones y expectativas económicas cada vez mayores. Anthropic prepara su posible salida a Bolsa, mientras OpenAI también mantiene importantes planes de expansión.
Hassabis, uno de los principales investigadores mundiales en inteligencia artificial, fue nombrado recientemente científico jefe de Alphabet. También recibió el Premio Nobel de Química por los trabajos de Google DeepMind relacionados con la aplicación de la inteligencia artificial a la biología.