El rápido crecimiento de la inteligencia artificial ha provocado una coincidencia poco común entre tres figuras que compiten directamente en esta industria; Elon Musk, Sam Altman y Dario Amodei, quienes han planteado la necesidad de prestar mayor atención a los riesgos que acompañan el desarrollo de sistemas cada vez más avanzados.
Amodei, responsable de Anthropic, publicó un planteamiento en el que pidió a las compañías tecnológicas bajar el ritmo de la carrera por aumentar las capacidades de sus modelos.
Amodei considera que los avances podrían llegar a un punto en el que los sistemas sean capaces de desarrollar nuevas habilidades a una velocidad superior a la capacidad de los investigadores para entender cómo funcionan y establecer mecanismos efectivos de control.
“Hay peligros reales. Durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”, sostuvo durante una entrevista con CBS.
El planteamiento también recibió el respaldo de Sam Altman, quien señaló que OpenAI está dispuesta a permitir la participación de evaluadores externos de seguridad con acceso a sus sistemas. Musk, por su parte, reaccionó al planteamiento de Amodei con un mensaje breve: “Dario tiene razón”.
Una carrera que genera dudas
Entre los escenarios que preocupan a los especialistas se encuentran el uso de la IA para ciberataques, fraude, vigilancia y otras actividades ilícitas, además de la posibilidad de que agentes autónomos puedan ejecutar tareas cada vez más complejas sin una supervisión humana suficiente.
Amodei incluso ha advertido sobre la posibilidad de que múltiples agentes de IA lleguen a coordinar operaciones a gran escala en internet si sus capacidades continúan aumentando al ritmo actual.
El debate también toca la competencia tecnológica entre Estados Unidos y China. Frenar el desarrollo mientras otros países continúan avanzando podría representar un riesgo estratégico, pero mantener la velocidad actual también plantea interrogantes sobre la capacidad de controlar los sistemas más avanzados.
Por eso, Amodei propone mayor cooperación entre las empresas y los gobiernos para establecer reglas comunes de seguridad y mecanismos de supervisión.
La coincidencia entre Musk, Altman y Amodei no significa que hayan planteado exactamente las mismas medidas, pero sí refleja una preocupación compartida; que la carrera por construir una IA más potente avance más rápido que la capacidad para garantizar que esa tecnología pueda mantenerse bajo control.