Dario Amodei advirtió que los riesgos son "graves" y propuso controles externos, regulación de la industria y un marco global para el desarrollo de la inteligencia artificial.
En un ensayo publicado en la red social X bajo el título “Debemos regular el avance de la frontera”, Amodei aclaró que no cuestiona el desarrollo de la inteligencia artificial, pero sostuvo que la industria debe reducir el ritmo de los modelos más avanzados mientras se implementan mecanismos de control.
El empresario propuso un plan de tres puntos que incluye auditorías independientes sobre los sistemas de IA durante su desarrollo, una regulación para toda la industria y un marco regulatorio de alcance global.
Como primera medida, anunció un compromiso de Anthropic para permitir que evaluadores externos tengan acceso permanente a sus sistemas con un nivel similar al de los empleados. Según explicó, podrán verificar el cumplimiento de las medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante su entrenamiento.
La propuesta recibió un rápido respaldo de otros referentes del sector. El CEO de OpenAI, Sam Altman, aseguró que comparte la necesidad de “moderar el ritmo de la frontera” y reveló que ese tema formó parte de las discusiones recientes dentro de la empresa.
“Comprometernos a tener evaluadores independientes con acceso similar al de los empleados es una gran idea, y haremos lo mismo”, escribió Altman, quien adelantó que OpenAI dará más detalles próximamente.
Por su parte, Elon Musk también apoyó el planteo con un breve mensaje en X: “Dario tiene razón”.