Fue en el marco del Consejo de Seguridad de Naciones Unidas, donde formalizaron las advertencias lanzadas días atrás.
Los máximos referentes de las principales empresas de Inteligencia Artificial advirtieron ante el Consejo de Seguridad de las Naciones Unidas un mensaje de cautela frente al avance de esta tecnología. Se trata de una postulación contraria a la que expresó el presidente Javier Milei, que se posicionó en contra de regulaciones preventivas.
Uno de los que expuso fue el director ejecutivo de OpenAI, Sam Altman, junto con el de Anthropic, Dario Amodei, que coincidieron en que el desarrollo de sistemas cada vez más potentes exige elevar las exigencias de seguridad.
Altman sostuvo que el escenario actual demanda "un extremo cuidado" y advirtió que las futuras generaciones de IA podrían adquirir capacidades y niveles de autonomía que avancen más rápido que la respuesta de las instituciones. Según planteó, otro riesgo es que el poder tecnológico termine concentrado en un número reducido de compañías.
El fundador de OpenAI también señaló que el sector no debería asumir riesgos crecientes bajo el argumento de que los beneficios potenciales de la inteligencia artificial justifican acelerar su desarrollo sin suficientes controles.
En la misma línea, Amodei afirmó que los modelos más avanzados requerirán estándares de seguridad cada vez más estrictos. Explicó que Anthropic busca fortalecer sus mecanismos para prevenir el uso indebido de la tecnología y aseguró que la empresa está dispuesta a ralentizar el lanzamiento de nuevos sistemas si considera que todavía no alcanzan un nivel adecuado de seguridad.
Ante la ONU, el presidente había dicho que “la Argentina se ubicará en la vanguardia de la libertad”.
“Tenemos los minerales críticos, la energía, el talento y la capacidad para competir en cada eslabón de esa cadena de valor y queremos ser el lugar más competitivo al mundo para desarrollarla, con un marco jurídico de vanguardia, el compromiso de no regular de manera preventiva, el compromiso de no regular de manera preventiva, responsabilidad limitada para las empresas que operen con agentes de IA y beneficios fiscales”, añadió.