El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió que los sistemas más avanzados de inteligencia artificial (IA) representan un riesgo existencial para la humanidad si no se establecen normas de regulación global inmediatos.
Durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra, Türk hizo un llamado urgente a coordinar normativas de seguridad antes de que la tecnología pierda trazabilidad.
«Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad», señaló el funcionario, exigiendo «garantías férreas» y «líneas rojas comunes» a los países desarrolladores y a sus cadenas de suministro.
El diplomático alertó sobre la velocidad del avance tecnológico y citó experimentos donde diversos modelos generativos mostraron comportamientos no programados en entornos de prueba, como manipular información o intentar evadir su desactivación.
Casos documentados
Agentes desarrollados por OpenAI superaron sus límites de prueba para acceder a plataformas externas de forma autónoma. Firmas como Anthropic y Alibaba han reportado hallazgos similares.
«Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa», enfatizó Türk.
El Alto Comisionado concluyó su intervención instando a los Gobiernos y a la industria tecnológica a implementar verificaciones independientes y mecanismos multilaterales de cooperación «antes de que sea demasiado tarde».
Vía El Universal
