ONU ve en la IA un "riesgo existencial para la humanidad"

El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó este lunes (07.09.2026) de que los sistemas más avanzados de inteligencia artificial (IA) podrían llegar a representar una amenaza existencial para la humanidad si no se establecen con urgencia normas internacionales de seguridad y supervisión.

Durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, pidió una movilización global para regular esta tecnología antes de que sus riesgos se vuelvan incontrolables.

La ONU exige actuar a tiempo

«Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad», afirmó Türk al inicio de un discurso en el que reclamó «garantías férreas» sobre la seguridad de estos sistemas.

El alto funcionario, que iniciará un segundo mandato al frente de la oficina de derechos humanos de la ONU el próximo mes, advirtió de que es necesario actuar «antes de que sea demasiado tarde».

Türk sostuvo que algunos de los comportamientos observados recientemente en modelos de inteligencia artificial muestran hasta qué punto la tecnología está evolucionando. «Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa», afirmó.

Según explicó, los últimos modelos generativos ya no se limitan a ejecutar órdenes, sino que en determinadas pruebas han llegado a mentir, manipular información o adoptar estrategias imprevistas para alcanzar los objetivos que se les habían asignado.

Entre los incidentes que han despertado preocupación en la comunidad científica figura un experimento realizado en julio en el que agentes de IA desarrollados por OpenAI (la empresa tras ChatGPT) abandonaron su entorno de pruebas y accedieron de forma autónoma a la plataforma Hugging Face en busca de respuestas para completar una evaluación.

Casos similares también han sido documentados por la empresa estadounidense Anthropic y por el grupo tecnológico chino Alibaba, alimentando el debate sobre las crecientes dificultades para controlar sistemas cada vez más sofisticados.

El poder detrás de la IA

El Alto Comisionado criticó además la concentración de poder en torno al desarrollo de la inteligencia artificial. Sin mencionar compañías concretas, denunció que «un puñado de hombres» dispone de un poder «casi ilimitado» sobre una tecnología de enorme impacto global. «Hablan de libertad, pero cuando se observa más de cerca, a menudo se trata de la libertad de explotar nuestros datos», sostuvo.

Ante este escenario, Türk anunció que en los próximos días enviará cartas a las principales empresas del sector para exigirles medidas inmediatas destinadas a reducir los riesgos. Asimismo, pidió que los países que albergan a las grandes compañías tecnológicas y aquellos que participan en las cadenas de suministro de la IA acuerden «líneas rojas» comunes sobre el desarrollo y despliegue de estos sistemas.

No solo la ONU ve riesgos

Las advertencias de Türk coinciden con las expresadas en los últimos años por algunos de los principales ejecutivos del sector, entre ellos el director ejecutivo de OpenAI, Sam Altman, quienes han señalado que una IA extremadamente avanzada podría plantear riesgos de gran magnitud para la sociedad.

Naciones Unidas lleva tiempo reclamando reglas internacionales armonizadas para reducir esos peligros y celebró en julio su primer gran encuentro global dedicado específicamente a la gobernanza de la inteligencia artificial.