El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, lanzó una advertencia directa a estados y corporaciones tecnológicas: la Inteligencia Artificial (IA) ya está causando daños visibles y concretos, no hipotéticos. Desde fallas en infraestructuras críticas hasta el debilitamiento de instituciones democráticas, Türk pidió regulación urgente y multilateral. El llamado llega mientras se inaugura el cuarto foro mundial de la UNESCO sobre ética de la IA en Riad, Arabia Saudita.
Qué es la IA agéntica y por qué la ONU la señala como la mayor amenaza
No toda la inteligencia artificial que conocemos es igual. La llamada IA agéntica es capaz de actuar de forma autónoma para realizar tareas y alcanzar objetivos sin intervención humana constante. Es el salto que más preocupa a Türk: un sistema que falla en ese modo no solo rompe una app, sino que puede paralizar servicios de agua potable, cortar comunicaciones o desestabilizar la infraestructura financiera de una región entera.
El Alto Comisionado no especuló: citó el escenario en el que “poblaciones enteras podrían verse privadas de agua potable, calefacción y servicios financieros”. Y añadió algo más pesado aún — que la IA agéntica ya está acelerando conflictos armados y erosionando las barreras que separan a los países del uso de armas de destrucción masiva.
“Estamos en el umbral de un cambio irreversible… que afectará no solo a nuestra generación, sino a las futuras”, advirtió Volker Türk.
Dario Amodei y el momento en que hasta los creadores de IA piden frenarla
La alarma de la ONU no llega sola. Dario Amodei, CEO de Anthropic — una de las compañías con los modelos de IA más potentes del mercado —, ha hablado públicamente de la necesidad de ralentizar el desarrollo para dar tiempo a las sociedades de entender y controlar los riesgos. Sin salvaguardas suficientes, dijo, la tecnología podría conducir a la extinción de la humanidad, un riesgo que comparó al del arma nuclear, o incluso mayor.
Para Türk, el hecho de que los propios desarrolladores admitan no tener respuestas claras refuerza su argumento: la autorregulación no funciona y nunca fue suficiente. Las empresas tienen los medios para actuar, pero no pueden ni deben fijar solas los límites de una tecnología cuyas consecuencias superan a sus usuarios, a sus accionistas y a las fronteras de cualquier país.
“Ninguna empresa debería poder determinar sola el nivel de riesgo que el resto de la sociedad deberá aceptar”, sentenció.
Quién decide lo que la IA puede hacer y a qué costo
La pregunta que Türk deja en el centro es política, no técnica: ¿quién fija los límites? El Alto Comisionado pide verificación independiente de las capacidades de los agentes de IA, realizada por expertos con acceso real a los modelos, su documentación y sus entornos de prueba. Pide también que las empresas evalúen de forma permanente el impacto de sus productos en derechos humanos.
Pero más allá de los mecanismos, hay una advertencia que golpea directo: las decisiones que se están tomando hoy serán heredadas por quienes apenas tienen voz ahora.
“La generación que hoy entra en la edad adulta heredará las consecuencias de las decisiones tomadas sobre esta cuestión sin haber tenido voz ni voto. Nadie debería verse obligado a renunciar a sus derechos humanos en nombre de un supuesto progreso tecnológico”, advirtió el alto comisionado de Naciones Unidas.
El foro de la UNESCO en Riad tiene hasta el 17 de septiembre para intentar convertir principios en reglas concretas — aunque Türk ya dejó claro que el tiempo, para él, ya se está acabando.
