El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió que la inteligencia artificial (IA) representa una amenaza creciente para los derechos humanos y llamó a establecer una regulación urgente sobre su uso y desarrollo.
En una carta publicada este lunes, el funcionario señaló que el sector avanza a un ritmo acelerado, mientras empresas e investigadores compiten por desarrollar sistemas cada vez más potentes.
Según Türk, esa carrera no es neutral y citó las conclusiones del Panel Científico Internacional Independiente sobre Inteligencia Artificial, que advierte que el beneficio real de esta tecnología dependerá de las decisiones que se tomen ahora sobre cómo se diseña, se despliega y se regula.
"Estamos ante un cambio irreversible que nos afecta no solo a nosotros, sino a las futuras generaciones de la humanidad", indicó Türk. "La actual carrera hacia una IA cada vez más potente supone un cambio cualitativo que aumenta los riesgos existenciales para todos los aspectos de nuestras vidas".
El Alto Comisionado se refirió a discriminación causada por algoritmos, automatización de servicios esenciales que perjudica a las poblaciones más vulnerables, y una erosión de la privacidad impulsada por la recolección masiva de datos y nuevas herramientas de vigilancia, como daños verificables y no hipotéticos.
"Las campañas de desinformación impulsadas por la IA ya están distorsionando el debate público, socavando la cohesión social y poniendo a prueba a las instituciones democráticas de formas nuevas e insidiosas", advirtió.
Un punto central del texto es la preocupación por los llamados agentes de IA, los sistemas capaces de ejecutar tareas complejas con escasa supervisión humana. Türk advirtió que ya se han documentado casos de modelos avanzados que persiguen metas no previstas por quienes los diseñaron, en ocasiones ocultando sus verdaderas acciones o esquivando los controles impuestos para contenerlos, con resultados que se apartan por completo de lo que sus creadores esperaban.
Para Türk, los derechos en juego incluyen la vida, la alimentación, la privacidad, la salud y la seguridad. Insistió en que la seguridad de la IA no puede limitarse a la fiabilidad técnica de un producto, sino que debe proteger a personas, comunidades, instituciones y a las generaciones futuras.
"Poblaciones enteras podrían verse privadas de agua potable, calefacción y servicios financieros; además, la IA autónoma ya está acelerando el ritmo y el alcance de los conflictos bélicos y socavando las salvaguardias que nos protegen del lanzamiento de armas de destrucción masiva".
La carta también plantea dudas sobre cómo garantizar la rendición de cuentas por los daños causados por sistemas de IA, en momentos en que un número reducido de grandes empresas concentra las decisiones clave sobre su desarrollo.
Türk pidió a esas compañías colaborar entre sí para fortalecer los controles sobre sus sistemas, incluida la supervisión automatizada del comportamiento de los modelos y el intercambio de información sobre incidentes de seguridad.
"Ningún país puede regular esta tecnología por sí solo. Ninguna empresa debería poder decidir unilateralmente qué riesgos debe asumir el mundo. A ninguna persona se le debería exigir que renuncie a sus derechos humanos a cambio de promesas de progreso tecnológico".
El Alto Comisionado mencionó que empleados, pioneros del sector y científicos ya han pedido públicamente frenar el avance de la IA, a través de una iniciativa conocida como "Pacing the Frontier", a la que se sumó después una propuesta respaldada por líderes de tres grandes compañías tecnológicas.
Foro