De aparecer una inteligencia artificial verdaderamente autónoma en la realización de tareas o cumplimiento de objetivos, “todos los derechos humanos están amenazados“, incluido el derecho a la vida, alertó Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos,
Asimismo, advirtió que “los fallos que impliquen sistemas de IA agéntica podrían paralizar servicios esenciales, interrumpir las comunicaciones, desestabilizar infraestructuras críticas y atentar contra el corazón mismo de las instituciones democráticas”.
En una carta dirigida a los Estados y líderes de las corporaciones que han lanzado esta tecnología al mercado sin salvaguardas, explicó que poblaciones enteras podrían verse privadas de agua potable, calefacción y servicios financieros, y añadió que esta tecnología “ya está acelerando el ritmo y la magnitud de los conflictos armados”, mientras erosiona los candados que separan a la humanidad del lanzamiento de armas de destrucción masiva.
Para Türk, el desarrollo de los modelos más potentes marca un cambio de escala respecto a lo que había advertido meses atrás, cuando alertó sobre el riesgo de crear “un monstruo de Frankenstein” si sus desarrolladores carecen de una comprensión profunda de los principios éticos fundamentales.
“Estamos en el umbral de un cambio irreversible, que nos afectará no solo a nosotros mismos, sino también a las generaciones futuras”, declaró, y subrayó que la generación que hoy entra en la edad adulta heredará las consecuencias de decisiones sobre esta tecnología en las que no tuvo voz ni voto.
No obstante, la advertencia no es solo hacia el futuro, pues estos daños ya son observables. Entre estos identificó la automatización de servicios esenciales en detrimento de poblaciones marginadas, la explotación masiva de datos personales, las tecnologías de vigilancia y las campañas de desinformación, fenómenos que ponen a prueba “de manera insidiosa e inédita” las libertades individuales, la cohesión social y las instituciones democráticas.
La alerta de la ONU llega en momentos en que las dudas alcanzan también a las propias empresas desarrolladoras de esta tecnología. Dario Amodei, responsable de Anthropic, una de las compañías líderes del mercado, habló de la necesidad de ralentizar los avances para dar más tiempo a las sociedades para comprender y dominar los riesgos asociados a las nuevas capacidades de la IA, que sin más controles podrían conducir a la extinción de la humanidad.
En esas condiciones, Türk señaló que la inteligencia artificial representaría un riesgo comparable, o incluso mayor, al asociado con el arma nuclear; de modo que insistió en “movilizarse con urgencia en el marco de instancias multilaterales para definir una vía de acción destinada a encuadrar los modelos de IA de vanguardia”.
Sostuvo que las compañías tienen tanto los medios como la responsabilidad de actuar, pero que no pueden fijar solas los límites de tecnologías cuyas consecuencias superan ampliamente a sus usuarios o accionistas, por lo que corresponde a los gobiernos imponerles obligaciones y exigirles responsabilidades por sus incumplimientos.
Pidió, en particular, una verificación independiente de las capacidades de los agentes de la IA, realizada por expertos con competencias técnicas y acceso a los modelos, su documentación y sus entornos de prueba, además de evaluaciones permanentes por parte de las empresas sobre el impacto de sus productos en los derechos humanos.
Subrayó que esta regulación no puede detenerse en las fronteras nacionales: “ningún país puede encuadrar solo una tecnología desarrollada y desplegada a escala mundial“, y ninguna empresa debería poder determinar sola el nivel de riesgo que el resto de la sociedad deberá aceptar.
“Nadie debería verse obligado a renunciar a sus derechos humanos en nombre de un supuesto progreso tecnológico”, insistió Türk, quien llamó a la comunidad internacional a velar por que las decisiones sobre esta tecnología se tomen “con total transparencia, con respeto a sus derechos y con la humildad que exige la magnitud de esta empresa”.
SEO: Volker Türk alerta que la IA autónoma amenaza todos los derechos humanos y pide una regulación urgente y global sin fronteras
TUIT: Volker Türk, Alto Comisionado de la ONU, advirtió que todos los derechos humanos están amenazados por la IA si esta se volviera autónoma, y que la humanidad está en el umbral de un cambio irreversible. Pidió a Estados y empresas que regularan con urgencia esta tecnología sin fronteras.
PALABRAS CLAVE: Volker Türk, IA, agéntica, derechos humanos, ONU, inteligencia artificial, Dario Amodei, Anthropic, UNESCO, regulación, cambio irreversible
