IA: regular una tecnología sin salvaguardas ni inhibiciones
Las alertas sobre el peligro que representa el uso descontrolado de la inteligencia artificial se multiplican por doquier, ahora incluso hasta se suman los líderes de las compañías que lideran el mercado tecnológico. Los altos cargos de la ONU llevan años avisando. Hoy el responsable de la Oficina de Derechos Humanos volvió a pedir a los Estados que intervengan para poner orden. No se puede dejar a la autorregulación de las empresas.
Fallos en servicios esenciales, infraestructuras críticas desestabilizadas, instituciones democráticas debilitadas: en una carta dirigida a los Estados y a los líderes de las corporaciones de que han lanzado sin salvaguardas la inteligencia artificial al mercado, el Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, ha trazado un inventario de los peligros relacionados con los sistemas más avanzados.
Le preocupa en particular la aparición de una inteligencia artificial denominada «agéntica», capaz de actuar de forma autónoma para realizar tareas y alcanzar objetivos. «Los fallos que impliquen sistemas de IA agéntica podrían paralizar servicios esenciales, interrumpir las comunicaciones, desestabilizar infraestructuras críticas y atentar contra el corazón mismo de las instituciones democráticas», ha advertido.
Todos los derechos humanos amenazados
El escenario descrito por el alto responsable alcanza incluso las necesidades más elementales. «Poblaciones enteras podrían verse privadas de agua potable, calefacción y servicios financieros», ha proseguido. «La IA agéntica ya está acelerando el ritmo y la magnitud de los conflictos armados, al tiempo que erosiona las salvaguardias que nos separan del lanzamiento de armas de destrucción masiva».
Para Volker Türk, que a principios de año advirtió del peligro de crear “un monstruo de Frankenstein”, el desarrollo de los modelos más potentes marca así un cambio de escala. «Estamos en el umbral de un cambio irreversible, que nos afectará no solo a nosotros mismos, sino también a las generaciones futuras», ha declarado, estimando que «todos los derechos humanos están amenazados», incluido el derecho a la vida.
Su advertencia llega cuando se inaugura el lunes en Riad, Arabia Saudita, el cuarto foro mundial de la UNESCO sobre la ética de la IA. Hasta el 17 de septiembre, gobiernos, investigadores, empresas, organizaciones internacionales y representantes de la sociedad civil deben precisamente intentar reducir la brecha entre los principios éticos ya enunciados y su traducción en reglas concretas.
Riesgos que ya no son teóricos
La advertencia, sin embargo, no se refiere solo a lo que la IA podría provocar mañana. Parte de los daños que describe ya son observables. «Los perjuicios relacionados con la IA no son hipotéticos: ya se están produciendo, a la vista de todos», ha subrayado el Alto Comisionado.
Automatización de servicios esenciales en detrimento de las poblaciones marginadas, explotación masiva de datos personales, tecnologías de vigilancia, campañas de desinformación. ONU Derechos Humanos ve en estos usos otras tantas amenazas para las libertades individuales, la cohesión social y las instituciones democráticas, puestas a dura prueba «de manera insidiosa e inédita».
La alerta de la ONU llega sobre todo en el momento en que las interrogantes alcanzan a las empresas desarrolladoras de esta tecnología. Dario Amodei, responsable de uno de los modelos líderes en el mercado, Anthropic, habló de ralentizar los avances para da más tiempo a las sociedades para comprender y dominar los riesgos asociados a sus nuevas capacidades, que sin más salvaguardias podrían conducir a la extinción de la humanidad. En estas condiciones, la IA representaría un riesgo comparable, o incluso mayor, que el asociado al arma nuclear.
Los Estados deben regular
Para Türk, estas incertidumbres hacen más urgente el establecimiento de reglas. Insta a «los Estados y las empresas a movilizarse con urgencia en el marco de instancias multilaterales para definir una vía de acción destinada a encuadrar los modelos de IA de vanguardia».
Las empresas que desarrollan estos sistemas tienen, según él, tanto los medios como la responsabilidad de actuar. Pero no pueden fijar solas los límites de tecnologías cuyas consecuencias superan ampliamente a sus usuarios o a sus accionistas. Los gobiernos deben imponerles obligaciones y exigirles responsabilidades por sus incumplimientos.
¿Quién fija los límites?
El Alto Comisionado reclama en particular una verificación independiente de las capacidades de los agentes de IA, llevada a cabo por expertos que dispongan de las competencias técnicas necesarias y de un acceso a los modelos, a su documentación y a sus entornos de prueba. También pide a las empresas que evalúen permanentemente las consecuencias de sus productos sobre los derechos humanos.
Sobre todo, esta regulación no puede, a su juicio, detenerse en las fronteras nacionales. Ningún país puede encuadrar solo una tecnología desarrollada y desplegada a escala mundial; ninguna empresa debería poder determinar sola el nivel de riesgo que el resto de la sociedad deberá aceptar.
«Nadie debería verse obligado a renunciar a sus derechos humanos en nombre de un supuesto progreso tecnológico», ha insistido Türk.
No es una cuestión técnica sino política
Detrás de la cuestión técnica de la seguridad de los modelos aparece así una cuestión más política: ¿quién decidirá lo que una inteligencia artificial puede hacer, los riesgos considerados aceptables y el momento en que una capacidad se vuelve demasiado peligrosa para ser desplegada?
El tiempo apremia tanto más, según el Alto Comisionado, cuanto que las elecciones efectuadas hoy podrían ser difíciles de deshacer. Y sus consecuencias serán soportadas por quienes apenas participaron en su elaboración.
«La generación que hoy entra en la edad adulta heredará las consecuencias de las decisiones tomadas sobre esta cuestión sin haber tenido voz ni voto», ha advertido, llamando a la comunidad internacional a «velar por que estas decisiones se tomen con total transparencia, con respeto a sus derechos y con la humildad que exige la magnitud de esta empresa».