GINEBRA (2 de junio de 2023) – Los expertos de la ONU* pidieron hoy una mayor transparencia, supervisión y regulación para abordar los impactos negativos de las herramientas digitales y los espacios en línea nuevos y emergentes sobre los derechos humanos.

“Las tecnologías nuevas y emergentes, incluidos los sistemas de vigilancia biométrica basados ​​en inteligencia artificial, se utilizan cada vez más en contextos sensibles, sin el conocimiento o consentimiento de las personas”, dijeron los expertos antes de la cumbre RightsCon en Costa Rica del 5 al 8 de junio de 2023.

“Se necesitan líneas rojas regulatorias urgentes y estrictas para las tecnologías que afirman realizar reconocimiento de emociones o género”, dijeron.

Los expertos expresaron su preocupación por la proliferación de software espía invasivo y una variedad cada vez mayor de tecnologías de vigilancia dirigidas que se utilizan para atacar ilegalmente a defensores de los derechos humanos, activistas, periodistas y la sociedad civil en todas las regiones.

“Condenamos el uso alarmante de spyware y tecnologías de vigilancia en violación de los derechos humanos y el efecto paralizador más amplio de tales medidas ilegales en el trabajo legítimo de los defensores de los derechos humanos y en el espacio cívico en todo el mundo, a menudo bajo el pretexto de la seguridad nacional y la lucha contra el terrorismo. medidas”, dijeron.

Los expertos destacaron la necesidad de garantizar que estos sistemas no expongan más a las personas y comunidades a violaciones de derechos humanos, incluso mediante la expansión y el abuso de prácticas de vigilancia invasivas que infringen el derecho a la privacidad, facilitan la comisión de graves violaciones de derechos humanos, incluso desapariciones forzadas y discriminación. Expresaron su preocupación por el respeto a las libertades de expresión, pensamiento, protesta pacífica y acceso a los derechos económicos, sociales y culturales esenciales y los servicios humanitarios.

“Las tecnologías y aplicaciones específicas deben evitarse por completo cuando la regulación de las denuncias de derechos humanos no es posible”, dijeron los expertos.

Los expertos señalaron que los llamados sistemas de «IA generativa» pueden permitir la producción masiva, barata y rápida de contenido sintético que difunde desinformación o promueve y amplifica la incitación al odio, la discriminación o la violencia por motivos de raza, sexo, género y otras características. Los expertos también expresaron su preocupación de que su desarrollo esté impulsado por un pequeño grupo de actores poderosos, incluidas empresas e inversores, sin los requisitos adecuados para llevar a cabo la diligencia debida en materia de derechos humanos o consultar con las personas y comunidades afectadas. Adicionalmente, la moderación de contenidos suele ser realizada por individuos en situaciones de explotación laboral.

“Se necesita con urgencia una regulación para garantizar la transparencia, alertar a las personas cuando se encuentran con medios sintéticos e informar al público sobre los datos de capacitación y los modelos utilizados”, dijeron los expertos.

Los expertos reiteraron sus llamados a la cautela sobre el impacto radical de las tecnologías digitales en el contexto de las crisis humanitarias, desde la recopilación de datos a gran escala, incluida la recopilación de datos biométricos altamente confidenciales, hasta el uso de tecnologías avanzadas de vigilancia dirigida. “Instamos a la moderación en el uso de tales medidas hasta que se comprendan completamente las implicaciones más amplias de los derechos humanos y se establezcan sólidas salvaguardas de protección de datos”, dijeron.

Subrayaron la necesidad de garantizar soluciones técnicas, incluido un cifrado sólido de extremo a extremo y acceso sin restricciones a redes privadas virtuales, y asegurar y proteger las comunicaciones digitales.

Los expertos recordaron a los Estados y las empresas sus respectivos deberes y responsabilidades, incluidos los requisitos de diligencia debida en materia de derechos humanos en lo que respecta al desarrollo, uso, investigación y adquisición de tecnologías digitales.

“Tanto la industria como los Estados deben rendir cuentas, incluso por sus impactos económicos, sociales, ambientales y de derechos humanos”, dijeron. “La próxima generación de tecnologías no debe reproducir ni reforzar los sistemas de exclusión, discriminación y patrones de opresión”.