La empresa de inteligencia artificial Anthropic informó que detectó y bloqueó entre enero y julio campañas de vigilancia patrocinadas por Estados que utilizaban sus modelos. Los incidentes se originaron en China, Irán y África occidental, según el reporte.
La empresa de inteligencia artificial Anthropic anunció el jueves que cerró varias operaciones de vigilancia patrocinadas por Estados que utilizaban sus modelos de inteligencia artificial (IA), y advirtió que gobiernos y actores alineados con ellos recurren cada vez más a la IA para espiar a minorías y disidentes.
Los incidentes se originaron en China, Irán y el occidente de África, y fueron detectados e interrumpidos entre enero y julio, según informó la compañía en un reporte sobre el uso indebido de sus modelos.
Estas campañas de vigilancia «apuntaban a las mismas comunidades de la diáspora y disidentes que estos regímenes han perseguido históricamente», apuntó el reporte.
De acuerdo con Anthropic, entre estos grupos había figuras prodemocracia de Hong Kong, comunidades tibetanas, y minorías y opositores al régimen iraní en el exterior.
En uno de los casos, actores iraníes desarrollaron un método para identificar a personas a través de sus cuentas en redes sociales.
En otro, un contratista que trabajaba para las autoridades de seguridad nacional de Mali utilizó Claude «para diseñar el software subyacente que permitió la recopilación de inteligencia».
Anthropic también frustró intentos de usuarios de diseñar armas, realizar investigaciones biológicas cuestionables y crear estafas románticas en línea.
La empresa con sede en San Francisco también acusó a desarrolladores chinos de utilizar engañosamente a Claude para generar respuestas a las consultas de los usuarios mientras, de forma simultánea, «destilaban» esos datos para mejorar sus propios modelos.
La destilación es un término del sector que se refiere a un proceso en el que se emplea un modelo de IA para entrenar otro. Anteriormente, se ha acusado a desarrolladores chinos de usar esta técnica sin permiso.
En cuanto a las investigaciones relacionadas con armas biológicas que Anthropic detectó y bloqueó, la intención de los actores era menos clara y el laboratorio de IA no los identificó.
«Las personas implicadas en estos estudios de caso son científicos. No afirmamos que tuvieran intención de causar daño. Identificarlos a ellos o a sus laboratorios podría exponerlos a peligros», señaló el informe.
La investigación científica en esos casos se centró en trabajos relacionados con el virus chikungunya, transmitido por mosquitos, una cepa «altamente patógena» de gripe aviar, una familia de virus que incluye la viruela y el mpox, así como venenos y otras toxinas.