Operaciones encubiertas y usos maliciosos de la IA para influir en las elecciones

Generar mediante IA artículos largos para influenciar sobre ciertos temas, como las elecciones de Estados Unidos y, a la vez, crear comentarios cortos para redes sociales. Así funcionaba la operación encubierta que, según OpenAI, estaba vinculada al régimen de Irán y que ha desmantelado la propia plataforma, desarrolladora de ChatGPT.

Cómo actuaban. Según OpenAI, distintos usuarios de ChatGPT usaban la plataforma de inteligencia artificial generativa para crear contenidos y difundirlos posteriormente en páginas webs y redes sociales. Según la plataforma, con escaso éxito. En la escala Brookings, usada para medir el impacto de este tipo de operaciones, alcanzó un nivel de dos sobre seis. 

La compañía informó en agosto del cierre de varias cuentas de su servicio de IA para generar mensajes e influencia sobre los candidatos de ambos bandos en las elecciones presidenciales de Estados Unidos. Los artículos se publicaban en cinco páginas que aparentaban ser medios de comunicación de ideologías variadas, mientras que los mensajes de redes se distribuían a través de doce cuentas de X, también con perfiles políticos distintos entre sí. 

• ¿Qué son las operaciones de influencia? La Unión Europea define las operaciones de manipulación e interferencia extranjeras (FIMI, por sus siglas en inglés) como un patrón de comportamiento manipulador que amenaza o tiene el potencial de afectar negativamente a los valores, procedimientos y procesos políticos, que se lleva a cabo de manera intencionada y coordinada.

Este tipo de operaciones con la IA generativa ChatGPT ya dio lugar a otra actuación de la empresa en mayo, cuando anunció que habían detectado cinco operaciones encubiertas en los últimos tres meses que usaban los modelos del lenguaje para generar textos, traducirlos, y adaptarlos para redes sociales, entre otros: 

• La operación rusa Bad Grammar (Mala Gramática), que operaba principalmente en Telegram y tenía como objetivo Ucrania, Moldavia, los países bálticos y Estados Unidos. La campaña difundía los comentarios políticos generados a través de un bot de Telegram en ruso e inglés.  
• La operación Doppelganger, que utilizaba ChatGPT para traducir y editar artículos en inglés y francés, generar titulares, y convertir artículos de noticias en publicaciones de Facebook. 
• Una red china conocida como Spamouflage, que utilizó ChatGPT para investigar la actividad pública en las redes sociales, generar textos en chino, inglés, japonés y coreano y gestionar bases de datos y sitios web. 
• Una operación iraní conocida como International Union of Virtual Media. 
• La actividad de una empresa comercial de Israel llamada STOIC.  

Fuentes

Open AI

Parlamento Europeo

Microsoft