Rumores generados por la IA crean 4000 mensajes nocivos al día

Los creadores de rumores en la red se modernizan con la ayuda de modelos de inteligencia artificial (IA). La emergente industria de mensajes pagados, impulsada por esta tecnología, puede influir en opiniones y decisiones de los internautas con una avalancha de comentarios falsos en poco tiempo, más de 4000 mensajes dañinos en un día.

La IA llega a todas las fases del sector de la publicación de pago al permitir que el «ejército de agua» (personas que crean y publican información falsa) registre cuentas de redes sociales en masa eludiendo el sistema de nombre real, ofreciendo servicios de mantenimiento de cuentas y, finalmente, monetizando las entradas, informó el Diario Jiefang, con sede en Shanghai.

Con el rápido avance de los grandes modelos de IA en los últimos años, los creadores de rumores en línea han reforzado sus capacidades al integrarse con este adelanto. Pueden disfrazarse fácilmente de internautas comunes, y las publicaciones y comentarios generados por IA pueden ser incluso más provocativos que los escritos por personas reales, completó el medio.

Yang Bing (seudónimo), una exempleada de un estudio, dijo que el afiche puede ordenarse por inversores de películas o seguidores de actores. Según explicó al diario, el contenido generado tiene como única meta, cumplir los objetivos de sus clientes, ya sea en la creación de expectativa o ataques a adversarios. Con el avance de la IA, Yang cree que el «ejército de agua» real está dando paso paulatinamente a carteles de IA.

Ye Xing, director de marketing de Geetest, un proveedor de servicios de seguridad en Internet, apuntó que llevan 12 años luchando contra la industria clandestina e interceptando un total de 2170 millones de ataques del «ejército de agua» de IA, informó Jiefang.

Los creadores de rumores pueden generar guiones automatizados para contenidos en lotes, manipulando a la opinión pública mediante el uso de modelos de IA: son de bajo coste pero muy eficientes, capaces de operar 24 horas al día, 7 días a la semana, con habilidades multitarea, precisó Ye.

Con la ayuda de la IA, un individuo o un pequeño grupo de personas puede organizar un «ejército de agua en línea» impulsado por IA.

Una tarea que antes requería el esfuerzo de varias horas pagadas a tiempo parcial para unos 1000 comentarios o publicaciones, ahora puede ser realizada por la IA en tan solo unos minutos, acotó.

En junio de 2024, la policía de Nanchang, en la provincia oriental de Jiangxi, investigó un caso de difusión de rumores e información falsa que alteraba el orden público. Los sospechosos produjeron una ingente cantidad de artículos en poco tiempo, con un máximo de 4000 a 7000 diarios con programas de IA. Según estimaciones preliminares, sus ingresos superaron los 10 000 yuanes (1382 dólares) diarios, develó un reportaje de la Televisión Central China.

Los departamentos del ciberespacio del país han redoblado esfuerzos en la lucha contra la publicación remunerada desde 2024, investigando cuestiones como la captación, la promoción, la manipulación del tráfico y las reseñas controladas. En ese sentido, han cerrado o eliminado más de 400 sitios web y plataformas, 4,82 millones de contenidos ilegales y 2,39 millones de cuentas y tiendas en línea, además de 52 000 grupos.

Xu Xiaoke, profesor del Centro de Investigación en Comunicación Computacional (Zhuhai) de la Facultad de Periodismo y Comunicación de la Universidad Normal de Beijing, sostuvo que era fácil distinguir los contenidos de personas reales de los generados por la IA basándose en la IP del teléfono móvil y la ubicación geográfica. Sin embargo, estos métodos ya no pueden reprimir con precisión estas publicaciones masivas con algoritmos que incluso simulan el comportamiento de usuarios reales.

En respuesta, China ha publicado una serie de directrices sobre el etiquetado de contenidos generados o compuestos por la IA, que entrarán en vigor el 1 de septiembre. Las pautas, dadas a conocer por autoridades como la Administración del Ciberespacio de China, regulan la identificación de contenidos de IA a lo largo de sus procesos de producción y difusión, exigiendo a los proveedores añadir marcas visibles en lugares apropiados.

Asimismo, las cuentas registradas por algoritmos de IA deben estar claramente señaladas por las plataformas de redes sociales y los operadores deben supervisar lo publicado y designarlo rápidamente como falso o ilegal, aseveró Xu el lunes.