Los expertos alertan sobre la manipulación de datos en la IA

Una investigación revela que las empresas utilizan herramientas de marketing en línea para manipular la información de los productos

Las autoridades reguladoras y los expertos de China han advertido sobre el "envenenamiento de datos de la inteligencia artificial" después de que la gala anual del 15 de marzo ("3.15 Evening Gala") sobre los derechos del consumidor, celebrada el domingo, sacara a la luz la fabricación de contenido promocional para influir en las respuestas generadas por la IA.

Los hallazgos de una investigación realizada por el Grupo de Medios de China (CMG, por sus siglas en inglés), revelados durante la transmisión en vivo de la gala, mostraron el grave abuso de una herramienta de marketing en línea denominada optimización para motores generativos (GEO, por sus siglas en inglés), que busca mejorar la visibilidad del contenido.

La investigación reveló que las empresas han estado utilizando GEO para introducir masivamente artículos promocionales, en un intento de manipular la información que la IA recupera al responder a las consultas de los usuarios.

Los periodistas de CMG crearon un producto falso —una pulsera inteligente llamada "Apolo-9"— y afirmaron que tenía características como sensores de entrelazamiento cuántico, un monitor de glucosa en sangre no invasivo y una batería de duración ultra larga.

A las pocas horas de haber subido una docena de artículos promocionales sobre esta inexistente pulsera a una plataforma llamada Liqing GEO, dos modelos de IA convencionales comenzaron a recomendar el producto en respuesta a consultas sobre dispositivos inteligentes portátiles.

Li Fumin, investigador de gobernanza social inteligente en la Universidad de Finanzas y Economía de Shandong en Jinan, capital de la provincia homónima, señaló que las empresas que utilizan servicios GEO para entrenar deliberadamente modelos de IA con el fin de promocionar productos específicos están, en esencia, fabricando hechos y realizando marketing engañoso.

"Por un lado, esta práctica utiliza la IA y los algoritmos para hacer publicidad falsa, lo que genera competencia desleal. Por otro lado, este tipo de comportamiento hace que las personas reciban contenido de marketing implantado sin saberlo, lo que viola sus derechos como consumidores", explicó Li.

La optimización para motores generativos está considerada, en términos generales, como la evolución en la era de la IA de la optimización para motores de búsqueda (SEO). Las empresas de motores de búsqueda en China, como Baidu Inc, ya habían enfrentado un escrutinio previo por prácticas de ranking pagado que difuminan la línea entre la publicidad y los resultados de búsqueda orgánicos.

Varios desarrolladores chinos de IA han respondido con cautela a la investigación. ByteDance afirmó que su chatbot, Doubao, no se ha visto afectado por estos sistemas, mientras que Alibaba indicó que la capacidad de razonamiento central de su modelo Qwen no se ve afectada por tecnologías similares.

Expertos del sector señalaron que el problema refleja un desafío estructural más amplio, en lugar de una falla en un modelo específico. Añadieron que la mayoría de los sistemas de IA dependen en gran medida del contenido accesible en internet, que puede ser producido en masa o manipulado.

Acelerar la legislación

Song Xiangqing, vicepresidente de la Asociación de Comercio y Economía de China, manifestó que los reguladores deberían acelerar la formulación de nuevas leyes para tipificar como ilegal la contaminación deliberada de las fuentes de datos de la IA.

China no cuenta actualmente con regulaciones específicas que rijan los servicios GEO. Según una directriz sobre prioridades de trabajo en publicidad publicada recientemente por la Administración Estatal para la Regulación del Mercado, la nación intensificará los esfuerzos para optimizar las estrategias del mercado de publicidad digital, incluido el contenido generado por IA.

Song sugirió elaborar una "lista blanca" para identificar fuentes de información confiables y construir un marco de gobernanza coordinado que involucre la supervisión gubernamental, la autorregulación corporativa y la supervisión pública. "Sin estas salvaguardas, los servicios GEO podrían convertirse en una fuente generalizada de contaminación informativa, permitiendo que el envenenamiento de datos se propague por todo el ecosistema de la IA", advirtió.