La Administración del Ciberespacio de China eliminará los dibujos animados tóxicos generados por IA y frenará el revuelo en torno a los niños famosos en Internet

La Administración del Ciberespacio de China (CAC, por sus siglas en inglés) ha puesto en marcha una campaña especial de cuatro meses destinada a crear un entorno en línea limpio y saludable para los menores y a reforzar la protección del ciberespacio para este colectivo, según un comunicado publicado el lunes en la cuenta de WeChat de la CAC.

El comunicado destacaba específicamente los problemas relacionados con las animaciones y los vídeos cortos nocivos generados por inteligencia artificial (IA) dirigidos a menores, y se comprometía a intensificar los esfuerzos para acabar con el revuelo mediático en torno a las «estrellas infantiles de Internet».

El lanzamiento de esta campaña especial constituye una medida importante para proteger los derechos e intereses legítimos de los menores y salvaguardar su crecimiento saludable, según afirmaron responsables de la CAC.

En lo que respecta a la creación y publicación de contenidos en línea, se considera conducta indebida el uso de la IA para fabricar animaciones tóxicas que parodien de forma maliciosa a personajes clásicos de dibujos animados o que amplifiquen deliberadamente elementos violentos u horripilantes. El aviso también destaca los contenidos que fomentan acciones peligrosas, como estrangular a otras personas.

Según el aviso, algunas cuentas han convertido en sensacionalistas figuras infantiles controvertidas, como los «prodigios reencarnados» y las «pequeñas bellezas precoces», al tiempo que han montado vídeos que muestran el absentismo escolar, el absentismo crónico y mentalidades de «apatía» que promueven valores negativos.

Otros problemas incluyen la producción masiva de videoclips generados por IA, extraños, grotescos o sensacionalistas, que envenenan las mentes de los menores. Algunas aplicaciones de IA crean personajes inapropiados o generan contenidos ambiguos o vulgares que deben rectificarse.

Ding Daoshi, un analista veterano del sector de la IA e Internet, declaró el lunes al Global Times que es necesario abordar los nuevos retos que plantea la tecnología de IA mediante campañas especiales. La IA ha reducido significativamente el umbral para alterar contenidos audiovisuales dirigidos a menores, como las animaciones: cualquiera puede añadir escenas sangrientas, aterradoras o vulgares en cuestión de minutos y distribuirlas masivamente a través de plataformas de vídeos cortos y redes sociales a un coste muy bajo. Por ello, la cuestión de los contenidos animados nocivos requiere una atención aún mayor.

«Los algoritmos de IA también pueden recomendar continuamente contenidos nocivos similares basándose en los hábitos de visualización de algunos niños», señaló Ding. «Dado que los menores no han alcanzado la madurez plena, la exposición repetida puede embotar su vigilancia ante contenidos violentos o perturbadores, e incluso puede llevarles a imitar lo que ven».

Esta campaña especial ha establecido límites claros, identificando directamente las parodias generadas por IA de animaciones clásicas, la amplificación intencionada de la violencia y el terror, y la creación de cortometrajes nocivos generados por IA como áreas clave para la toma de medidas.

Ding señaló que esto obligará a las plataformas de vídeos cortos y a los creadores de contenido a frenar este tipo de prácticas, y animará a las plataformas a mejorar sus estándares de revisión de contenido para el material generado por IA.

Según el comunicado, también se ha detectado que varias plataformas y grupos en línea están incurriendo en conductas problemáticas. Algunas personas utilizan pretextos como «buscar una mejor amiga» para engañar a menores y que estos les envíen fotos privadas. Ciertos grupos en línea, bajo el pretexto del «bienestar del anime», se dirigen deliberadamente a menores con cómics pornográficos y otros contenidos ilegales. Bajo los vídeos en los que aparecen menores suelen aparecer emojis sexualmente sugerentes y jerga vulgar de Internet, lo que constituye acoso.

La campaña especial se divide en dos fases. Mientras que la primera fase se centra en todo el proceso y la cadena completa de producción y difusión de contenidos durante el periodo de vacaciones de verano, la segunda fase incluirá investigaciones exhaustivas sobre diversos fenómenos caóticos y riesgos destacados que puedan afectar a la salud física y mental de los menores.

Según el comunicado, en la segunda fase, el organismo regulador del ciberespacio de China se centrará en normalizar los sistemas de recomendación de las plataformas.

El organismo regulador seguirá investigando y abordando cuestiones relacionadas con las plataformas que recomiendan contenidos nocivos, orientaciones de valores negativos, el uso inadecuado de imágenes de menores y las violaciones de la privacidad de estos. Se pide a las plataformas que limiten de forma razonable la duración y la frecuencia de los contenidos en los que aparecen menores en las cuentas, y que prohíban que los menores aparezcan con frecuencia en pantalla con fines lucrativos. Las agencias de redes multicanal no deben explotar sus cuentas para promocionar a menores famosos en Internet.

Xiong Bingqi, director del Instituto de Investigación Educativa del Siglo XXI, afirmó que, para que estas medidas reguladoras sean realmente eficaces, deben imponerse sanciones más severas a las plataformas que incumplan las normas, con el fin de aumentar el coste de las actividades ilegales. En última instancia, esto puede contribuir a fomentar un mecanismo de autorregulación que proteja la salud física y mental de los menores.

Más allá de las propias plataformas, todos los sectores deberían colaborar para crear un entorno en línea saludable para los menores. Xiong declaró a Global Times que las escuelas, las familias y la sociedad en su conjunto deben seguir el ritmo, especialmente durante las vacaciones de verano. Los tutores, en el marco de la educación familiar, deben orientar y supervisar el uso que hacen los menores de las herramientas de IA y su consumo de contenidos en las redes sociales, ayudándoles a reconocer la información nociva en línea y la desinformación generada por la IA, en lugar de confiar únicamente en el «modo menor» que ofrecen las plataformas.