China resuelve su primer caso de derecho de voz en IA

El Tribunal de Internet de Beijing dictaminó el martes que una empresa de programas informáticos vulneró los derechos de una persona al replicar su voz sin su consentimiento y utilizarla como una herramienta de inteligencia artificial (IA) para su venta posterior a otras plataformas.

El caso es el primero de su tipo resuelto en China y hace sonar las alarmas para las firmas del rubro, en el sentido de la necesidad de contar con autorizaciones legales antes de usar la voz de una persona para el entrenamiento y el desarrollo de grandes modelos.

La demandante, una locutora apellidada Yin, descubrió en mayo de 2023 que su voz salía en varios audiolibros en línea sin su consentimiento. Tras investigar, descubrió que era una herramienta de IA que replicaba su voz y la vendía a otros portales.

Yin cree que fue una empresa de medios culturales, con la que tenía tratos comerciales previos, la que entregó las grabaciones de audio de sus audiolibros a otra firma de software que luego procesó su voz con tecnología de IA y la vendió al operador de la aplicación "Magic Sound Workshop".

El instancia decidió que los demandados -la empresa de medios culturales y la de programas informáticos- eran responsables solidarios de indemnizar a Yin por pérdidas económicas de 250 000 yuanes (34 507 dólares).

El operador de la aplicación y la firma de software también están obligados a presentar sus disculpas a la demandante en un plazo de 7 días a partir de la entrada en vigor de la sentencia.

Zhao Ruigang, vicepresidente del Tribunal de Internet de Beijing, declaró que el caso refleja todo un proceso de cómo se utiliza un audiolibro común como material de creación de IA y, finalmente, como producto final. En ese sentido, recordó a las compañías de IA que deben obtener primero la autorización legal de los particulares para el uso de sus voces antes de seguir creando, desarrollando o vendiendo productos.

El fallo indica que la voz de una persona física se identifica por el tono y la frecuencia de la huella vocal, y posee características únicas y estables que pueden evocar pensamientos o emociones asociadas con ese individuo. Aunque una voz natural pueda ser menos reconocible tras la síntesis de inteligencia artificial, no implica que no esté protegida legalmente, ya que la tecnología no siempre rompe el vínculo con las voces humanas naturales.

En este escenario, incluso después de la síntesis de IA, las voces todavía pueden crear pensamientos o emociones asociados con la demandante en el público, conectándola directamente y revelando su identidad, aseveró.

El nuevo Código Civil protege el derecho a la voz como un derecho de retrato emergente. Esto significa que está prohibido que cualquier persona o entidad altere, dañe o falsifique la voz de alguien, o que la manipule utilizando la tecnología. La ley prohíbe la creación, uso o difusión de la voz de alguien sin su consentimiento.

Li Zonghui, investigador de la Universidad de Aeronáutica y Astronáutica de Nanjing sobre el estado de derecho de la IA, apuntó que el caso sirve de referente para conflictos similares relacionados con la IA, ya que si la voz procesada puede atribuirse a una persona física, se trata de un derecho legítimo que no puede vulnerarse.

Las plataformas también deben reforzar la gestión y tomar medidas como la eliminación oportuna de los videos infractores para regular mejor el ramo, acotó.

La naturaleza de la IA generativa requiere la recopilación de una amplia gama de materiales existentes, incluidos textos, imágenes y otras obras, incluso aquellos protegidos por derechos de autor, por lo que entraña un riesgo significativo de infracción de los mismos, explicó Li.