China alerta sobre la seguridad de OpenClaw en las finanzas en línea

La Asociación Nacional de Finanzas por Internet de China ha alertado sobre el uso de OpenClaw en el sector financiero en línea, la última iniciativa del país en la mejora de la supervisión del rubro.

En un aviso publicado el domingo en su cuenta oficial de WeChat, la institución puntualizó posibles problemas de seguridad y cumplimiento afines con la implementación de componentes de OpenClaw en productos y servicios financieros. En ese sentido, instó a las entidades y consumidores a protegerse contra riesgos como la pérdida de fondos, la responsabilidad por transacciones, las violaciones de datos y nuevas formas de fraude.

OpenClaw es un agente de inteligencia artificial (IA) autónomo y de código abierto que aprovecha los grandes modelos de lenguaje para realizar tareas cotidianas. En la nota, la asociación precisó que sus descargas y uso han aumentado hace poco y que el agente está diseñado por defecto para obtener privilegios elevados del sistema y controlar directamente computadoras y otros terminales mediante comandos en lenguaje natural.

La advertencia sigue a alertas públicas afines emitidas por la Base de Datos Nacional de Vulnerabilidades de China, operada por el Ministerio de Industria y Tecnología de la Información, y por el Equipo Técnico Nacional de Respuesta a Emergencias de Redes Informáticas/Centro de Coordinación de China, acotó en el comunicado.

Asimismo, dijo que, si bien OpenClaw puede mejorar la eficiencia laboral, sus elevados privilegios de sistema por defecto y sus débiles configuraciones de seguridad lo hace altamente vulnerable a ataques, convirtiéndose en una vía de acceso para el robo de información confidencial o manipulación ilegal de transacciones, una gran amenaza para el ramo.

Por lo tanto, aconsejó a los consumidores financieros ser cautelosos en extremo al instalar el programa en terminales utilizadas para banca en línea, comercio de valores, pagos y otros servicios financieros personales. Si la instalación es necesaria, recomendó no otorgar permisos operativos a los sistemas, usar de inmediato parches de vulnerabilidad, controlar al mínimo la instalación de complementos funcionales y evitar ingresar información confidencial, como números de cédula de identidad, de tarjetas bancarias y contraseñas de pago durante el uso.

A pesar de la prisa por adoptar el agente, el Ministerio de Tecnología de China y la asociación del rubro han alertado sobre sus peligros inherentes, enfatizando la necesidad de medidas proactivas.

El Ministerio de Industria y Tecnología de la Información indicó que algunas implementaciones a partir de OpenClaw conllevan altos riesgos de seguridad cuando se configuran de forma predeterminada o inadecuada, lo que las hace muy susceptibles a ciberataques, fugas de información y otros problemas de seguridad, informó la agencia de noticias Xinhua.

El 11 de marzo, la Base de Datos Nacional de Vulnerabilidades de China reunió a proveedores de agentes de IA, operadores de plataformas de recopilación de debilidades y empresas de ciberseguridad para investigar y publicar los problemas y las recomendaciones para sus aplicaciones típicas.

El mismo día, la Asociación de la Industria de IA de Suzhou, en colaboración con compañías e instituciones relevantes, recordó al público evaluar objetivamente  las capacidades y limitaciones de la tecnología y evitar generar ansiedad.

El Centro Nacional de Respuesta a Emergencias de Internet sugirió reforzar el control de la red y no exponer directamente el puerto de administración predeterminado de OpenClaw a la red pública, además de aislar el entorno operativo y utilizar tecnologías como contenedores para restringir el tema de permisos excesivos, detalló en su cuenta oficial de WeChat el 10 de marzo.

«Desde los modelos cerrados y a pequeña escala del pasado, pasando por los grandes modelos de lenguaje, hasta los agentes de IA autónomos que los usan para ejecutar tareas, los riesgos son mayores a cada paso», declaró el domingo a Global Times Liu Gang, economista jefe del Instituto Chino de Estrategias de Desarrollo de IA de Nueva Generación.

«Los peligros que han salido a la luz incluyen violaciones de la privacidad, malware oculto en las instrucciones y eliminación no autorizada de datos de los usuarios».

OpenClaw ha revelado públicamente varias debilidades de riesgo alto y medio, señaló Liu, y agregó que, para sectores críticos como el financiero y el energético, las mismas podrían originar filtración de datos comerciales esenciales, secretos comerciales y repositorios de código, e incluso paralizar sistemas empresariales completos con pérdidas incalculables.

Incorporar mecanismos de seguridad en la arquitectura de los agentes autónomos podría ofrecer una solución, propuso Liu. «Pero la gestión de riesgos del rubro también tiene un papel fundamental».

Liu abogó por normas comunitarias más claras, mejores prácticas de divulgación y marcos coordinados de respuesta a incidentes como parte de los esfuerzos para gestionar el impacto social de la tecnología.

Varias universidades chinas ya han pedido que se tomen precauciones para prevenir las amenazas a la seguridad. Liu acotó que la mayor vigilancia por las instituciones académicas marca un cambio de paradigma en la gobernanza de la IA, de un enfoque exclusivo en el avance hacia un equilibrio entre la innovación y la mitigación de riesgos. Aunque las alertas de peligro inmediatas sirven como medidas provisionales necesarias, a largo plazo es esencial institucionalizar regulaciones y mejorar los conocimientos sobre seguridad en IA.