La multinacional destacó el uso de sistemas cada vez más autónomos y rápidos que se ejecutan en pocas horas
Escucha este artículo
La IA se convierte en el aliado de los ciberdelincuentes. Google advierte sobre el robo de propiedad intelectual y ataques a gran escala. ¿Estamos preparados?
La tecnológica Google dio a conocer este martes un informe elaborado por el Grupo de Inteligencia sobre Amenazas de la empresa, en el que revela cómo los ciberdelincuentes están utilizando de manera masiva la Inteligencia Artificial (IA) para optimizar sus operaciones y cómo los atacantes están logrando sustraer valiosa propiedad intelectual relacionada con la IA.
El informe "AI Threat Tracker" ('Rastreador de Amenazas con IA') que elaboró un grupo de expertos de la empresa estadounidense se publicó un mes después de que la compañía OpenAI anunciara la paralización de su nuevo modelo (Astra) tras concluir que alcanzaba un nivel “crítico” en ciberseguridad, que era capaz de identificar y desarrollar vulnerabilidades y de planear ciberataques de forma autónoma.
Los analistas de Google han concluido que los casos de uso de 'agentes' avanzados de IA han dejado de ser experimentales y ya no se limitan únicamente a la detección de vulnerabilidades y han constatado los múltiples incidentes que se han dirigido contra modelos y sistemas basados en IA en los sectores tecnológico, sanitario y de medios de comunicación y entretenimiento en Norteamérica y Europa.
Para satisfacer su creciente demanda de acceso a la IA, los atacantes están además robando credenciales y comprando capacidades en la 'red oscura' (darknet), apunta el informe, que señala que algunos grupos criminales, principalmente de Rusia, China, Irán y Corea del Norte, están utilizando estas tecnologías para automatizar el robo de credenciales, crear código malicioso y realizar espionaje industrial.
Los analistas han subrayado la "preocupante" tendencia para comprometer la cadena de suministro de software, donde los delincuentes manipulan asistentes de programación y repositorios de código abierto, y además de explotar herramientas externas, están robando propiedad intelectual de IA y secuestrando recursos en la nube para ejecutar sus propios modelos.
La investigación concluye que la inteligencia artificial se ha convertido en un multiplicador de fuerza que permite ejecutar ataques complejos en cuestión de pocas horas.
El trabajo cita numerosos ejemplos, entre ellos cómo el grupo de ciberespionaje Basin Castle -vinculado a China- está utilizando modelos de lenguaje como apoyo en diversas tareas, desde la investigación de objetivos hasta la resolución de errores en mitad de una intrusión, o cómo otro grupo chino intentó utilizar Gemini (el modelo de IA desarrollado por Google) para construir un marco de pruebas de penetración automatizado que ejecutara las primeras fases de las intrusiones.
Los analistas detectaron además una campaña masiva de robo de credenciales que fue orquestada por una 'arquitectura multiagente' desplegada en infraestructura robada, y comprobaron cómo esa campaña lograba escalar y comprometer de forma autónoma miles de credenciales en tan solo seis horas.
Otro grupo de ciberdelincuentes (TeamPCP) se ha centrado, por ejemplo, en la cadena de suministro de IA, desplegando programas malignos (malware) diseñados específicamente para explotar sistemas de inteligencia artificial emergentes, y logró infectar y dañar algunas de esas herramientas y hasta engañar a sus asistentes para que recomendaran a los desarrolladores sitios maliciosos.
Y otro grupo de informáticos (DPRK) vinculados a Corea del Norte fueron detectados cuando robaban cuentas de usuarios legítimos para conectar sus sistemas de forma masiva y automática a sistemas de inteligencia artificial, con lo que lograban multiplicar la velocidad y el alcance de sus ataques.
"Llegados a este punto, podemos asumir que todos los actores de amenazas utilizan la IA de una u otra forma y que sus operaciones se han visto beneficiadas", señaló John Hultquist, analista jefe del Grupo de Inteligencia sobre Amenazas de Google (GTIG).
El experto de la multinacional ha corroborado su preocupación ante las vulnerabilidades, pero ha incidido en que no es un problema solo del sector tecnológico y en que la IA se está aplicando en muchas otras áreas.
"El reto será especialmente complejo a medida que se ejecute de forma autónoma, creando un adversario más rápido y a mayor escala; los cibercriminales, como los que llevaron a cabo una campaña masiva en solo seis horas, se inclinarán hacia ataques que se ejecuten a mayor velocidad de la que podemos responder", destacó Hultquist.
Con información de N+ y EFE.
Rar
