La multinacional Google ha alertado del cambio significativo en el uso malicioso de la inteligencia artificial (IA) y de que los ciberdelincuentes y grupos de espionaje están ya utilizando sistemas cada vez más autónomos y más rápidos, capaces por sí solos de planificar, automatizar y ejecutar un ataque.
El informe «AI Threat Tracker» (‘Rastreador de Amenazas con IA’) que ha elaborado un grupo de expertos de la empresa estadounidense se ha publicado un mes después de que la compañía OpenAI anunciara la paralización de su nuevo modelo (Astra) tras concluir que alcanzaba un nivel “crítico” en ciberseguridad, que era capaz de identificar y desarrollar vulnerabilidades y de planear ciberataques de forma autónoma.
Los analistas de Google han concluido que los casos de uso de ‘agentes’ avanzados de IA han dejado de ser experimentales y ya no se limitan únicamente a la detección de vulnerabilidades y han constatado los múltiples incidentes que se han dirigido contra modelos y sistemas basados en IA en los sectores tecnológico, sanitario y de medios de comunicación y entretenimiento en Norteamérica y Europa.
Google. (Foto: Difusión)
LA IA, multiplicador de la fuerza de los ataques
Para satisfacer su creciente demanda de acceso a la IA, los atacantes están además robando credenciales y comprando capacidades en la ‘red oscura’ (darknet), apunta el informe, que señala que algunos grupos criminales, principalmente de Rusia, China, Irán y Corea del Norte, están utilizando estas tecnologías para automatizar el robo de credenciales, crear código malicioso y realizar espionaje industrial.
Los analistas han subrayado la «preocupante» tendencia para comprometer la cadena de suministro de software, donde los delincuentes manipulan asistentes de programación y repositorios de código abierto, y además de explotar herramientas externas, están robando propiedad intelectual de IA y secuestrando recursos en la nube para ejecutar sus propios modelos.
El trabajo cita numerosos ejemplos, entre ellos cómo el grupo de ciberespionaje Basin Castle -vinculado a China- está utilizando modelos de lenguaje como apoyo en diversas tareas, desde la investigación de objetivos hasta la resolución de errores en mitad de una intrusión, o cómo otro grupo chino intentó utilizar Gemini (el modelo de IA desarrollado por Google) para construir un marco de pruebas de penetración automatizado que ejecutara las primeras fases de las intrusiones.
- LEA TAMBIÉN: Tribunal de EE.UU. rechaza inmunidad de Meta, Google o TikTok ante demandas por adicción
Los analistas detectaron además una campaña masiva de robo de credenciales que fue orquestada por una ‘arquitectura multiagente’ desplegada en infraestructura robada, y comprobaron cómo esa campaña lograba escalar y comprometer de forma autónoma miles de credenciales en tan solo seis horas.
Y otro grupo de informáticos (DPRK) vinculados a Corea del Norte fueron detectados cuando robaban cuentas de usuarios legítimos para conectar sus sistemas de forma masiva y automática a sistemas de inteligencia artificial, con lo que lograban multiplicar la velocidad y el alcance de sus ataques.
- LEA TAMBIÉN: Demanda en EE.UU. señala que agentes migratorios usaron Google para definir lugares de redadas
¿Cómo la IA está cambiando la forma en que usamos internet en nuestra vida diaria?
Ataques que pueden desbordar la capacidad de respuesta y defensa
“Llegados a este punto, podemos asumir que todos los actores de amenazas utilizan la IA de una u otra forma y que sus operaciones se han visto beneficiadas”, ha señalado John Hultquist, analista jefe del Grupo de Inteligencia sobre Amenazas de Google (GTIG).
“El reto será especialmente complejo a medida que se ejecute de forma autónoma, creando un adversario más rápido y a mayor escala; los cibercriminales, como los que llevaron a cabo una campaña masiva en solo seis horas, se inclinarán hacia ataques que se ejecuten a mayor velocidad de la que podemos responder”, ha descrito Hultquist.
Con información de EFE
