Ciberseguridad e IA, un binomio para el bien y el mal

“La ciberseguridad ya se reconoce como uno de los tres principales riesgos a nivel ejecutivo, y los líderes deben tomar decisiones informadas sobre cómo abordarla”, declara André Reichow-Prehn, socio director para Europa y Latam de Unit 42 (la división de consultoría de seguridad) de Palo Alto Networks. “Comprender la ciberseguridad no requiere un conocimiento técnico profundo. Recomiendo que los líderes reciban informes periódicos sobre los desarrollos en este ámbito y su nivel de exposición al riesgo. Lo importante es entenderlo y saber qué acciones se pueden tomar para mitigarlo”.

El directivo participó activamente en el 16th Global Peter Drucker donde, tras debatir con Santiago Íñiguez de Onzoño y con David Weinberger acerca de cómo la IA cambia nuestra forma de pensar, compartió para Drucker Forum TV algunas claves de la ciberseguridad, una industria al alza con un nivel de sofisticación imparable, tanto como la malevolencia de los atacantes. Estas fueron algunas de sus declaraciones:

Tendencias que prosperan

“En 2024, continuaron evolucionando las tendencias emergentes del año anterior. Destacaría tres aspectos principales como modeladores del panorama de amenazas:

1) Aumento drástico de la velocidad de los ataques. Los incidentes ocurren en cuestión de horas, en lugar de días o semanas, especialmente en ataques a gran escala.

2) Una magnitud de los ataques sin precedentes. Los ciberdelincuentes están explotando cientos de miles de vulnerabilidades simultáneamente de forma coordinada. Esto significa que las organizaciones deben estar más preparadas que nunca para responder de manera efectiva.

3) Sofisticación progresiva de los ataques, en particular con la ayuda de la inteligencia artificial. La IA se está utilizando tanto como vector de ataque como herramienta para mejorar la ejecución de los ataques. Los ciberdelincuentes están sirviéndose de la automatización impulsada por IA para perfeccionar sus técnicas, lo que hace que sea más difícil detectarlos y defenderse de sus operaciones.La ingeniería social potenciada por la IA es otra preocupación creciente: los ciberdelincuentes manipulan y engañan a sus objetivos para obtener acceso a infraestructuras críticas

Dimensión del problema

Desde Unit42, cada año respondemos a unos 1.000 ciberataques. Estos episodios afectan a grandes corporaciones, pequeñas y medianas empresas, hospitales y agencias gubernamentales. Cuando recurren a nosotros, suele ser porque la situación ya ha escalado y se ha convertido en una crisis. En las investigaciones forenses, nos enfrentamos directamente con los actores de amenazas, ayudando a atenuar y resolver estos eventos críticos.

La magnitud de los ataques es asombrosa. Los atacantes están explotando vulnerabilidades ampliamente disponibles en la red, a menudo en esfuerzos masivos y coordinados.Los atacantes están explotando vulnerabilidades ampliamente disponibles en la red, a menudo en esfuerzos masivos y coordinados

La ingeniería social potenciada por la IA es otra preocupación creciente: los ciberdelincuentes manipulan y engañan a sus objetivos para obtener acceso a infraestructuras críticas. Ya no solo buscan ganancias financieras; también están asaltando redes eléctricas, instituciones de salud y organizaciones gubernamentales, lo cual puede tener consecuencias devastadoras y llegar a desestabilizar sociedades enteras.

Para ponerlo en perspectiva, en 2023 los ciberataques causaron daños por valor de 8 billones de dólares en todo el mundo. Solo en Alemania, el coste estimado fue de unos 200.000 millones de dólares.

IA y agentes de IA en ciberseguridad, un arma de doble filo

La IA presenta una gran oportunidad para mejorar los esfuerzos de ciberseguridad, facilitando la detección y respuesta a amenazas. Sin embargo, también está siendo explotada por los malhechores. Hemos observado agentes de IA dentro de organizaciones con permisos de alto nivel para el acceso a datos y derechos de usuario. En algunos casos, estos agentes están sobrescribiendo los principios Zero Trust, que exigen que todo acceso sea verificado.Algunos agentes de IA están sobreescribiendo los principios Zero Trust, que dictan que todo acceso debe ser verificado

Los atacantes están utilizando bots autónomos impulsados por IA para escalar privilegios y ejecutar sus objetivos. También emplean IA para crear voces, imágenes, vídeos y correos electrónicos falsos, engañando a las personas para que les concedan acceso o compartan información sensible.

La colaboración global como contrapeso

Existen múltiples proyectos de intercambio de información en curso. Palo Alto Networks, a través de Unit 42, participa en programas de cooperación con gobiernos y tiene asociaciones con más de 200 agencias gubernamentales.

Compartimos inteligencia sobre amenazas, datos de incidentes y colaboramos con las autoridades para rastrear y desmantelar infraestructuras de ciberdelincuentes.

A nivel empresarial, lo más relevante es que cada organización comprenda cómo evolucionan y operan estas amenazas. Es fundamental desarrollar un nivel de conciencia y sensibilidad hacia los riesgos de ciberseguridad, así como establecer roles y responsabilidades claros dentro de la empresa. En Unit 42 colaboramos con las autoridades para rastrear y desmantelar infraestructuras de ciberdelincuentes

En cuanto a las herramientas, estas son simplemente un medio para un fin. Lo esencial es cómo está estructurada una organización para proteger los datos sensibles y cómo están diseñados sus procesos para mitigar riesgos.

Los líderes han de ser diligentes en comprender cómo utilizar eficazmente las herramientas de ciberseguridad, mantenerse informados sobre las amenazas en evolución y garantizar que la ciberseguridad esté integrada en su portfolio general de riesgos.

Además, es imperativo invertir en educación y formación continua. Las amenazas evolucionan rápidamente y las empresas deben asegurarse de que sus equipos cuenten con el conocimiento más actualizado para identificar y disminuir los riesgos de manera efectiva.

Los consultores de Unit 42 ayudan a los clientes durante ataques y situaciones de violación de datos, además de prestarles un asesoramiento proactivo para detectar y prevenir este tipo de eventos. También disponemos de un gran equipo de investigadores de amenazas que monitorean continuamente a diversos grupos de ciberdelincuentes y actores estatales, analizando sus métodos y actividades. Seguimos su comportamiento, comprendemos sus tácticas y proporcionamos inteligencia para ayudar a las organizaciones a fortalecer su postura de seguridad".

André Reichow-Prehn, managing partner de Central Europe Unit 42, Palo Alto Networks; en conversación con Rebecca Kerr, ex vicepresidenta de Cuentas Estratégicas Globales de IBM, para el Drucker Forum TV durante el 16th Global Peter Drucker Forum.

Imágenes: © druckerforum.org

Publicado en marzo de 2025.