La inteligencia artificial transforma todos los sectores, y la ciberseguridad no escapa a esa mutación. Si bien permite automatizar la detección de amenazas o analizar grandes volúmenes de datos en tiempo real, representa también una formidable palanca para los ciberatacantes. Estos la aprovechan cada vez más para afinar sus técnicas, eludir las protecciones existentes e industrializar sus acciones.
ChatGPT, demostración de un desvío logrado
Ante el aumento de los usos maliciosos de la inteligencia artificial, los fabricantes de IA despliegan salvaguardas de forma continua para limitar los abusos. Pero los retos persisten y, en este contexto, Sam Altman, CEO de OpenAI, alertaba ya en 2023 del riesgo que representan estos modelos para la ciberseguridad: « Ahora que son mejores escribiendo código informático, podrían utilizarse para ciberataques ofensivos». La advertencia es clara: a medida que avanzan las capacidades de las IA, también lo hace su potencial de desvío.
En abril de 2023, el investigador Aaron Mulgrew, de Forcepoint, demostró que era posible manipular ChatGPT para generar un malware indetectable. Este uso desviado se apoyaba en un enfoque progresivo, con formulaciones fragmentadas y ambiguas para eludir los filtros de seguridad integrados en el modelo. El código obtenido era capaz de explorar un sistema en busca de archivos Word o PDF, extraer su contenido y luego ocultarlo en una imagen mediante técnicas de esteganografía. Esa imagen, en apariencia inocua, podía después transmitirse a un servidor remoto, escapando a los antivirus y a los sistemas de detección clásicos, que la consideraban un simple archivo de imagen.
Ciberataques a la carta: el auge de las IA de vocación ofensiva
En los mercados de la dark web como Empire Market, World Market o Versus aparecen nuevas herramientas impulsadas por la IA. Entre ellas, FraudGPT y WormGPT se imponen como modelos sin salvaguardas éticas. Presentados como alternativas a ChatGPT, están concebidos específicamente para un uso malicioso.
Una investigación de Trustwave revela que estas IA son mucho más que una versión «liberada» de los modelos clásicos: en ocasiones están entrenadas con bases de datos orientadas deliberadamente a facilitar el pirateo. FraudGPT, por ejemplo, se promociona en foros privados como un asistente para todo al servicio de los ciberdelincuentes: generación de código malicioso, creación de campañas de phishing dirigidas, redacción de scripts de inyección o análisis automático de superficies de ataque.
Estas IA hacen posible, incluso para usuarios novatos, la ejecución de ataques sofisticados hasta ahora reservados a ciberdelincuentes expertos. En una conferencia TEDx titulada «Cybersecurity in the Age of AI», el especialista Adi Irani ilustra en particular cómo una persona sin competencias de programación puede llevar a una IA a producir un malware polimórfico, capaz de modificar dinámicamente su código para eludir los mecanismos de detección. Este tipo de sofisticación, antes reservada a perfiles muy técnicos, se vuelve accesible a través de una simple interfaz conversacional.
Adi Irani demuestra también que la IA se aprovecha para optimizar la ingeniería social. Una simple consulta alimentada con información encontrada en redes sociales permite generar un guion de phishing personalizado, listo para enviarse por correo. Esta automatización de la personalización tiene un impacto concreto: según un estudio de AAG, la tasa de éxito de las campañas de phishing pasa del 18 % al 51 % cuando se adaptan al objetivo.
Cómo refuerza la IA también las capacidades de defensa
Ante el auge de los ciberataques, la inteligencia artificial se impone como un activo mayor para los actores de la ciberseguridad. Permite enriquecer las capacidades de análisis, de decisión y de anticipación.
Gracias a los algoritmos de aprendizaje automático, se vuelve posible explotar de forma continua inmensos volúmenes de datos para extraer señales débiles, detectar comportamientos anómalos y revelar patrones de compromiso.
Estos sistemas evolucionan ya hacia un enfoque predictivo. Al modelizar la evolución de los comportamientos de los usuarios, cruzar indicadores técnicos heterogéneos y detectar la recurrencia de microanomalías, la IA permite anticipar ataques antes de que se materialicen. Resulta especialmente eficaz frente a amenazas avanzadas y sigilosas.
Por último, la inteligencia artificial cumple también un papel de acelerador operativo. Al automatizar tareas costosas en tiempo y de bajo valor añadido, como la redacción de reglas, las configuraciones o los escenarios de prueba, permite a los equipos de seguridad centrarse en el análisis estratégico y en la respuesta dirigida a los incidentes.
La inteligencia artificial constituye un pilar de la base tecnológica desarrollada por Pradeo, al servicio de todas sus soluciones, se trate de seguridad móvil o de aplicaciones, a través de las ofertas Pradeo y Yagaan.
