Ciberataques con IA

El panorama de la ciberseguridad cambió de la noche a la mañana cuando ChatGPT alcanzó los 100 millones de usuarios. Las defensas de seguridad tradicionales, construidas a lo largo de décadas, se ven ahora asediadas por amenazas impulsadas por IA que nunca fueron diseñadas para detectar o prevenir. Los atacantes siempre han sido rápidos en adoptar las tecnologías emergentes, pero la inteligencia artificial les ha proporcionado herramientas que antes eran dominio exclusivo de los estados nacionales y las organizaciones criminales sofisticadas.

“Los actores maliciosos están utilizando la IA para crear malware más inteligente, automatizar los ataques y enfocarse en ciertos individuos con mayor precisión”, afirma Catherine Hwang, directora de marketing de productos de Proofpoint. “Los métodos de seguridad tradicionales ya no son suficientes para adelantarse a estas amenazas en constante evolución”, añade.

Según informes del sector, el 75 % de los equipos de ciberseguridad han cambiado su estrategia en los últimos 12 meses para combatir los ciberataques impulsados por la IA, y casi todos (el 97 %) expresaron su preocupación por que su organización sufra una vulneración como resultado de la IA. Estas cifras reflejan un cambio fundamental en nuestra forma de pensar sobre las amenazas cibernéticas. La barrera de entrada para lanzar ataques sofisticados se ha reducido significativamente.

Lo que está en juego va más allá de las vulnerabilidades técnicas. Los miembros de los consejos de administración están planteando preguntas más difíciles sobre los riesgos de la IA. Los marcos normativos están evolucionando para hacer frente a estas amenazas emergentes. Las conversaciones sobre presupuestos de seguridad ahora incluyen debates sobre la defensa contra tecnologías que la mayoría de las organizaciones aún están aprendiendo a utilizar de forma productiva.

Comprender los ciberataques basados en IA ya no es opcional para los responsables de seguridad. Se ha convertido en algo fundamental para proteger a las empresas modernas.

Un ciberataque impulsado por IA se produce cuando los adversarios aprovechan la inteligencia artificial, el aprendizaje automático, la IA generativa o los grandes modelos de lenguaje para mejorar, automatizar o ampliar las técnicas cibernéticas tradicionales.

Estos ataques representan una evolución más que una revolución. Los métodos fundamentales siguen siendo los mismos, pero la IA actúa como un multiplicador de fuerzas que aumenta drásticamente su velocidad, sofisticación y tasas de éxito.

La terminología es importante aquí, porque la precisión impulsa mejores estrategias de defensa.

• Los ataques habilitados por IA utilizan la IA como herramienta principal a lo largo de todo el ciclo de vida del ataque.
• Los ataques impulsados por IA dependen en gran medida de la IA para su funcionalidad básica, pero pueden incluir la supervisión humana.
• Los ataques asistidos por IA incorporan la IA como elemento de apoyo dentro de operaciones en gran medida manuales.

El momento en que ha surgido esta amenaza está directamente relacionado con la democratización. Herramientas como ChatGPT, Claude y los modelos de lenguaje de código abierto han eliminado las barreras tradicionales de entrada. Anteriormente, para crear correos electrónicos de phishing convincentes se necesitaban conocimientos del idioma nativo y de la cultura. Ahora, los atacantes pueden generar contenido contextualmente apropiado en docenas de idiomas en cuestión de segundos. Las plataformas de deepfakes, que antes requerían conocimientos especializados, ahora son accesibles a través de sencillas interfaces web.

Esto concuerda con una realidad fundamental sobre la ciberseguridad: los ataques se dirigen primero a las personas y luego a la tecnología. La IA simplemente amplifica las vulnerabilidades humanas existentes. La ingeniería social se vuelve más convincente. El spear phishing alcanza volúmenes sin precedentes. La clonación de voz hace que los ataques de vishing sean casi indetectables. El elemento humano sigue siendo la principal superficie de ataque, pero la IA ha proporcionado a los malos actores herramientas mucho mejores para explotarla.

La IA ha alterado fundamentalmente la ecuación de la ciberseguridad de formas que las defensas tradicionales tienen dificultades para abordar. La transformación va más allá de la simple automatización. Estos ataques representan un cambio cualitativo que modifica nuestra forma de pensar sobre la mitigación de amenazas y el riesgo organizativo.

• Revolución en velocidad y escala: Las herramientas impulsadas por IA pueden generar miles de correos electrónicos de phishing personalizados en minutos en lugar de horas. Desde el lanzamiento de ChatGPT, el volumen de phishing ha aumentado un 4151 %, lo que demuestra cómo la IA elimina los cuellos de botella que antes limitaban las campañas de ataque.
• Precisión en la selección de objetivos que realmente funciona: Los correos electrónicos de phishing generados por IA alcanzan una tasa de éxito del 54 %, en comparación con solo el 12 % de los ataques tradicionales. Ahora, los atacantes pueden rastrear perfiles de redes sociales, sitios web corporativos y registros públicos para crear mensajes hiperpersonalizados que hacen referencia a compras recientes, contactos mutuos o terminología específica de la empresa.
• Sofisticación democratizada: La barrera de entrada se ha derrumbado, ya que el 82,6 % de los correos electrónicos de phishing incorporan ahora tecnología de IA de alguna forma. Los grupos criminales sin conocimientos técnicos pueden acceder a herramientas que antes eran exclusivas de los agentes estatales. La clonación de voz y la creación de deepfakes ya no requieren conocimientos especializados.
• Capacidades para evadir la detección: El malware con IA puede adaptarse en tiempo real, modificando su comportamiento en función del entorno de seguridad que encuentra. Las variantes polimórficas aprenden de los intentos fallidos y ajustan su enfoque, mientras que las entradas adversarias están diseñadas específicamente para engañar a los sistemas de detección basados en el aprendizaje automático.
• Amplificación del factor humano: “Con la ayuda de la IA y la automatización, pueden personalizar sus ataques y crear mensajes más convincentes”, advierte Lynn Harrington, directora sénior de marketing de productos de Proofpoint. “Esto permite a los atacantes ampliar sus ataques, lo que dificulta su detección y detención por parte de las medidas de seguridad tradicionales”.

Esto es lo que quita el sueño a los profesionales de la seguridad. El panorama de amenazas se ha cristalizado esencialmente en torno a cinco tipos de ataques que tienen una cosa en común: utilizan la IA para que los ataques tradicionales sean mucho más devastadores.

Phishing y spear phishing impulsados por IA

¿Recuerda cuando se podía detectar un correo electrónico de phishing por su español incorrecto y sus evidentes errores gramaticales? Esto se acabó. Los ataques generados por inteligencia artificial ahora hacen referencia a sus publicaciones recientes en LinkedIn, mencionan a sus compañeros de trabajo por su nombre e incluso imitan el estilo de comunicación interna de su empresa. Lo que a un atacante humano le llevaba semanas investigar y preparar, ahora se hace en cuestión de minutos. Los CISO están descubriendo que deben reescribir todo su manual de formación de usuarios, ya que los empleados ya no pueden confiar en las señales de alerta que se les enseñó a detectar.

Suplantación de identidad con deepfakes

Los atacantes utilizan voz y vídeo sintéticos para suplantar a ejecutivos durante las aprobaciones financieras o crear representantes de atención al cliente convincentes para estafas telefónicas. La tecnología necesita sorprendentemente poco material de origen. Unos pocos minutos de las llamadas grabadas de su director general sobre los resultados financieros pueden ser suficientes. Los directores de TI deben preocuparse especialmente si sus sistemas de autenticación dependen en gran medida del reconocimiento de voz o si los ejecutivos aprueban regularmente transacciones a través de videollamadas.

Malware polimórfico

Se puede considerar como un malware que aprende de sus errores. Las variantes generadas por IA adaptan su estructura de código en tiempo real, modificando su comportamiento en función del entorno de seguridad que encuentran. Cuando un enfoque falla, prueban otro. Algunas variantes alcanzaron tasas de evasión del 100 % frente a sistemas de detección específicos. Los ingenieros de seguridad están descubriendo que los sistemas de detección basados en firmas se han quedado obsoletos. El enfoque debe desplazarse hacia el análisis del comportamiento y la detección de anomalías.

Reconocimiento y explotación mejorados por IA

Los agentes automatizados ahora escanean la infraestructura de red a la velocidad de una máquina, al tiempo que mantienen la conciencia contextual para evitar activar alarmas obvias. Identifican vulnerabilidades, adaptan cargas útiles y, básicamente, democratizan capacidades que antes pertenecían exclusivamente a actores estatales. Los directores de TI que gestionan programas de vulnerabilidad se enfrentan de repente a atacantes que pueden sondear más rápido de lo que se pueden implementar los parches.

Ataques de IA adversarios

Esta es la paradoja que quita el sueño a los CISO. Estos ataques se dirigen a los propios sistemas de IA mediante el envenenamiento de datos y la manipulación de modelos. Los atacantes pueden corromper los conjuntos de datos de entrenamiento con tan solo entre un 1 % y un 3 % de datos maliciosos para afectar significativamente al rendimiento del modelo. Las organizaciones que implementan herramientas de seguridad de IA se ven obligadas a utilizar la inteligencia artificial para defenderse de ataques diseñados específicamente para explotar las debilidades de la IA. Se trata de un problema recursivo que se vuelve más complejo cada trimestre.

Es aquí donde las cifras se vuelven incómodas. Se prevé que los ciberataques impulsados por la IA a nivel mundial superen los 28 millones de incidentes en 2025, con un coste medio de unos 5,72 millones de USD para cada vulneración de datos impulsada por IA. Pero esas cifras no reflejan realmente lo que está sucediendo en el campo.

Tomemos el caso de Hong Kong que fue noticia a principios de este año. Un trabajador del sector financiero transfirió 25 millones de dólares a unos estafadores durante lo que parecía ser una videoconferencia rutinaria con el director financiero y varios compañeros. El empleado sospechó inicialmente de un intento de phishing cuando recibió la solicitud por correo electrónico. Pero entonces llegó la videollamada. Todos lucían bien, sonaban bien e incluso sus gestos eran los correctos. Solo después de que el dinero desapareciera, la empresa se dio cuenta de que todas las personas que participaron en la llamada fueron generadas artificialmente.

La empresa de ingeniería británica Arup se enfrentó a una situación similar cuando un empleado envió millones a unos atacantes que habían falsificado al director general y a otros ejecutivos durante una videoconferencia. La estafa comenzó con un correo electrónico sospechoso sobre una transacción confidencial, pero esa videollamada tan realista borró todas las dudas sobre su legitimidad.

Incluso los ataques a las infraestructuras están recibiendo el “tratamiento de IA”. En abril de 2025, unos hackers comprometieron los altavoces de los pasos de peatones de Seattle, sustituyendo las órdenes de voz estándar por audio generado por IA que podía imitar los anuncios de control de tráfico. El ataque demostró cómo la IA puede atacar no solo las redes corporativas, sino también los sistemas de seguridad pública que la mayoría de la gente nunca se plantea.

Luego está el caso que fue noticia a nivel nacional a principios de este año y que involucró al director de un instituto cerca de Baltimore. Alguien creó una grabación de audio deepfake de Eric Eiswert haciendo comentarios racistas y antisemitas sobre los estudiantes y el personal. El clip se volvió viral, generando amenazas de muerte y obligando a Eiswert a dejar su trabajo. Resultó que el director deportivo de la escuela había creado el audio falso como venganza después de ser investigado por robo. ¿La tecnología necesaria para llevarlo a cabo? Herramientas fácilmente accesibles online y algunos audios de la voz del director disponibles públicamente.

Lo que hace que estos casos sean especialmente inquietantes es cómo explotan los mecanismos de confianza fundamentales que mantienen en funcionamiento a las organizaciones. Los protocolos de verificación tradicionales se vuelven inútiles cuando los empleados no pueden distinguir entre las comunicaciones auténticas y las sintéticas de los altos directivos. La tecnología ha ido mucho más allá de las demostraciones de prueba de concepto y ha pasado a ser explotada activamente con fines delictivos, con consecuencias financieras devastadoras.

La realidad de los ciberataques con inteligencia artificial es que afectan a diferentes personas de diferentes maneras. Un CISO se preocupa por las presentaciones ante la junta directiva y el cumplimiento normativo. Un director de TI se centra en mantener los sistemas en funcionamiento y proteger a los usuarios. Un ingeniero de ciberseguridad piensa en las lagunas de detección y las respuestas prácticas. A continuación, se muestra cómo se distribuyen las amenazas de IA entre cada función.

Para los CISO

Su mayor preocupación no es la arquitectura técnica. Es explicar a la junta directiva por qué la empresa acaba de transferir 25 millones de dólares a unos estafadores que falsificaron la voz del director financiero. Los ataques de IA crean riesgos a nivel directivo que los marcos de ciberseguridad tradicionales tienen dificultades para abordar.

Mayores amenazas: La suplantación de identidad de ejecutivos mediante deepfakes encabeza la lista, ya que elude todos los protocolos de verificación que se tienen establecidos. Las consecuencias normativas le siguen de cerca, ya que los marcos de cumplimiento tienen dificultades para mantenerse al día con los requisitos de detección de fraudes impulsados por la IA.

Qué hacer: Crear marcos de riesgo que aborden específicamente las amenazas de los medios sintéticos. Actualizar los planes de respuesta a incidentes para incluir escenarios de deepfakes. Crear estructuras de gobernanza que puedan evaluar las herramientas de seguridad de IA sin perderse en las especificaciones técnicas. Y lo más importante, establecer protocolos de comunicación claros que no dependan únicamente de la verificación de voz o vídeo para las transacciones de alto valor.

Preguntas que debe hacerse:

• ¿Cómo verificamos las comunicaciones ejecutivas cuando los deepfakes son indistinguibles de las grabaciones reales?
• ¿Cuál es la magnitud de nuestra responsabilidad si un empleado sigue instrucciones falsificadas de los altos directivos?
• ¿Cómo medir la preparación ante ataques de IA de forma que la junta directiva pueda entenderlo?

Para directores de TI

Se pueden encontrar atrapados entre presiones contrapuestas. Los usuarios quieren herramientas de productividad impulsadas por IA, pero cada nueva aplicación amplía su superficie de ataque. Mientras tanto, las medidas de seguridad tradicionales parecen insuficientes frente a ataques que se adaptan en tiempo real.

Mayores amenazas: Automatización del phishing impulsada por IA que genera miles de ataques personalizados por hora. Campañas de relleno de credenciales que utilizan el aprendizaje automático para optimizar las tasas de éxito. Malware polimórfico que evoluciona más rápido de lo que pueden actualizarse sus firmas de detección.

Qué hacer: Acelere la adopción de la arquitectura Zero Trust (“Confianza Cero”), ya que la seguridad basada en el perímetro no puede hacer frente al reconocimiento mejorado por IA. Implemente simulaciones de phishing continuas que incorporen contenido generado por IA para que los empleados experimenten amenazas realistas en entornos controlados. Establezca procesos de supervisión de proveedores específicos para las herramientas de seguridad de IA, ya que las pruebas de penetración tradicionales pueden no revelar las vulnerabilidades específicas de la IA.

Preguntas que debe hacerse:

• ¿Cómo podemos parchear los sistemas cuando el malware de IA se adapta más rápido que nuestros ciclos de actualización?
• ¿Qué sucede cuando nuestros usuarios no pueden distinguir las actualizaciones de software legítimas de las falsas generadas por IA?
• ¿Cómo equilibramos las ganancias de productividad de la IA con la ampliación de las superficies de ataque?

Para los ingenieros de ciberseguridad

Los sistemas de detección están diseñados para comportamientos humanos predecibles, pero se enfrentan a ataques que aprenden y se adaptan en tiempo real. Los indicadores tradicionales de compromiso se vuelven inútiles cuando el malware puede modificar sus firmas bajo demanda.

Mayores amenazas: Malware polimórfico que alcanza tasas de evasión del 100 % frente a la detección basada en firmas. Ataques adversarios diseñados específicamente para engañar a sus herramientas de seguridad de aprendizaje automático. Tráfico generado por IA que imita el comportamiento legítimo de los usuarios mientras extrae datos.

Qué hacer: Cambie el enfoque hacia la detección de anomalías en el comportamiento, ya que las firmas no pueden seguir el ritmo de las amenazas adaptativas. Implemente soluciones EDR y XDR que puedan identificar patrones inusuales en lugar de firmas de malware conocidas. Establezca sistemas de monitoreo continuo que puedan detectar cambios sutiles en el comportamiento de la red que puedan indicar un reconocimiento impulsado por IA.

Preguntas que debe hacerse:

• ¿Cómo detectar el malware diseñado específicamente para evadir nuestros algoritmos de detección?
• ¿Qué comportamientos básicos debemos monitorear cuando la IA puede imitar perfectamente los patrones legítimos de los usuarios?
• ¿Cómo podemos defendernos contra amenazas que pueden adaptar sus tácticas en función de nuestras respuestas defensivas?

El denominador común de los tres usuarios es la velocidad. Los ataques de IA se desarrollan más rápido de lo que permiten los plazos tradicionales de respuesta a incidentes. La tecnología ha comprimido los ciclos de vida de los ataques de semanas a minutos, lo que obliga a todos los responsables de la seguridad a replantearse los supuestos fundamentales sobre la detección y la respuesta a las amenazas.

El reto de defenderse de los ataques de IA es que los métodos de detección tradicionales se crearon para amenazas a velocidad humana con patrones predecibles. La IA cambia por completo esa ecuación. Así es como los equipos de seguridad están adaptando su enfoque.

Señales de detección realmente importantes

Las anomalías en los patrones de comunicación son su mejor sistema de alerta temprana. Busque mensajes que coincidan con el estilo de escritura de un empleado, pero que contengan sutiles inconsistencias lingüísticas. Tal vez el director general empiece de repente a utilizar un lenguaje formal en situaciones informales, o el correo electrónico de un compañero carezca de sus peculiaridades conversacionales habituales.

Las señales de alerta de la autenticación de voz y vídeo se centran en las inconsistencias contextuales más que en los artefactos técnicos. ¿Conoce el ejecutivo de la videollamada los detalles que debería conocer? ¿Está disponible cuando debería estar en reuniones? Una calidad de audio que parece demasiado nítida puede indicar una generación sintética.

El análisis del comportamiento de los patrones de inicio de sesión ayuda a identificar los ataques a las credenciales mejorados por la IA. Los modelos de aprendizaje automático pueden establecer bases de referencia para los patrones de escritura, los tiempos de inicio de sesión y los comportamientos de los dispositivos que los sistemas de IA suelen pasar por alto.

Las firmas de comportamiento de malware adaptativo requieren monitorizar los comportamientos del sistema en lugar de las firmas de los archivos. Céntrese en las interacciones de los procesos y los comportamientos de comunicación de la red que se mantienen estables incluso cuando el malware adapta su apariencia.

Lista de verificación de 5 pasos para defender su organización contra los ciberataques con IA

1. Implemente sistemas de detección mejorados con IA: Implemente plataformas de detección de amenazas que puedan identificar contenido sintético y anomalías de comportamiento en tiempo real.
2. Actualice los manuales de respuesta a incidentes: Cree protocolos específicos para la verificación de deepfakes y escenarios de ataques impulsados por IA con plazos de respuesta comprimidos.
3. Realice formación en seguridad impulsada por IA: Utilice simulaciones de phishing generadas por IA que reflejen las técnicas de ataque reales a las que se enfrentarán los empleados.
4. Establezca una arquitectura de confianza cero: Verifique todas las comunicaciones y transacciones, especialmente las solicitudes de alto valor de los ejecutivos.
5. Simulaciones periódicas de ataques de IA del equipo rojo: Pruebe las respuestas de la organización ante comunicaciones deepfake, medios sintéticos y escenarios de malware adaptativo.

Creación de capas defensivas

La defensa centrada en las personas significa implementar simulaciones de phishing mejoradas con IA que utilizan las mismas técnicas de generación que los atacantes reales. Esto ayuda a los empleados a experimentar contenido sintético realista en entornos controlados.

La evolución de los procesos requiere actualizar los manuales de respuesta a incidentes para escenarios de ataques de IA. La respuesta tradicional asume patrones predecibles y una progresión a velocidad humana. Los ataques de IA comprimen drásticamente los plazos y adaptan las tácticas en función de las respuestas defensivas.

La integración tecnológica requiere de soluciones que puedan igualar la velocidad de los ataques de IA con las capacidades de defensa de la IA. Las plataformas de seguridad del correo electrónico necesitan un procesamiento del lenguaje natural que pueda identificar anomalías sutiles en el contenido generado por la IA.

La realidad es que la prevención perfecta no es posible cuando se enfrentan amenazas de IA adaptativas. El objetivo pasa a ser la detección y contención rápidas antes de que los ataques alcancen sus objetivos. Los equipos de seguridad deben pensar menos como constructores de fortalezas y más como sistemas inmunitarios que pueden identificar y responder a amenazas novedosas en tiempo real.

El panorama normativo en torno a los ciberataques de IA está evolucionando más rápido de lo que la mayoría de las organizaciones pueden adaptarse. La FTC lanzó la Operación AI Comply en 2025, dirigida a las empresas que realizan afirmaciones engañosas sobre sus capacidades de IA. En virtud del artículo 5 de la Ley de la FTC, la agencia tiene amplios poderes para perseguir a las empresas que realizan declaraciones falsas o engañosas sobre las características de seguridad de la IA.

La SEC también ha actualizado los requisitos de notificación de infracciones para abordar específicamente los incidentes relacionados con la IA. Las organizaciones disponen ahora de 96 horas para notificar los incidentes de ciberseguridad importantes, y los ataques mejorados por IA suelen requerir una divulgación adicional sobre los medios sintéticos o los sistemas automatizados implicados. El reto es que muchos ejecutivos aún no entienden cómo clasificar estos incidentes.

El Plan de Acción de IA de la administración Trump hace hincapié en los principios de seguridad desde el diseño y aboga por la creación de un Centro de Análisis e Intercambio de Información sobre IA. Las organizaciones que participen en estas iniciativas desde el principio tendrán una mejor visibilidad hacia las amenazas emergentes y las expectativas normativas.

La próxima fase de los ciberataques con IA parece fundamentalmente diferente de lo que estamos viendo hoy en día. Las organizaciones criminales ya están desplegando agentes de IA autónomos para realizar reconocimientos, identificar vulnerabilidades y adaptar estrategias de ataque en tiempo real sin intervención humana. Estos sistemas pueden funcionar de forma continua, aprendiendo de cada intento fallido y compartiendo información entre redes criminales.

El uso de la voz y el vídeo como armas se multiplicará exponencialmente. Estamos pasando de incidentes aislados de deepfakes a campañas que pueden generar miles de ataques multimedia sintéticos personalizados simultáneamente. Las organizaciones criminales están creando sistemas de IA que pueden rastrear perfiles de redes sociales, generar videollamadas convincentes y ejecutar estafas de compromiso de correo electrónico empresarial a una escala sin precedentes.

La ecuación de defensa está cambiando hacia escenarios de “IA contra IA”. Las herramientas de seguridad tradicionales basadas en firmas quedan obsoletas cuando se enfrentan a malware adaptativo que se reescribe continuamente. Los equipos de seguridad están implementando sistemas de IA que pueden detectar anomalías de comportamiento y responder a la velocidad de una máquina, pero esto crea una carrera armamentística en la que tanto los atacantes como los defensores iteran más rápido de lo que los operadores humanos pueden seguir.

La necesidad crítica para avanzar es la visibilidad y la gobernanza. Las organizaciones necesitan asociaciones de confianza con proveedores de seguridad que comprendan el panorama de las amenazas de IA y puedan proporcionar inteligencia sobre amenazas que se mantenga al día con la innovación criminal en IA.

La IA no solo está cambiando la ciberseguridad. Está reescribiendo todo el panorama de amenazas a la velocidad de una máquina. Aunque la tecnología que hay detrás de los ataques es cada vez más sofisticada, las personas siguen siendo el objetivo principal. La diferencia ahora es que la IA hace que esos ataques sean más rápidos, más convincentes y casi imposibles de distinguir de las comunicaciones legítimas.

Las organizaciones que reconozcan este cambio a tiempo y adapten sus defensas en consecuencia serán las que sobrevivan. Obtenga más información sobre Nexus®, la plataforma de inteligencia sobre amenazas de IA de Proofpoint, o póngase en contacto con Proofpoint para ver cómo ayudamos a las organizaciones a proteger a las personas contra las amenazas más avanzadas de la actualidad.