El negocio está en auge para las empresas de ciberseguridad
Axon, un desarrollador de malware, vive en Velora, un mundo virtual donde todo está prohibido. Quiere crear software malicioso para robar contraseñas de Google Chrome, un navegador de internet. Esa es la base de la historia que Vitaly Simonovich, investigador de amenazas de IA en Cato Networks, una empresa de ciberseguridad, le cuenta a Chat GPT , un bot de inteligencia artificial ( IA ). Con ganas de participar, Chat GPT generó código imperfecto, que luego ayudó a depurar. En seis horas, Simonovich eludió las protecciones integradas de Chat GPT y lo utilizó para crear malware funcional.
La IA ha ampliado el alcance de los hackers, según Gil Messing, de Check Point, otra firma de ciberseguridad, al permitirles atacar a más objetivos con menos esfuerzo. El lanzamiento de Chat gpt en 2022 marcó un punto de inflexión. Los ingeniosos modelos de IA generativa permitieron que los delincuentes ya no tuvieran que invertir grandes sumas en equipos de hackers y equipos. Esto ha sido un avance nefasto para la mayoría de las empresas, que cada vez son más víctimas de hackers asistidos por IA , pero ha sido bastante positivo para quienes trabajan en el sector de la ciberseguridad.
La nueva tecnología ha empeorado la amenaza de ciberataques de dos maneras principales. Primero, los hackers ahora pueden usar modelos de lenguaje grandes ( LLM ) para distribuir su malware a más víctimas. Generar deepfakes, correos electrónicos fraudulentos y ataques de ingeniería social que manipulan el comportamiento humano ahora es mucho más fácil y rápido. Una opción para los hackers es “liberar” un modelo existente como Chat GPT , que el Sr. Simonovich demostró que se puede hacer fácilmente. Otra es usar un modelo diseñado específicamente para fines siniestros, como Xanthorox AI , que permite a los cibercriminales crear deepfakes y realizar otras actividades nefastas por tan solo $150 al mes. Los hackers pueden lanzar ataques de phishing de gran alcance pidiendo a un llm que recopile grandes cantidades de información de Internet y luego la use para crear correos electrónicos personalizados falsos. Los ataques dirigidos contra individuos específicos, conocidos como “spearphishing”, ahora a menudo involucran llamadas de voz y video falsas de colegas para convencer a un empleado de que descargue y ejecute software dudoso.
En segundo lugar, se está utilizando IA para hacer que el propio malware sea más amenazante. Por ejemplo, un software camuflado en un documento PDF podría ahora integrar código que funciona con IA para infiltrarse en una red. Los ataques a los sistemas de seguridad y defensa de Ucrania en julio emplearon este enfoque. Cuando el malware llegó a un punto muerto, pudo solicitar la ayuda de un llm en la nube para generar nuevo código y así vulnerar las defensas de los sistemas. No se sabe con certeza cuánto daño causó, pero fue el primer ataque de este tipo, señala el Sr. Simonovich.
Para las empresas, la creciente amenaza es alarmante y potencialmente costosa. El año pasado, la IA estuvo implicada en una de cada seis filtraciones de datos, según IBM , una empresa tecnológica. También impulsó dos de cada cinco estafas de phishing dirigidas a correos electrónicos empresariales. La consultora Deloitte estima que la IA generativa podría generar fraudes por un valor aproximado de 40 000 millones de dólares para 2027, frente a los 12 000 millones de dólares de 2023.
Hackers asesinos
Sin embargo, los ciberdelincuentes no son los únicos beneficiarios. A medida que los ciberataques impulsados por IA se vuelven más comunes, el negocio de protección contra ellos crece considerablemente. Gartner, una firma de investigación, predice que el gasto corporativo en ciberseguridad aumentará en un cuarto de 2024 a 2026, alcanzando los 240 000 millones de dólares. Esto explica por qué los precios de las acciones de las empresas que sigue el índice de ciberseguridad Nasdaq CTA también han aumentado más de un 20 % durante el último año, superando al índice Nasdaq más amplio . El 18 de agosto, Nikesh Arora, director de Palo Alto Networks, una de las empresas de ciberseguridad más grandes del mundo, señaló que los incidentes de seguridad de datos relacionados con la IA generativa se han “más que duplicado desde el año pasado”, al informar que las ganancias operativas de su empresa en los 12 meses hasta julio crecieron un 82 %, en comparación con el año anterior.
La perspectiva de un número cada vez mayor de clientes ha impulsado a las empresas de ciberseguridad a una oleada de compras. El 30 de julio, Palo Alto Networks anunció la adquisición de CyberArk, una empresa de seguridad de identidad, por 25 000 millones de dólares. A principios de ese mes, la empresa invirtió 700 millones de dólares en Protect AI , que ayuda a las empresas a proteger sus sistemas de IA . El 5 de agosto, SentinelOne, otra empresa de ciberseguridad, anunció la compra de Prompt Security, una empresa que desarrolla software para proteger a las empresas que adoptan la IA , por 250 millones de dólares.
Los gigantes tecnológicos con divisiones de computación en la nube en rápido crecimiento también están reforzando sus ofertas de ciberseguridad. Microsoft, un coloso del software, adquirió CloudKnox, una plataforma de seguridad de identidad, en 2021 y desarrolló Defender for Cloud, una aplicación interna para empresas que abarca desde la detección de vulnerabilidades de seguridad y la protección de datos hasta la monitorización de amenazas. Google desarrolló Big Sleep, que detecta ciberataques y vulnerabilidades de seguridad para los clientes antes de que sean explotadas. En marzo, invirtió 32 000 millones de dólares en la compra de Wiz, una startup de ciberseguridad.
La competencia y la consolidación pueden ayudar a construir empresas capaces de defenderse de los ciberdelincuentes ágiles impulsados por IA. Pero en medio de la carrera por desarrollar LLM cada vez más potentes , muchos desarrolladores de modelos priorizarán los avances técnicos por encima de la seguridad. Mantenerse al día con Jaxon, por lo tanto, no será tarea fácil.
Vía The Economist
