Sophos, líder mundial en innovación y entrega de ciberseguridad como servicio, ha publicado hoy una nueva investigación sobre cómo la industria de la ciberseguridad puede aprovechar GPT-3, el modelo de lenguaje detrás del ya conocido marco ChatGPT, como copiloto para ayudar a derrotar a los atacantes. El último informe, “GPT para ti y para mí: Aplicando el procesamiento de lenguaje de IA a las ciberdefensas”, detalla los proyectos desarrollados por Sophos X-Ops utilizando los grandes modelos de lenguaje de GPT-3 para simplificar la búsqueda de actividad maliciosa en conjuntos de datos de software de seguridad, filtrar con mayor precisión el spam y acelerar el análisis de los ataques binarios “Living Off the Land” (LOLBin).
“Desde que OpenAI presentó ChatGPT en noviembre, la comunidad de seguridad se ha centrado en gran medida en los riesgos potenciales que esta nueva tecnología podría traer. ¿Puede la IA ayudar a los atacantes aspirantes a escribir malware o ayudar a los ciberdelincuentes a escribir correos electrónicos de phishing mucho más convincentes? Tal vez, pero, en Sophos, durante mucho tiempo hemos visto a la IA como un aliado en lugar de un enemigo para los defensores, lo que la convierte en una tecnología fundamental para Sophos, y GPT-3 no es diferente. La comunidad de seguridad debe prestar atención no solo a los riesgos potenciales, sino también a las posibles oportunidades que brinda el GPT-3”, dijo Sean Gallagher, investigador principal de amenazas de Sophos.
Los investigadores de X-Ops, incluido el científico principal de datos de SophosAI, Younghoo Lee, han estado trabajando en tres proyectos prototipo que demuestran el potencial de GPT-3 como asistente de defensores de la ciberseguridad. Los tres utilizan una técnica llamada “aprendizaje de pocos disparos” para entrenar el modelo de IA con solo unas pocas muestras de datos, reduciendo la necesidad de recopilar un gran volumen de datos preclasificados.
La primera aplicación que Sophos probó con el método de aprendizaje de pocos disparos fue una interfaz de consulta de lenguaje natural para el tamizado de actividades maliciosas en software de seguridad de telemetría; específicamente, Sophos probó el modelo contra su producto de detección y respuesta de endpoints. Con esta interfaz, los defensores pueden filtrar a través de la telemetría con comandos básicos en inglés, eliminando la necesidad de que los defensores entiendan SQL o la estructura subyacente de una base de datos.
A continuación, Sophos probó un nuevo filtro de spam utilizando ChatGPT y descubrió que, en comparación con otros modelos de aprendizaje automático para el filtrado de spam, el filtro que utiliza GPT-3 era significativamente más preciso. Finalmente, los investigadores de Sophos pudieron crear un programa para simplificar el proceso de ingeniería inversa de las líneas de comando de LOLBins. Dicha ingeniería inversa es notoriamente difícil, pero también crítica para comprender el comportamiento de LOLBins y poner fin a esos tipos de ataques en el futuro.
“Una de las crecientes preocupaciones dentro de los centros de operaciones de seguridad es la gran cantidad de “ruido” que entra. Hay demasiadas notificaciones y detecciones para clasificar, y muchas empresas están lidiando con recursos limitados. Hemos demostrado que, con algo como GPT-3, podemos simplificar ciertos procesos intensivos en mano de obra y devolver tiempo valioso a los defensores. Ya estamos trabajando en incorporar algunos de los prototipos anteriores en nuestros productos, y hemos puesto los resultados de nuestros esfuerzos a disposición en nuestro GitHub para aquellos interesados en probar GPT-3 en sus propios entornos de análisis. En el futuro, creemos que el GPT-3 puede convertirse en un copiloto estándar para los expertos en seguridad”, dijo Gallagher.
Obtenga más información sobre cómo GPT-3 puede utilizarse para ayudar a los defensores en “GPT para usted y para mí: Aplicación del procesamiento del lenguaje de IA a las ciberdefensas” en Sophos.com.
