Espía vs. espía: Cómo la GenAI potencia a defensores y atacantes
Para Cisco Talos, la inteligencia artificial generativa (GenAI) está transformando la forma en que personas y organizaciones trabajan, con efectos visibles en múltiples ámbitos, incluida la seguridad de la información. Aunque gran parte del debate, explicó, se ha concentrado en cómo los actores maliciosos podrían aprovechar esta tecnología, subraya que también existen oportunidades para los defensores.
Medir con precisión el impacto de GenAI en el panorama de amenazas resulta complejo, ya que muchos de sus beneficios y usos no son evidentes en el malware final. Además, la rápida evolución de los modelos y la reducción de los requerimientos de hardware sugieren que el uso actual de GenAI representa solo una fracción de su potencial future, señaló.
Uso adversario de la GenAI
Distintos reportes indican que actores patrocinados por Estados ya emplean GenAI en campañas de ciberataques, aunque todavía con una fuerte dependencia de intervención humana. Se han identificado intentos experimentales de integrar indicaciones de IA en malware con fines de evasión y antianálisis, si bien estos métodos aún presentan limitaciones técnicas. Actualmente, el mayor impacto observable se da en amenazas conversacionales, como campañas de phishing, ingeniería social y uso de señuelos para inducir a usuarios a instalar malware. La proliferación de modelos abiertos y sin censura ha reducido la barrera de entrada, lo que podría ampliar su adopción por parte de otros grupos. No obstante, cuantificar su uso sigue siendo difícil, ya que muchas aplicaciones de GenAI no dejan rastros visibles en los artefactos finales.
Búsqueda de vulnerabilidades
El uso de GenAI para identificar vulnerabilidades en software es una aplicación relevante tanto para actores ofensivos como defensivos. En software propietario, el fuzzing continúa siendo un método central, mientras que en el software de código abierto la IA puede analizar grandes volúmenes de código público para detectar fallas. Esto puede derivar tanto en divulgaciones coordinadas como en la comercialización de vulnerabilidades. Dada la complejidad y el tamaño del software moderno, así como la frecuencia de actualizaciones, GenAI se perfila como una herramienta eficaz para analizar riesgos introducidos en el código y apoyar la mitigación temprana de vulnerabilidades.
Aplicaciones de GenAI para la seguridad empresarial
Uno de los principales retos en seguridad es el volumen de datos que deben procesar equipos limitados de analistas. En este contexto, GenAI se presenta como un apoyo para analizar grandes cantidades de inteligencia de amenazas, identificar patrones relevantes y priorizar acciones defensivas. Durante la respuesta a incidentes, puede facilitar la correlación de registros y la identificación de actividades como movimiento lateral o explotación inicial. De forma preventiva, GenAI también puede utilizarse para revisar código antes de su integración, detectando errores comunes que podrían derivar en vulnerabilidades. Asimismo, los equipos de pruebas ofensivas pueden emplearla para acelerar la identificación y explotación de debilidades.
GenAI y herramientas existentes
El análisis destaca el uso de servidores del Protocolo de Contexto de Modelo (MCP) como una vía para integrar GenAI con múltiples aplicaciones y conjuntos de datos. Estas arquitecturas permiten apoyar tareas como la ingeniería inversa y el análisis de malware, además de ampliar la productividad mediante complementos flexibles. No obstante, también se ha documentado su uso por parte de actores patrocinados por Estados, lo que evidencia que estas herramientas pueden ser aprovechadas tanto con fines defensivos como ofensivos.
El impacto de la IA agéntica
La IA agéntica introduce un nuevo escenario en el que agentes automatizados pueden operar de manera continua. Para los adversarios, esto podría facilitar campañas persistentes, como la búsqueda constante de vulnerabilidades o la exploración de superficies de ataque. Para los defensores, en contraste, estos agentes pueden funcionar como multiplicadores de capacidad, monitoreando registros, endpoints y correos electrónicos en busca de señales de compromiso, fallas de seguridad o intentos de phishing, reforzando así la detección temprana.
Al final, todo se reduce a las personas
Cisco Talos concluye que, si bien GenAI puede ejecutar tareas de forma eficiente, su verdadero valor depende del conocimiento humano. Los profesionales que comprenden la tecnología y el código pueden utilizarla para aumentar la productividad sin comprometer la calidad, mientras que quienes carecen de ese conocimiento enfrentan riesgos al depender de resultados que no pueden evaluar ni mantener. Incluso en ataques avanzados, los agentes de IA aún requieren supervisión humana, lo que refuerza la idea de que la experiencia y el criterio siguen siendo elementos centrales para aprovechar de forma efectiva esta tecnología.
WhatsApp eSemanal 55 7360 5651
