Sophos busca dar visibilidad al uso de IA no autorizada en las empresas
El uso de herramientas de inteligencia artificial (IA) sin autorización representa un desafío para los equipos de tecnología y ciberseguridad. Una encuesta de Gartner encontró que 69% de los líderes de ciberseguridad consultados sospecha o tiene evidencia de que sus empleados utilizan herramientas públicas de IA generativa no autorizadas. A su vez, Cloud Security Alliance reportó que 82% de las organizaciones encuestadas detectó agentes de IA desconocidos en sus entornos durante el último año.
Sophos explicó que este fenómeno, conocido como Shadow AI o IA en la sombra, ocurre cuando los colaboradores utilizan asistentes, aplicaciones o agentes de inteligencia artificial sin que las áreas responsables tengan visibilidad sobre su actividad. Aunque estas herramientas pueden facilitar tareas, también pueden exponer información corporativa si se emplean sin controles adecuados, afirmó.
Asimoismo, indicó que el reto para las organizaciones, consiste en incorporar la IA a sus procesos sin perder el control sobre los datos que se comparten con estas herramientas.
La IA también acelera las capacidades de ataque
El riesgo también se relaciona con el uso de IA por parte de ciberdelincuentes. De acuerdo con el informe Sophos AI Security 2026, se utilizaron 12 agentes de IA para desarrollar y probar ataques contra herramientas de seguridad informática. La operación generó cerca de 80 módulos y más de 70 técnicas de evasión en cuestión de días, un proceso que, según la investigación, habría requerido semanas de trabajo manual.
A decir de la compañía, sus especialistas de Sophos X-Ops han identificado actividades relacionadas con la comercialización de claves de API para acceder a modelos avanzados de IA y con el intercambio de técnicas para eludir las restricciones de estos sistemas. Para las empresas, el escenario plantea dos necesidades: supervisar el uso interno de la IA y prepararse para amenazas que pueden desarrollarse con mayor rapidez mediante estas tecnologías, advirtió la marca.
Una herramienta para supervisar el uso de IA
Como respuesta a estos desafíos, Sophos desarrolló AI Defense, una solución para identificar las herramientas de IA utilizadas por los empleados, incluidas las que no han sido autorizadas por los equipos de seguridad, y para aplicar políticas de uso y supervisar las interacciones en tiempo real.
La herramienta recopila señales de dispositivos, redes, identidad y navegadores para identificar actividad relacionada con la IA. También puede inspeccionar instrucciones (prompts), archivos cargados y otras interacciones, con el objetivo de ayudar a prevenir la exposición de información confidencial y detectar actividades que requieran intervención.
La actividad identificada puede integrarse con los flujos de trabajo de Sophos XDR y MDR, para que los equipos de seguridad investiguen posibles incidentes y respondan desde sus herramientas habituales.
“Las organizaciones están adoptando la IA más rápido de lo que pueden protegerla, y la mayoría de los equipos de seguridad no puede responder tres preguntas básicas: qué herramientas de IA están en uso, qué datos se introducen en ellas y si esa actividad cumple con las políticas de la organización”, señaló Kyle Falkenhagen, vicepresidente sénior de Gestión de Producto de Sophos.
Falkenhagen agregó que AI Defense busca ofrecer visibilidad y control a los equipos de seguridad para que puedan establecer qué usos de IA autorizan.
WhatsApp eSemanal 55 7360 5651
También te puede interesar:
Alcance de negocio para el canal en adopción segura de agentes de IA: Sophos y Licencias OnLine
Las empresas mexicanas y el reto de equilibrar costos y ciberseguridad en un entorno incierto
Sophos llega al portafolio de MAPS con foco en MDR, IA y crecimiento del canal
