ManageEngine: la autonomía de los agentes de IA debe acompañarse de controles
La incorporación de agentes de inteligencia artificial introduce un nuevo desafío para las áreas de TI y seguridad: definir no solo qué información pueden consultar estos sistemas, sino también qué acciones están autorizados a ejecutar sin intervención humana, señaló ManageEngine.
Agregó que a diferencia de las aplicaciones tradicionales de IA, que generan un resultado para que una persona decida qué hacer, los agentes pueden recibir objetivos, consultar información, utilizar aplicaciones y APIs e intervenir directamente en procesos empresariales. Esto puede incluir actualizar registros, gestionar solicitudes o enviar comunicaciones mediante accesos reales a la infraestructura corporativa.
Infraestructura lista, pero con brechas de estrategia
De acuerdo con el estudio El Estado de la Transformación Digital en México, de ManageEngine, 94% de las organizaciones mexicanas considera que su infraestructura tecnológica está preparada para implementar IA, pero solo 11% afirma contar con una estrategia de IA completamente orquestada.
Para la compañía, esta diferencia evidencia que disponer de infraestructura no necesariamente significa que la IA esté integrada de manera estratégica y bajo un esquema de control.
El escenario adquiere relevancia ante las previsiones de Gartner, que identifica la supervisión de la IA agéntica como una de las principales tendencias de ciberseguridad para 2026 y proyecta que 25% de las brechas empresariales estarán relacionadas con el abuso de agentes de IA para 2028.
Del mínimo privilegio a la mínima autonomía
ManageEngine plantea complementar el principio de mínimo privilegio, que limita el acceso a los recursos necesarios, con el concepto de mínima autonomía o least agency. Este último busca establecer hasta dónde puede operar un agente por sí mismo antes de requerir autorización humana.
Así, una consulta de información podría ejecutarse de forma autónoma, mientras que acciones como eliminar registros, modificar permisos, realizar transacciones o enviar comunicaciones sensibles requerirían aprobación.
La compañía recomienda revisar seis áreas antes de llevar un agente a producción: identidad y acceso, permisos, protección de datos, herramientas autorizadas, monitoreo y gobernanza, además de asignar un responsable humano para cada implementación.
Wilson Calderón, Associate Technical Director de ManageEngine, señala que el objetivo no es limitar a los agentes, sino acompañar su autonomía con controles proporcionales al riesgo y mantener la intervención humana cuando una acción pueda tener consecuencias relevantes.
El reto para CIO y CISO, plantea la compañía, pasa así de preguntarse únicamente qué puede hacer la IA a definir qué debería estar autorizada a hacer por sí sola.
WhatsApp eSemanal 55 7360 5651
