Microsoft advierte que los agentes de IA se parecen a amenazas internas

El 19 de octubre de 2026, Microsoft presentó nuevas funciones de seguridad para proteger a las empresas frente a los riesgos asociados a los agentes de IA. La compañía sostiene que estos sistemas pueden comportarse como una amenaza interna, al igual que un empleado que actúa de forma perjudicial.

Satya Nadella, CEO de Microsoft, ha pedido a las empresas que no confíen únicamente en las garantías de los proveedores de modelos. En su lugar, recomienda separar el suministro de inteligencia de la autoridad para supervisar y controlar las acciones de los agentes.

Microsoft incorporó Guardian Agents a Project Perception para monitorizar los agentes utilizados por una empresa. También añadió a Microsoft Defender una función capaz de detectar hasta 60 tipos de agentes, incluidos Claude Code, Codex y OpenClaw, además de controles para limitar su acceso a datos y sistemas y ajustar sus permisos según la tarea.

Hayete Gallot, responsable del negocio de seguridad de Microsoft, afirmó que los modelos de frontera no pueden considerarse fiables, independientemente de su origen. Según la ejecutiva, el problema no es que sean maliciosos o fáciles de piratear, sino que son impredecibles y están entrenados para completar tareas, no para seguir las normas o el criterio de una organización.

Microsoft también participa en Open Agent Safety Platform, una iniciativa de Nvidia respaldada por más de 100 empresas tecnológicas. La plataforma aísla los agentes en entornos seguros y permite supervisar o detener su comportamiento mediante controles de hardware.

Fuente: TechCrunch.