Microsoft adapta su gobernanza de IA ante el avance de los agentes

El 1 de septiembre de 2026, Microsoft publicó su tercer Informe anual de Transparencia de IA Responsable, en el que describe la evolución de su programa de gobernanza, sus herramientas y sus prácticas para el desarrollo y despliegue de sistemas de IA.

La compañía ha rediseñado su Responsible AI Standard para adaptarlo a distintos componentes de la pila tecnológica —modelos, servicios de plataforma y aplicaciones— y al papel que desempeña Microsoft en su desarrollo o despliegue. El estándar combina requisitos generales con otros específicos para escenarios cuyos riesgos y capacidades pueden cambiar.

Microsoft también está ajustando su gestión técnica de riesgos para sistemas capaces de conservar memoria, utilizar herramientas, acceder a datos y actuar en nombre de los usuarios. Su enfoque incorpora controles sobre la identidad de los agentes, los permisos de las herramientas y la supervisión de sus acciones, además de formación para miles de ingenieros y responsables de producto en áreas como el modelado de amenazas de la IA agéntica y las defensas frente a la inyección de instrucciones.

En el ámbito de la evaluación, la empresa ha presentado un AI Red Teaming Agent para acelerar la identificación de riesgos, evaluadores de agentes para medir la calidad, seguridad y rendimiento de aplicaciones agénticas, y RAMPART, que convierte los hallazgos de los equipos de pruebas ofensivas en evaluaciones repetibles. También ha citado ASSERT y Agent Control Specification como herramientas para evaluar agentes según las políticas de una organización, establecer controles durante su ejecución y monitorizar su comportamiento.

Según Microsoft, la expansión de sistemas dinámicos exige una gobernanza más operativa y continua, basada en observar el comportamiento de los sistemas, probarlos e intervenir cuando sea necesario, tanto antes de su despliegue como durante su funcionamiento.

Fuente: Microsoft.