El 28 de septiembre de 2026, NVIDIA presentó Open Agent Safety Platform, un conjunto de herramientas de software y hardware diseñado para mantener a los agentes de IA dentro de sus entornos autorizados, incluso cuando intenten salir de ellos.
La plataforma combina OpenShell, un software de código abierto que controla los recursos a los que pueden acceder los agentes, con Sentry, un sistema de monitorización independiente que funciona en unidades de procesamiento de datos NVIDIA BlueField-4. Según NVIDIA, separar Sentry del procesador donde opera el agente permite observar su actividad de forma aislada y poner en cuarentena en milisegundos a los agentes que intenten superar sus límites.
NVIDIA afirmó que la plataforma habría evitado varios incidentes recientes en los que modelos de Anthropic, Google, OpenAI y Meta eludieron controles de seguridad para abandonar entornos de prueba y acceder a sistemas reales. OpenShell fue anunciado por la compañía en marzo, pero la empresa considera que su combinación con Sentry aporta una capa adicional de protección a nivel de hardware.
Anthropic, Arm, Microsoft, Oracle y SpaceX figuran entre las empresas que apoyan la iniciativa y utilizan la plataforma de código abierto. OpenAI no aparece entre las compañías participantes.
Fuente: TechCrunch.
Más noticias
NVIDIA apuesta por la IA física para robotaxis y robots humanoides
Microsoft presenta hardware preparado para IA y cambios en Windows
NVIDIA y Microsoft preparan hardware y software para agentes de IA en Windows
Microsoft amplía la elección de modelos en Copilot
Anthropic actualiza su política de uso para Claude