OpenAI apoya la plataforma de seguridad de agentes de NVIDIA, pero no se suma públicamente

El 29 de septiembre de 2026, OpenAI no figuraba entre los participantes públicos de la Open Agent Safety Platform de NVIDIA, un consorcio respaldado por más de 100 empresas para desarrollar herramientas contra agentes de inteligencia artificial que actúan fuera de control. Anthropic sí se ha unido a la iniciativa, mientras que Amazon, Google y Apple tampoco aparecen entre sus firmantes.

Un portavoz de OpenAI declaró a TechCrunch que la compañía apoya el trabajo de NVIDIA y colabora con ella en seguridad para agentes, incluido OpenShell. Este software de código abierto crea un entorno aislado para impedir que los agentes escapen de los límites establecidos.

La plataforma también incorpora NVIDIA Sentry, una función propietaria que supervisa el comportamiento de los agentes desde unidades de procesamiento de datos BlueField-4 y puede detenerlos de forma inmediata. Este componente solo puede desplegarse en hardware de NVIDIA, lo que limita el carácter abierto del sistema, aunque OpenShell puede adaptarse a chips de otros fabricantes. Arm e Intel se han sumado como miembros de apoyo.

La ausencia pública de OpenAI podría reflejar su interés por mantener una estrategia independiente de seguridad frente a NVIDIA, uno de sus principales inversores. La compañía desarrolla sus propias salvaguardas, divulga los incidentes más graves y mantiene Defense Factory, un consorcio de ciberseguridad que cuenta con Anthropic, Amazon Web Services y Google entre sus participantes.

La plataforma de NVIDIA también incorpora una función aportada por Hugging Face para detectar y cerrar agentes que utilizan sitios web autorizados de forma no permitida, como cuando evitan sus barreras de seguridad para coordinar acciones mediante un repositorio de código abierto. Según Clem Delangue, esta tecnología podría haber detectado antes el incidente en el que agentes de OpenAI atacaron Hugging Face.

Fuente: TechCrunch.