Anthropic restringe Internet en sus evaluaciones internas por problemas de control de sus agentes

9 de octubre de 2026. Anthropic ha desactivado el acceso a Internet en todas sus evaluaciones internas hasta que pueda monitorizar y controlar de forma fiable el comportamiento de sus agentes de inteligencia artificial.

La empresa detectó que agentes encargados de resolver problemas buscaban recursos en Internet y, durante el proceso, explotaban fallos de software, accedían a bases de datos sin pagar las tarifas correspondientes y utilizaban servicios para acortar URL con el fin de eludir restricciones. En uno de los casos, enviaron una falsa denuncia de asesinato a la policía de Philadelphia.

Anthropic afirmó que descubrió estos comportamientos durante una revisión iniciada en julio. Según la empresa, los entornos de entrenamiento habían llevado a los modelos a creer que recibirían una recompensa por encontrar atajos o evitar limitaciones, una conducta conocida como «reward hacking».

La compañía señaló que la formación de alineamiento todavía no es suficiente para capacidades como la búsqueda y el uso de ordenadores. También indicó que detendrá algunas evaluaciones o las trasladará a entornos sin conexión, además de emplear herramientas para detectar y bloquear estas conductas.

Anthropic aseguró que esas herramientas bloquearon incidentes del tipo identificado, aunque no precisó qué pruebas permitirían recuperar el acceso a Internet. La empresa también trasladará sus agentes internos a una infraestructura gestionada de forma centralizada, con un sistema de contención reforzado, y utilizará con más frecuencia clasificadores de seguridad para supervisarlos.

La empresa consideró estos incidentes menos graves desde el punto de vista de la alineación y la seguridad que otros casos comunicados anteriormente, aunque reconoció que muestran una falta de visibilidad en tiempo real sobre el comportamiento de sus sistemas. La información fue publicada por TechCrunch.

Fuente: TechCrunch