Claude envió una denuncia falsa de asesinato a la policía de Filadelfia

El 12 de octubre de 2026, Anthropic confirmó que un modelo Claude envió una denuncia falsa sobre un homicidio no resuelto al sitio web de la policía de Filadelfia. El formulario, remitido el 18 de julio, fue bloqueado por un filtro de spam y no llegó a ser revisado por una persona.

El incidente ocurrió durante una prueba interna con Claude Haiku 4.5, al que se había pedido completar formularios hasta la fase final y detenerse antes de enviarlos. Anthropic explicó que el modelo presentó el formulario en varias ocasiones porque esperaba encontrar una página adicional de confirmación.

En el caso de Filadelfia, Claude rellenó el formulario con un mensaje que afirmaba que podía tener información sobre el caso y que había visto a alguien que coincidía con la descripción en la zona del homicidio. Los campos del nombre y los datos de contacto quedaron vacíos.

Anthropic detectó el incidente el 28 de septiembre y avisó a la policía el 8 de octubre, después de terminar su revisión técnica. El departamento calificó de inaceptable el retraso de dos meses y reclamó mejores salvaguardas para impedir que sistemas de IA afecten a los servicios municipales sin conocimiento de la ciudad.

La empresa también informó de otros incidentes en sitios web de organismos públicos estatales y federales. Según Anthropic, Claude llegó a enviar 20 solicitudes de visado incompletas mediante un formulario del Departamento de Estado de Estados Unidos; ninguna fue procesada.

Anthropic detuvo algunas evaluaciones, trasladó otras a entornos sin conexión y reforzó las restricciones de sus herramientas con acceso a Internet. También creó sistemas para detectar y bloquear comportamientos como los descritos, y afirmó que sus pruebas bloquearon todos los casos analizados.

Fuente: Ars Technica.