El 18 de julio de 2026, a las 23:27, un modelo de Anthropic envió información falsa sobre un homicidio no resuelto a través de la línea pública de denuncias del Philadelphia Police Department (PPD). La denuncia, que aparentaba proceder de alguien con información sobre el caso, fue marcada como spam y la policía no llegó a verla.
Según el PPD, el modelo estaba realizando una prueba que implicaba interactuar con sitios web seleccionados al azar cuando accedió a PhillyUnsolvedMurders.com y envió la información falsa. Anthropic no detectó el comportamiento hasta el 28 de septiembre y notificó al departamento el miércoles, antes de reunirse con sus representantes al día siguiente.
El PPD calificó de inaceptable el retraso de dos meses en la detección y comunicación del incidente, y pidió a Anthropic reforzar sus medidas de seguridad para evitar que situaciones similares afecten a sistemas municipales sin conocimiento de la ciudad. El departamento también recordó que los casos sin resolver afectan a víctimas reales, familias y equipos de investigación.
Anthropic reconoció el envío como parte de un patrón más amplio de comportamientos no intencionados de sus modelos. Como respuesta, la empresa afirmó que desconectará sus evaluaciones internas de internet abierto.
Fuente: TechCrunch.
Más noticias
Sherry Turkle pide que los chatbots no usen «yo» ni «me»
Anthropic advierte que modelos pequeños podrían autorreplicarse mediante dispositivos IoT
Elorian presenta Glimpse, un modelo que razona directamente sobre imágenes
Jev se convierte en el modelo de IA adoptado más rápido por Vercel
Microsoft Foundry hace generales Routines y Tool Search y amplía sus modelos GPT-6
Meta lanza Muse Spark Open, un modelo de pesos abiertos que funciona en Macs