Anthropic bloqueó intentos de usar Claude para investigar posibles armas biológicas

El 11 de septiembre de 2026, Anthropic afirmó que había detenido varios intentos de científicos de utilizar Claude en investigaciones que podrían contribuir al desarrollo de armas biológicas. La empresa presentó cinco casos en los que los usuarios trataron de eludir sus controles u ocultaron el propósito de sus trabajos.

Uno de los casos involucró a un investigador de una región no admitida que pasó semanas planificando con Claude experimentos relacionados con la gripe aviar. Anthropic indicó que sus filtros limitaron esa actividad a sus modelos menos capaces, aunque subrayó que no podía confirmar que los científicos tuvieran intención de causar daños.

La empresa señaló que la información necesaria para crear armas biológicas también puede servir para desarrollar vacunas. Anthropic prohibió las cuentas mencionadas, pero no identificó a las instituciones ni los países implicados. Entre los territorios vetados para acceder a sus modelos figuran Rusia, China e Irán.

Anthropic dijo que comparte estos casos para promover un debate con la industria de la inteligencia artificial y los gobiernos sobre los riesgos biológicos emergentes. Expertos en bioseguridad y directivos del sector temen que grupos terroristas, Estados o atacantes individuales puedan emplear estos sistemas para diseñar armas o modificar patógenos, aunque todavía existen obstáculos para fabricarlos y desplegarlos.

La compañía también detalló otros usos maliciosos de su tecnología, como una red de aplicaciones de citas falsas para defraudar a usuarios y sistemas de vigilancia destinados a identificar y controlar a disidentes. Además, afirmó que siete laboratorios con sede en China, entre ellos Moonshot y DeepSeek, intentaron replicar su tecnología mediante destilación.

Fuente: Ars Technica.