Anthropic reduce los falsos positivos en las salvaguardas biológicas de Fable 5

Anthropic anunció el 7 de agosto de 2026 una actualización de las salvaguardas biológicas de Fable 5, su objetivo es reducir los falsos positivos que provocaban que consultas legítimas fueran derivadas a Opus 5. Según las pruebas de la compañía, el cambio disminuyó aproximadamente un 85% los fallbacks relacionados con biología en las distintas superficies de sus productos.

Un fallback se produce cuando el sistema cambia a un modelo menos capaz después de detectar que una consulta puede implicar riesgos biológicos. Con la actualización, Fable 5 podrá atender una gama más amplia de tareas. Anthropic espera que los usuarios encuentren menos derivaciones al plantear preguntas cotidianas sobre salud, como la interpretación de resultados de laboratorio o la comprensión de síntomas, así como consultas educativas sobre biología.

Los profesionales sanitarios también podrán recibir más asistencia de Fable 5 en tareas clínicas. Sin embargo, Anthropic señala que el modelo todavía deriva a Opus 5 las solicitudes que considera de doble uso, entre ellas algunas relacionadas con virología, toxicología y diseño molecular. Por ello, la compañía afirma que Fable 5 aún no está preparado para la investigación biológica profesional y el desarrollo de fármacos, y que trabaja en vías de acceso basadas en la confianza para ampliar esas capacidades.

Anthropic justifica la existencia de estas restricciones por el nivel de rendimiento alcanzado por Fable 5 en determinadas tareas biológicas. Según sus evaluaciones, el modelo puede superar a expertos en algunas tareas complejas y ofrecer apoyo operativo en otras. Esas capacidades podrían ayudar a investigadores que desarrollan tratamientos médicos, pero también proporcionar ventajas a actores maliciosos, por ejemplo en el desarrollo de armas biológicas.

La empresa subraya que distinguir entre usos beneficiosos y perjudiciales no siempre es sencillo. La investigación de un tratamiento puede requerir trabajar con compuestos peligrosos relacionados con la enfermedad que se intenta combatir. Anthropic cita como ejemplos las vacunas vivas, que requieren cultivar el patógeno objetivo, y el desarrollo del captopril, para el que se aislaron componentes tóxicos del veneno de serpiente que reducen la presión arterial.

Ante estos riesgos de doble uso, Anthropic lanzó Fable 5 con la mayoría de las consultas biológicas bloqueadas. La decisión permitió ofrecer el modelo en otros ámbitos mientras continuaba el trabajo sobre las salvaguardas, aunque generó un alto número de falsos positivos: solicitudes legítimas relacionadas con biología eran bloqueadas y enviadas a un modelo menos capaz.

El sistema utiliza clasificadores de seguridad, modelos de inteligencia artificial más pequeños que identifican cuándo Fable 5 recibe una solicitud incluida en las categorías protegidas o genera una respuesta potencialmente dañina. Cuando el clasificador se activa, la petición se redirige a Opus 5, que no tiene el mismo nivel de capacidades biológicas y puede ofrecer menos asistencia a un usuario malicioso.

Para actualizar el sistema, Anthropic reescribió durante las últimas semanas la constitución del clasificador, un conjunto de reglas destinado a distinguir entre contenido protegido y permitido. La compañía solicitó comentarios a expertos internos y externos, generó nuevos datos de entrenamiento, volvió a entrenar el clasificador y comprobó que siguiera activándose, en general, ante contenidos biológicos dañinos o de doble uso.

El nuevo clasificador permite más consultas benignas al identificar mejor las diferencias sutiles entre solicitudes legítimas y aquellas que pueden implicar riesgos. Anthropic explica que aún mantiene un margen de seguridad: algunas peticiones que parecen probablemente benignas pueden seguir bloqueadas por precaución, mientras que los contenidos claramente dañinos y los de doble uso continúan activando la protección.

La compañía reconoce que todavía queda trabajo para perfeccionar estas salvaguardas y ampliar de forma controlada el acceso a las capacidades biológicas de frontera de Fable 5. La actualización y sus detalles fueron publicados por Anthropic en su anuncio sobre las mejoras de las salvaguardas biológicas de Fable 5.

Fuente: Anthropic