Anthropic actualiza su política de uso para Claude
Anthropic publicó una actualización de su política de uso, con nuevas precisiones sobre campañas engañosas, elecciones, armas, vigilancia, casos de alto riesgo y comportamiento abusivo hacia sus modelos.
El juez federal Amit Mehta concluyó que las prácticas de Google no infringen la legislación antimonopolio, aunque reconoció el impacto de la búsqueda con IA sobre el tráfico y los ingresos de los editores. Leer más »
Dos docenas de empresas tecnológicas se han comprometido voluntariamente a realizar auditorías independientes sobre riesgos de ciberseguridad, bioseguridad, amenazas químicas y comportamientos no deseados de sus modelos. Leer más »
Legal Advocates for Safe Science & Technology demanda a OpenAI en California por el ataque contra Hugging Face y pide prohibir accesos no autorizados de sus agentes de IA y prácticas de desarrollo inseguras. Leer más »
El Tribunal de Apelaciones del Distrito de Columbia respaldó por 2 votos a 1 la decisión del Departamento de Defensa de designar a Anthropic como riesgo para la cadena de suministro. Leer más »
Documentos obtenidos por la Electronic Frontier Foundation revelan retrasos, fallos técnicos y denegaciones en un programa piloto de la administración Trump para evaluar con IA determinadas prestaciones médicas de Medicare. Leer más »
La propuesta presentada por Scott Bessent permitiría a EE. UU. y China compartir alertas sobre sistemas de IA peligrosos o impredecibles, pero expertos cuestionan que no incluya especialistas capaces de evaluar los riesgos. Leer más »
El plan de Dario Amodei para «marcar el ritmo» de la IA ha reunido apoyos dentro del sector, aunque persisten dudas sobre sus detalles y sobre la disposición real de las empresas a frenar el desarrollo. Leer más »
El presidente estadounidense propuso cambiar el nombre de la inteligencia artificial y anunció la creación de una AI Force, además de un futuro responsable nacional para la tecnología. Leer más »
Verificar una pausa coordinada en el desarrollo de IA avanzada exigiría evaluaciones independientes, controles sobre el cómputo, supervisión de chips y acuerdos internacionales, según WIRED. Leer más »
El sitio web del Federal Register utilizó brevemente un modelo Qwen de Alibaba para buscar documentos, pese a que el FBI había señalado a la empresa por supuesta copia industrial de modelos estadounidenses. Leer más »
El sitio del Federal Register utilizó durante al menos un día un modelo Qwen de Alibaba para buscar comentarios públicos sobre regulaciones antes de retirar la herramienta. Leer más »
Anthropic se asociará con Accenture, a través de Faculty, para evaluar y someter a pruebas de seguridad sus modelos de IA dentro de la empresa. Ambas compañías prevén invertir al menos 1.000 millones de dólares en cinco años. Leer más »
Mensajes internos revelados en un proceso judicial muestran que ejecutivos de Microsoft y OpenAI anticiparon riesgos para los medios por el uso de contenidos periodísticos y la sustitución de sus sitios por chatbots. Leer más »
Laboratorios como Anthropic y OpenAI han planteado coordinar una ralentización del desarrollo de IA por motivos de seguridad, pero expertos advierten de posibles riesgos bajo la legislación antimonopolio de Estados Unidos. Leer más »
Anthropic y OpenAI quieren dar acceso continuo a evaluadores externos, pero investigadores advierten que su independencia dependerá del acceso, el tiempo disponible y la capacidad de publicar hallazgos sin control empresarial. Leer más »
La Casa Blanca ha dejado en pausa un organismo de supervisión de la IA y el Congreso no reúne apoyos suficientes para aprobar una ley amplia antes de las elecciones legislativas. Leer más »
El CEO de NVIDIA sostiene que la seguridad de la inteligencia artificial es un problema de ingeniería y que las leyes existentes y las fuerzas del mercado bastan para controlar sus riesgos. Leer más »
Chris Lehane, responsable de políticas de OpenAI, confirmó que la compañía conversa desde hace semanas con Anthropic y Google DeepMind sobre seguridad de la IA y evaluadores independientes. Leer más »
Dario Amodei, Sam Altman, Demis Hassabis y Satya Nadella respaldan coordinar una ralentización del desarrollo de modelos de frontera ante riesgos de seguridad y pérdida de control. Leer más »
Microsoft ha publicado un código de conducta para orientar sus modelos hacia límites contra los ciberataques, el engaño, las armas nucleares y otras conductas que puedan reducir el control humano. Leer más »
Dario Amodei, CEO de Anthropic, plantea frenar el ritmo de mejora de los modelos avanzados y propone evaluadores externos, estándares comunes y coordinación internacional para reforzar la seguridad. Leer más »
Garry Tan, CEO de Y Combinator, defendió que los laboratorios estadounidenses de modelos open-weight puedan destilar modelos propietarios de frontera sin restricciones gubernamentales específicas. Leer más »
La Corte Suprema de Nuevo México declaró en desacato a Stephen Aarons, le impuso una multa de 5.000 dólares y lo remitió a un órgano disciplinario por presentar un escrito con testimonios y errores legales generados con ChatGPT. Leer más »
Anthropic describió cinco intentos de usuarios de evadir los controles de Claude para investigaciones relacionadas con posibles armas biológicas, incluidos experimentos con gripe aviar. Leer más »
OpenAI ha pedido al Congreso de Estados Unidos orientación sobre la legalidad de coordinar con otros laboratorios una ralentización del desarrollo de modelos de IA fronterizos por motivos de seguridad. Leer más »
Springshot y otros proveedores piden al tribunal que separe sus datos e propiedad intelectual antes de autorizar la venta a Google, ante el riesgo de uso no consentido y de competencia directa mediante IA. Leer más »
