En 30 segundos
Seis evaluadores trabajan con herramientas y acceso similares a los de sus equipos de riesgo. Pueden publicar conclusiones con excepciones de confidencialidad definidas.
Qué ha pasado
Anthropic ha anunciado la incorporación de seis empleados de METR con equipos, espacio y acceso a sistemas internos para evaluar riesgos. La empresa busca acercar lo que conocen los evaluadores externos a la información disponible para sus propios equipos.
Por qué importa
METR puede publicar sus análisis sin un veto general de Anthropic. Existen categorías de información que pueden requerir supresión, y la compañía determina su aplicación. METR conserva la posibilidad de expresar su valoración sobre el acceso recibido y las limitaciones.
A quién afecta
Investigadores de seguridad y responsables de evaluación externa de modelos.
Otros acuerdos en fases diferentes
Anthropic también trabaja con SecureBio y Accenture, con alcances y derechos de publicación inicialmente más limitados. El artículo distingue niveles de acceso; no equipara todos los acuerdos a una auditoría con el mismo grado de independencia.
Compromiso, no dictamen favorable
El anuncio del 15 de octubre describe el mecanismo y sus condiciones, sin anticipar las conclusiones de METR. IARADIA no atribuye una certificación de seguridad ni una auditoría terminada. Los resultados deberán consultarse cuando los evaluadores los publiquen.
Contexto: por qué una evaluación «desde dentro»
Anthropic explica que no puede publicar toda la información relevante para su trabajo de seguridad, porque parte podría ayudar a actores maliciosos o es comercialmente sensible, como los datos de cómputo o entrenamiento. Su respuesta es dar acceso profundo a evaluadores externos para que publiquen evidencias y conclusiones. La empresa compara el modelo con los inspectores residentes que los supervisores bancarios destinan dentro de los grandes bancos, aunque reconoce que la analogía no es exacta.
Qué condiciones fija
- Experiencia en evaluar modelos de frontera, incluidos fallos como el alignment faking.
- Independencia: sin participaciones en la empresa ni dependencia financiera u operativa.
- Acceso suficiente a modelos, entrenamiento y salvaguardas.
- Libertad para publicar, con supresiones solo en categorías predefinidas, como datos de clientes o información de arquitectura.
Comparación con otros enfoques
Google siguió otra vía con Gemini 4 Argon: antes del despliegue general dio acceso limitado al modelo a defensores de ciberseguridad de su Fairwind Program. Es una prueba de capacidades con usuarios de confianza, no una evaluación de riesgos con acceso interno. Anthropic añade que también trabaja con SecureBio y Accenture, y que mantiene conversaciones iniciales con Hugging Face.
Límites y dudas
Anthropic decide en última instancia qué información entra en las categorías que se pueden suprimir, aunque METR puede pronunciarse sobre el acceso recibido. El valor real del acuerdo dependerá de lo que METR publique.
Fuentes y procedencia
- An update on independent evaluators · Anthropic · Publicado 15/10/2026
- Developing Gemini 4 Argon responsibly and safely · Google · Publicado 13/10/2026