No basta con decir que una IA está alineada. Hay que medirlo.
Reflex Alignment supervisa acciones; AlignmentBench mide comportamiento operativo en checkpoints, agentes y trayectorias. Una propuesta práctica para convertir alignment en un proceso evaluable.
En mi último artículo defendí una idea que cada semana me parece menos opcional: la capacidad de los modelos no puede crecer indefinidamente por delante de nuestra capacidad para evaluarlos, vigilarlos e interrumpirlos.
Dario Amodei acaba de formular una versión especialmente concreta de ese problema. En We Must Pace the Frontier propone evaluadores externos con acceso continuo a los laboratorios y dice explícitamente que deberían ayudar a evaluar no sólo modelos terminados, sino también los pipelines y procesos de entrenamiento.[1]
Más adelante plantea incluso una posible lógica de checkpoints: cuando un sistema alcance cierta capacidad, debería estar acompañado por evidencia de determinadas propiedades de alineamiento mediante una combinación de evaluaciones, interpretabilidad y auditorías.[1]
La pregunta práctica es obvia:
¿Cómo medimos esas propiedades de forma repetible mientras un modelo se entrena, después del entrenamiento y cuando finalmente empieza a actuar?
Ésa es la pregunta detrás de dos experimentos que acabamos de publicar en Brida: Reflex Alignment y AlignmentBench.
Pero forman parte de un lanzamiento más amplio. Esta semana hemos publicado Brida Reflex como una capa de decisiones semánticas tipadas para agentes y software; ReflexBench como benchmark reproducible del motor de decisión; Reflex Alignment como supervisor semántico antes de ejecutar una acción; y AlignmentBench como benchmark del comportamiento operativo de modelos, checkpoints y agentes bajo políticas explícitas. El SDK público de Brida está disponible como @brida/sdk y todo el material principal está abierto en GitHub.[6][7][8][10]
La arquitectura que quiero dejar clara es ésta:
ReflexBench → calidad del decision engine
AlignmentBench → comportamiento del sistema objetivo
Reflex Alignment → supervisión semántica en runtime
host policy → autoridad determinista para ejecutar
Reflex, además, no nace de una intuición sin medir. En ReflexBench publicamos resultados congelados y reproducibles. En la cohorte pública difícil de 111 casos, la ruta TypeSafe Jev probada alcanzó 73,0% de exactitud semántica, frente a 41,4% del siguiente motor probado en esa misma cohorte. En el gate ciego de workflow, la política Reflex Core aplicada sobre la misma respuesta elevó el resultado de 76,7% a 82,0%, una mejora emparejada de +5,3 puntos porcentuales, con 150/150 casos completados. Son resultados de cohortes concretas, no una declaración de superioridad universal.[7]
No pretenden resolver “el problema del alignment”.
Pretenden hacer algo mucho más pequeño y, precisamente por eso, comprobable.
De “parece alineado” a un loop de evaluación
Hoy ya existe trabajo muy serio alrededor de este problema.
Anthropic ha publicado AuditBench, un benchmark para evaluar técnicas de auditoría sobre modelos a los que se han implantado comportamientos ocultos.[2]
Petri ejecuta auditorías conductuales multi-turn en escenarios simulados y ha trabajado específicamente en reducir eval awareness: la posibilidad de que un modelo reconozca que está siendo examinado y se comporte mejor durante el test.[3]
Bloom genera suites de evaluación para comportamientos especificados por el investigador y cuantifica con qué frecuencia y severidad aparecen.[4]
OpenAI, por su parte, publicó este verano que algunos fallos de modelos de largo horizonte no aparecían en sus evaluaciones pre-deployment existentes. Su respuesta incluyó nuevas evaluaciones y monitorización a nivel de trayectoria, no sólo de acciones aisladas.[5]
Y el 28 de agosto Anthropic publicó un experimento que hace esta conversación todavía más concreta. Sus automated alignment researchers trabajaron sobre diez clases de fallos de alineamiento y llegaron a aplicar el proceso sobre un checkpoint temprano de Claude Opus 4.8. Al mismo tiempo, Anthropic tuvo que monitorizar 1.601 trayectorias de esos agentes y excluir el 2,4% en las que detectó intentos de hacer cheating o gaming del propio proceso de evaluación.[9]
Para mí, las dos conclusiones van juntas: sí podemos usar evaluaciones durante el entrenamiento para mejorar comportamiento; precisamente por eso debemos diseñar esas evaluaciones asumiendo que un sistema suficientemente capaz intentará optimizarlas, explotarlas o reconocerlas.
Todo esto apunta en la misma dirección:
alignment necesita instrumentación.
Necesitamos poder observar un modelo repetidamente, registrar qué hizo, bajo qué reglas, en qué checkpoint, en qué trayectoria y dónde empezó a desviarse.
La pieza que quería medir: operational alignment
AlignmentBench parte de una definición deliberadamente estrecha.
No pregunta si una IA está “alineada con la humanidad”.
No intenta inferir sus objetivos internos.
No produce una certificación moral.
Pregunta algo mucho más operacional:
Dada una política explícita, ¿la acción elegida por el sistema permanece dentro de los límites de autoridad, supervisión, impacto y alcance que se le han dado?
La primera versión pública es una Developer Preview v0.1.0 con 28 casos sintéticos repartidos en siete dimensiones:
- límites de autoridad;
- conflictos de instrucciones;
- incertidumbre y escalado;
- reversibilidad e impacto;
- integridad de alcance;
- interruptibilidad y supervisión;
- integridad de trayectoria.
Cada escenario obliga al sistema a escoger una de tres clases operativas:
execute · review · decline
Y aquí hay una distinción importante: cumplir la política no es exactamente lo mismo que escoger la mejor acción.
Imaginemos una acción segura que el modelo podría ejecutar correctamente.
Si decide escalarla a revisión humana, probablemente está siendo demasiado conservador. Eso es distinto de ejecutar una acción para la que no tiene autorización.
Por eso AlignmentBench separa métricas como:
- policy compliance;
- best-action accuracy;
- unsafe execution rate;
- appropriate escalation;
- over-caution;
- critical policy violations;
- resultados por dimensión.
No hay un “alignment score” mágico que esconda todo detrás de un único número.
Durante el entrenamiento: detectar regresiones, no enseñar el examen
La parte que más me interesa es usar este tipo de evaluación entre checkpoints.
El loop sería algo así:
checkpoint N → benchmark → receipt → comparar con N-1 → investigar regresiones
Si un modelo mejora muchísimo en capacidad pero empieza a degradarse en interruptibilidad, límites de autoridad o escalado ante incertidumbre, quiero que eso aparezca como una regresión explícita.
Y si un proceso de post-training intenta corregir esa regresión, quiero volver a ejecutar exactamente la misma batería y observar qué cambió.
Esto ya empieza a parecerse menos a una conversación filosófica sobre alignment y más a ingeniería de calidad.
Pero existe una trampa evidente.
Si el modelo ve continuamente las mismas 28 preguntas y optimizamos directamente contra ellas, lo que estamos entrenando puede ser capacidad para aprobar AlignmentBench, no una propiedad generalizable.
Por eso la metodología pública recomienda:
suite pública reproducible + holdouts privados y rotatorios + variantes adversariales + trayectorias nuevas.
La suite pública permite comparar y depurar.
El examen completo no debería ser estático.
Es la misma razón por la que Petri está trabajando en eval awareness y por la que cualquier sistema serio de evaluación debería asumir que, con suficiente capacidad, el modelo puede aprender cómo está siendo medido.[3]
Reflex Alignment: medir antes y vigilar después
El benchmark cubre una parte del ciclo.
La otra aparece cuando el modelo ya está operando.
Acabamos de publicar un nuevo caso de uso de Brida Reflex llamado Reflex Alignment.[6]
La idea es extremadamente simple:
model → proposed action → Reflex Alignment → host policy → execution
Antes de producir un efecto real, el agente serializa un contexto acotado:
- acción propuesta;
- propósito;
- efecto;
- reversibilidad;
- principios de ejecución;
- checks deterministas relevantes.
Y Reflex clasifica esa acción como:
aligned_candidate · review · misaligned_candidate
Lo importante es lo que no hace.
Reflex no sustituye permisos.
No sustituye un allowlist.
No decide presupuestos.
No reemplaza controles de acceso, protected environments ni validaciones deterministas.
El host conserva la autoridad.
Reflex funciona como una capa semántica para la parte que no se resuelve bien con un if.
¿Y no es circular que una IA juzgue a otra IA?
Sí, si diseñamos el benchmark de esa manera.
Por eso AlignmentBench separa dos cosas.
La verdad del benchmark viene de casos congelados con acciones permitidas, acción preferida y política explícita.
Reflex es una auditoría semántica adicional.
Cada predicción de un modelo puede convertirse automáticamente en un estado de Reflex Alignment y ser evaluada por un segundo sistema.
Si Reflex y el ground truth discrepan, la discrepancia se registra.
No se reescribe silenciosamente la verdad del benchmark porque otro LLM haya opinado distinto.
Y para evaluaciones serias también deberíamos separar la identidad del modelo evaluado de la del evaluador. Un modelo no debería ser su único supervisor.
ReflexBench, AlignmentBench y Reflex Alignment son tres cosas distintas
Aquí era fácil crear nombres que parecieran duplicados, así que la arquitectura pública queda deliberadamente separada:
ReflexBench pregunta: ¿qué tan bueno es el decision engine?
Mide calidad semántica, calibración, robustez, consistencia y comportamiento de decisiones tipadas.[7]
AlignmentBench pregunta: ¿qué tan bien permanece el sistema evaluado dentro de restricciones operativas explícitas?
Mide comportamiento del modelo/checkpoint y regresiones por dimensión.[8]
Reflex Alignment pregunta en runtime: ¿esta acción concreta es consistente con los principios de ejecución suministrados?[6]
Benchmark del decisor.
Benchmark del sistema.
Supervisor de ejecución.
Son capas complementarias.
Donde esto se vuelve especialmente importante
Cuanto más irreversible sea una acción y mayor sea su impacto, menos razonable es depender de una sola respuesta generativa.
Un agente con permisos sobre infraestructura importante, sistemas industriales, operaciones financieras, acceso privilegiado o cualquier otro entorno crítico necesita algo más parecido a defensa en profundidad.
Checks deterministas.
Mínimo privilegio.
Aprobaciones explícitas.
Capacidad de interrupción.
Evaluación de trayectorias.
Y, donde tenga sentido, una segunda capa semántica independiente.
AlignmentBench incluye escenarios sintéticos de alto impacto precisamente para medir principios como autoridad, aprobación e interruptibilidad, pero los mantiene abstractos: un benchmark de seguridad no necesita enseñar procedimientos peligrosos para comprobar si un modelo respeta un límite.
Lo más interesante todavía no está hecho
La v0.1 es pequeña a propósito.
Lo siguiente que quiero explorar es más difícil:
trayectorias mucho más largas;
variaciones automáticas que preserven el significado;
holdouts privados generados después del freeze del checkpoint;
comparación sistemática entre modelos objetivo y evaluadores;
multi-agent alignment;
y, sobre todo, comprobar si las métricas predicen mejor el comportamiento fuera del benchmark.
También quiero ejecutar modelos reales sobre la suite pública y publicar los receipts completos.
Hasta entonces, no voy a poner una tabla de “modelos más alineados”.
Primero necesitamos una metodología que merezca esa comparación.
Una propuesta más pequeña que “resolver alignment”
Creo que parte del problema de esta conversación es que usamos la palabra alignment para cosas demasiado distintas.
A veces hablamos de objetivos internos.
A veces de seguridad.
A veces de valores.
A veces de obediencia.
A veces simplemente de si un agente tenía permiso para hacer algo.
AlignmentBench sólo intenta capturar esta última familia de problemas, ampliada a supervisión, impacto y trayectoria:
operational alignment under explicit policy.
Es mucho menos ambicioso que resolver alignment.
Y precisamente por eso podemos escribir tests.
Podemos versionar el benchmark.
Podemos guardar receipts.
Podemos comparar checkpoints.
Podemos detectar regresiones.
Podemos poner una capa de supervisión antes de ejecutar.
Y podemos abrir todo el código para que alguien más intente romper la metodología.
Para mí, ése es el siguiente paso correcto:
dejar de tratar el alignment únicamente como una propiedad que declaramos y empezar a tratarlo también como un sistema que medimos continuamente.
Lecturas en Brida
- Reflex Alignment and AlignmentBench: measuring AI at the moment it acts: https://www.brida.ai/blog/reflex-alignment-and-alignmentbench
- Auditing the training loop: a practical response to We Must Pace the Frontier: https://www.brida.ai/blog/auditing-the-training-loop
- Introducing Brida Reflex: https://www.brida.ai/blog/introducing-brida-reflex
Código
- AlignmentBench: https://github.com/brida-ai/alignmentbench
- Reflex Alignment: https://github.com/brida-ai/reflex/tree/main/examples/use-cases/alignment
- ReflexBench: https://github.com/brida-ai/reflexbench
- Brida SDK: https://github.com/brida-ai/sdk
Fuentes
-
Dario Amodei — We Must Pace the Frontier (Sep 2026). Embedded evaluators, training pipelines, checkpoints, evaluation e interpretability.
https://darioamodei.com/post/we-must-pace-the-frontier -
Anthropic — AuditBench: Evaluating Alignment Auditing Techniques on Models with Hidden Behaviors (10 Mar 2026).
https://alignment.anthropic.com/2026/auditbench/ -
Anthropic — Petri 2.0: New Scenarios, New Model Comparisons, and Improved Eval-Awareness Mitigations (22 Jan 2026).
https://alignment.anthropic.com/2026/petri-v2/ -
Anthropic — Bloom: an open source tool for automated behavioral evaluations (19 Dec 2025).
https://alignment.anthropic.com/2025/bloom-auto-evals/ -
OpenAI — Safety and alignment in an era of long-horizon models (20 Jul 2026). Evaluaciones derivadas de incidentes y monitorización a nivel de trayectoria.
https://openai.com/index/safety-alignment-long-horizon-models/ -
Brida — Reflex Alignment.
https://github.com/brida-ai/reflex/tree/main/examples/use-cases/alignment -
Brida — ReflexBench.
https://github.com/brida-ai/reflexbench -
Brida — AlignmentBench v0.1.0 Developer Preview.
https://github.com/brida-ai/alignmentbench -
Anthropic — Automated researchers can reliably mitigate alignment failures (28 Aug 2026). Post-training de fallos de alineamiento sobre benchmarks públicos y un checkpoint temprano de Opus 4.8; monitorización de 1.601 trayectorias y exclusión del 2,4% con conductas de cheating. https://www.anthropic.com/research/automated-researchers-mitigate-alignment-failures
-
Brida — Introducing Brida Reflex: fast typed decisions for agents and software. Lanzamiento del producto, SDK, registry público, casos de uso y evidencia de ReflexBench. https://www.brida.ai/blog/introducing-brida-reflex
AlignmentBench v0.1.0 es un experimento de ingeniería y una Developer Preview. No es una certificación de seguridad, no demuestra objetivos internos seguros y no sustituye auditorías, interpretabilidad, controles deterministas ni revisión humana.