El 12 de septiembre de 2026, Dario Amodei, CEO de Anthropic, publicó el ensayo We Must Pace the Frontier: propone bajar deliberadamente el ritmo al que mejoran los modelos de IA con un plan de tres pasos —evaluadores externos embebidos en los laboratorios, estándares comunes entre las empresas de países democráticos y coordinación global—. Del primer paso, Anthropic se comprometió sola: evaluadores de terceros con acceso permanente de nivel empleado y derecho a publicar sus hallazgos sin control editorial de la empresa.
Sam Altman respaldó la idea ese mismo día y dijo que OpenAI también sumará evaluadores con acceso de empleado, con detalles a confirmar. Elon Musk escribió «Dario is right» y Satya Nadella celebró el enfoque al día siguiente, sin comprometer evaluadores propios. Para una empresa que ya usa Claude o ChatGPT no cambian hoy ni los contratos, ni los precios, ni los modelos disponibles: cambia la vara de due diligence que le podés pedir a tu proveedor de IA.
¿Qué es We Must Pace the Frontier?
Es un ensayo que Amodei publicó en su sitio personal el sábado 12 de septiembre de 2026 (texto original). La tesis es corta: la capacidad de los modelos está mejorando más rápido de lo que la industria logra verificar que sean seguros, así que hay que bajar a propósito la velocidad de la frontera y usar bien el tiempo que se gana. No habla de apagar nada: el propio ensayo aclara que el progreso va a seguir pareciendo rápido.
Lo que le da peso no es el diagnóstico —los laboratorios vienen hablando de riesgo hace años— sino que quien lo firma dirige una de las dos empresas que más empujan esa frontera, y que viene con un compromiso que Anthropic ejecuta sin esperar a nadie. Amodei además habla de una ventana de 6 a 12 meses antes de incidentes más graves que los que ya se vieron en la industria.
¿Cuáles son los tres pasos del plan de Amodei?
- Evaluadores externos embebidos. Equipos de terceros con acceso continuo y de nivel empleado dentro de cada laboratorio para verificar que se cumplen las prácticas de seguridad, reportar incidentes y evaluar el alineamiento de los procesos de entrenamiento, no solo de los modelos terminados. Es el único paso que Anthropic asume de forma unilateral.
- Coordinación entre laboratorios de países democráticos. Las empresas de frontera acuerdan estándares de seguridad comunes y límites al ritmo de avance sin control.
- Coordinación global. Los gobiernos democráticos buscan acuerdos también con gobiernos autoritarios, empezando por prohibiciones como el uso de IA para armas biológicas. El propio ensayo reconoce que verificar ese tipo de acuerdos es el punto más difícil.
(TechCrunch y Fortune coinciden en la estructura).
¿Qué son los evaluadores embebidos y qué acceso tienen?
Es la parte concreta del anuncio, y la que más le interesa a una empresa cliente. Según el ensayo, los evaluadores externos van a tener escritorio en las oficinas de Anthropic, credencial de acceso y notebook de la empresa, con permisos comparables a los de los equipos internos de evaluación de riesgo, y de forma permanente. Amodei nombra a METR como ejemplo del tipo de organización que puede cumplir ese rol.
El detalle que separa esto de una declaración de principios está en la letra chica: los evaluadores pueden publicar lo que encuentren sin control editorial de Anthropic. La empresa se reserva tachar información de seguridad, legalmente privilegiada, comercialmente sensible o confidencial de terceros, pero no puede tachar un hallazgo por ser desfavorable.
¿Qué dijeron OpenAI, xAI y Microsoft?
Varios titulares dicen que «se sumaron» todos. Leído al pie de la letra, cada uno se comprometió a algo distinto:
| Quién | Cuándo | Qué dijo | Compromiso concreto |
|---|---|---|---|
| Anthropic (Dario Amodei) | 12/09 | Publica el plan de tres pasos | Sí: evaluadores externos permanentes, con derecho a publicar |
| OpenAI (Sam Altman) | 12/09 | Coincide en que hay que bajar el ritmo de la frontera; dice que es tema central interno hace semanas | Anunciado, sin detalles: «vamos a hacer lo mismo» con los evaluadores |
| xAI (Elon Musk) | 12/09 | «Dario is right» | Ninguno publicado |
| Microsoft (Satya Nadella) | 13/09 | Celebra el ritmo deliberado y la idea de evaluadores; pide que no lo controlen unas pocas empresas e incluya a la academia | Publicar a consulta un código de conducta para sus modelos MAI; evaluadores propios, no |
Fuentes: publicaciones en X de Altman y Musk citadas por SiliconANGLE y TechCrunch; posteo de Nadella según Unite.AI; resumen de posiciones en MarkTechPost.
La lectura útil: hay un compromiso ejecutable (Anthropic), una promesa a confirmar (OpenAI) y dos respaldos de palabra (xAI y Microsoft). Para evaluar proveedores, solo el primero cuenta como hecho hoy.
¿Qué críticas recibió la propuesta?
No todos lo leyeron como un gesto de responsabilidad. The Register lo describió como las grandes empresas escribiendo sus propias reglas: un alto el fuego que conviene a quien ya está adelante y le complica la carrera a quien viene atrás. Alex Karp, CEO de Palantir, sostuvo que frenar no es realista mientras haya adversarios geopolíticos que no lo hagan.
Las dos críticas son razonables y no se contradicen con el punto de este artículo. Que el incentivo sea mixto no vuelve inútil al evaluador externo: al contrario, es justamente la herramienta que permite comprobar si el discurso de seguridad es real o es posicionamiento.
¿Qué cambia para una empresa que ya usa Claude o ChatGPT?
Primero lo que no cambia: ninguna de las cuatro empresas anunció cambios en contratos, precios, disponibilidad de modelos ni condiciones de uso. Si tu equipo usa Claude o ChatGPT, el lunes trabaja igual. Y el freno, si llega, es sobre la frontera —los próximos modelos—, no sobre los que ya están en producción.
Lo que sí cambia es la conversación con tu proveedor:
- Aparece evidencia externa verificable. Hasta ahora la due diligence de seguridad de un proveedor de IA se apoyaba en lo que el proveedor publicaba sobre sí mismo. Si los evaluadores embebidos empiezan a publicar, vas a tener un tercero con acceso real diciendo qué encontró. Es el mismo criterio con el que analizamos cómo elegir proveedor de IA según su gobernanza de riesgo: vale lo que se puede auditar.
- Las promesas se miden por fecha, no por tuit. OpenAI dijo que va a hacer lo mismo. Hasta que publique quién, con qué acceso y con qué derecho a publicar, en una matriz de proveedores es un casillero «anunciado», no «cumplido». Lo mismo para cualquier otro que se sume.
- Esperar al freno no es un plan. Si la frontera se desacelera, los modelos que usás hoy siguen siendo los que vas a usar un buen tiempo. Es un argumento para diseñar bien la implementación con lo que ya existe, no para postergarla.
Y en Argentina hay un motivo extra para prestarle atención: sin una ley de IA vigente, la gobernanza del proveedor es buena parte de la única red que tiene una empresa (lo desarrollamos en qué implica usar IA sin regulación en Argentina). Esa red se completa adentro, con una política de uso de IA para la empresa.
¿Qué preguntas conviene sumarle a tu proveedor de IA?
Cinco preguntas nuevas que salen directo del anuncio y que cualquier comité de compras o de riesgo puede hacer por escrito:
- ¿Tienen evaluadores externos con acceso permanente? ¿Quiénes?
- ¿Pueden publicar sus hallazgos sin aprobación de la empresa? ¿Qué se puede tachar y quién decide?
- ¿Evalúan también el entrenamiento o solo el modelo terminado?
- ¿Cuándo sale el primer informe y dónde se publica?
- Si todavía no los tienen, ¿hay fecha comprometida o es una intención?
Si estás comparando plataformas, estas preguntas se suman a las funcionales —datos, integraciones, costo— que repasamos en Claude vs ChatGPT para empresas.
Preguntas frecuentes sobre Pace the Frontier.
Es la propuesta que Dario Amodei, CEO de Anthropic, publicó el 12 de septiembre de 2026 en el ensayo We Must Pace the Frontier. Plantea bajar deliberadamente el ritmo al que mejoran las capacidades de los modelos de IA para que la verificación de seguridad pueda acompañar, sin detener el desarrollo. Se ordena en tres pasos: evaluadores externos embebidos en los laboratorios, estándares comunes entre las empresas de países democráticos y coordinación global entre gobiernos.
Uno: evaluadores de terceros con acceso continuo y de nivel empleado dentro de cada laboratorio, para verificar prácticas de seguridad, reportar incidentes y evaluar el alineamiento del entrenamiento. Dos: que los laboratorios de frontera de países democráticos acuerden estándares de seguridad comunes y límites al ritmo de avance. Tres: coordinación entre gobiernos democráticos y autoritarios, empezando por prohibiciones como el uso de IA para armas biológicas. Anthropic solo asumió de forma unilateral el primer paso.
Según el ensayo, acceso permanente comparable al de los equipos internos de evaluación de riesgo: escritorio en las oficinas, credencial y notebook de la empresa. Pueden publicar sus hallazgos sin control editorial de Anthropic, que solo puede tachar información de seguridad, legalmente privilegiada, comercialmente sensible o confidencial de terceros, nunca un hallazgo por ser desfavorable. METR aparece como ejemplo de organización evaluadora; el ensayo no confirma todavía qué organizaciones entran ni cuándo sale el primer informe.
Lo anunció, pero sin detalles. El 12 de septiembre de 2026 Sam Altman escribió en X que coincide en que hay que bajar el ritmo de la frontera, que es un tema central en OpenAI hace semanas y que tener evaluadores independientes con acceso de empleado es una gran idea que OpenAI también va a implementar, con más información a futuro. Hasta que publique quiénes, con qué acceso y con qué derecho a publicar, es una intención y no un compromiso verificable.
De palabra. Elon Musk respondió «Dario is right» el mismo 12 de septiembre, sin anunciar medidas. Satya Nadella, el 13 de septiembre, celebró el ritmo deliberado y la idea de evaluadores embebidos, pidió que el mecanismo no quede en manos de unas pocas empresas e incluya a la academia, y anunció que Microsoft publicará a consulta un código de conducta para sus modelos MAI. Ninguno de los dos comprometió evaluadores externos propios.
Hoy no: ninguna empresa anunció cambios en contratos, precios, modelos disponibles ni condiciones de uso, y el freno propuesto apunta a los próximos modelos de frontera, no a los que ya están en producción. Lo que cambia es la due diligence: si los evaluadores externos empiezan a publicar, vas a tener evidencia de un tercero con acceso real para comparar proveedores, y conviene preguntarle al tuyo si tiene evaluadores, quiénes son, qué pueden publicar y cuándo sale el primer informe.
No. Si la frontera se desacelera, los modelos disponibles hoy van a seguir siendo la base de trabajo durante más tiempo, lo que refuerza el argumento de implementar bien con lo que ya existe. Lo sensato es avanzar con casos de uso acotados y supervisados, y sumar las preguntas de gobernanza del proveedor a la evaluación de compra.
Última actualización: · Versión 1.0 · Fuentes: el ensayo We Must Pace the Frontier (12 de septiembre de 2026), TechCrunch, Fortune, SiliconANGLE, Unite.AI, MarkTechPost y The Register. Análisis y opinión: Diego Ceredi, consultor certificado por Anthropic.
Claude in Chrome actúa solo en el navegador: los controles de administrador que hay que definir antes del 10 de septiembre
10 min de lectura
Anthropic subió su propio nivel de riesgo y a OpenAI le repartieron el equipo de riesgos catastróficos: qué proveedor de IA elegís para tu empresa
12 min de lectura