Qué significa que Anthropic y OpenAI acuerden frenar el ritmo de sus modelos de IA — 13 de septiembre de 2026
· CompaniesAutomation
Edición flash del Radar: Dario Amodei publica «We Must Pace the Frontier» y pide reducir el ritmo de mejora de los modelos; Anthropic acepta evaluadores externos incrustados con acceso de empleado y sin veto editorial, y OpenAI dice que hará lo mismo. Qué cláusula exigir a tu proveedor y qué candado poner hoy a tus agentes.
Edición flash. El consejero delegado de Anthropic pide frenar deliberadamente el ritmo de mejora de los modelos, y OpenAI dice que hará lo mismo. Complemento del Radar de esta mañana y continuación del flash del 11 de septiembre.
Qué ha pasado
El 12 de septiembre Dario Amodei publicó el ensayo «We Must Pace the Frontier»: «debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA». Alega que los modelos ya ayudan a construir la siguiente generación y que, tras el enjambre de agentes de julio, en 6-12 meses uno mayor podría «tomar internet entero con una botnet persistente», con daños de «cientos de miles de millones de dólares».
El plan tiene tres pasos. Primero, evaluadores externos incrustados —como METR— con acceso de empleado: mesa, credencial, portátil y derecho a publicar sus hallazgos sin control editorial de la empresa; Anthropic se compromete de forma unilateral. Segundo, estándares comunes entre laboratorios democráticos, con Washington mediando frente al antimonopolio. Tercero, acuerdos internacionales, China incluida. Sam Altman respondió que OpenAI está de acuerdo y aplicará lo mismo, con detalles por llegar (TechCrunch).
Por qué importa
No es un debate filosófico: es el primer compromiso concreto de que el proveedor de tu IA dejará entrar a un tercero a mirar cómo trabaja y a contar lo que vea. Dos consecuencias. Una: «ya lo arreglará el modelo del año que viene» deja de ser un plan; si el frontier se pacifica, lo que tengas mal montado seguirá mal montado. Otra, la importante: la figura que Anthropic acaba de aceptar para sí misma —auditor con acceso real y sin veto sobre el informe— es la que deberías exigir en tu contrato.
Para tu empresa
Tres cosas, ninguna cuesta dinero. Una: en la próxima renovación pide por escrito dos cláusulas que hoy casi nadie pide: notificación de incidentes del modelo en plazo tasado, y auditoría de un tercero sobre el flujo que te afecta sin que el proveedor pueda vetar el informe. Si Anthropic se lo concede a METR, tu integrador no tiene excusa. Dos: si tienes agentes en producción, aplica el candado del flash del 11: el registro se escribe fuera del agente, en almacenamiento de solo añadir con credenciales que el agente no posee, y la alarma salta sobre el privilegio nuevo, no sobre el daño consumado. Tres: recorta esta semana los permisos efectivos de tus integraciones. Quien está en el peldaño 2 o 3 de la escalera AI First gana con este frenazo: margen para consolidar antes de la siguiente ola.
Preguntas frecuentes
¿Significa que la IA avanzará más despacio y puedo relajarme?
No. Amodei dice que «el progreso seguirá pareciendo rápido». La distancia entre lo que el modelo puede hacer y lo que tu empresa sabe hacer con él no la reduce el laboratorio: la reduces tú.
¿Es un compromiso vinculante?
No. Es un ensayo personal, un compromiso unilateral de Anthropic y una adhesión de OpenAI sin detalle publicado. No hay ley, ni auditor designado, ni sanción: es una señal, no una garantía.
¿Y si mi proveedor no es ni Anthropic ni OpenAI?
Con más motivo. El compromiso de los dos grandes crea un estándar de mercado citable: pregunta a tu proveedor a qué evaluador externo se somete y qué publica cuando algo sale mal. La respuesta, o su ausencia, ya es información.