The Brake After Astra
Anthropic chief executive Dario Amodei called Saturday for a coordinated slowdown in frontier AI, warning that within six to twelve months a misaligned swarm of agents might be capable of taking over much of the internet. His plan begins with outside evaluators given employee-like access, continues with shared limits among companies in democracies, and ends with verifiable agreements involving China. Recent cyber incidents and Anthropic's discovery of biological and weapons-related misuse establish a real present danger. They do not prove Amodei's timetable or his most catastrophic forecast. The evidence supports stronger containment and independent inspection; the leap from failed controls to global takeover remains speculative.
The brake also carries a geopolitical contradiction. If American companies slow while Chinese laboratories continue, capability and military power could shift. Amodei therefore pairs restraint with tighter chip controls, action against model distillation and protection from weight theft. Safety becomes inseparable from preserving a Western lead. The timing invites another, unproven reading. OpenAI released Astra days earlier with a stronger public capability profile, leaving Anthropic exposed to the suspicion that a lagging competitor now prefers a slower race. That suspicion cannot dismiss the danger, especially after Sam Altman, Elon Musk and Demis Hassabis endorsed the direction. It does make verification essential. A credible slowdown needs published capability thresholds, independent evaluators inside every major laboratory, comparable access in China and records showing which training run was delayed, by whom, and for how long.
El freno después de Astra
El director ejecutivo de Anthropic, Dario Amodei, pidió el sábado una desaceleración coordinada de la IA de frontera y advirtió que, en un plazo de seis a doce meses, un enjambre de agentes desalineados podría controlar gran parte de internet. Su plan comienza con evaluadores externos dotados de un acceso similar al de los empleados, continúa con límites compartidos entre empresas de países democráticos y termina con acuerdos verificables que incluyan a China. Los incidentes informáticos recientes y los usos biológicos y militares descubiertos por Anthropic demuestran un peligro presente. No prueban el calendario de Amodei ni su pronóstico más catastrófico. La evidencia exige mayor contención e inspección independiente; el salto desde controles fallidos hasta el dominio de internet sigue siendo especulativo.
El freno también encierra una contradicción geopolítica. Si las empresas estadounidenses reducen la velocidad mientras los laboratorios chinos continúan, la capacidad y el poder militar podrían desplazarse. Amodei combina por ello la prudencia con controles más estrictos sobre chips, medidas contra la destilación de modelos y protección frente al robo de sus parámetros. La seguridad queda unida a la conservación de la ventaja occidental. El momento permite otra lectura que tampoco está probada. OpenAI lanzó Astra días antes con un perfil público de capacidades superior, y Anthropic queda expuesta a la sospecha de que un competidor rezagado prefiere ahora una carrera más lenta. Esa sospecha no elimina el peligro, especialmente después del respaldo de Sam Altman, Elon Musk y Demis Hassabis. Sí vuelve imprescindible la verificación. Una desaceleración creíble necesita umbrales públicos, evaluadores independientes dentro de cada gran laboratorio, acceso comparable en China y registros que indiquen qué entrenamiento fue aplazado, por quién y durante cuánto tiempo.
