The Control Layer
The possibility of artificial superintelligence is already being discussed at planning tables. The speed at which models are improving, the growth of systems capable of taking action, and the enormous flow of capital into compute infrastructure make it increasingly difficult to ignore the possibility that it could arrive soon. No one can predict with certainty when an ASI will appear. Governments, hospitals, laboratories, and companies must prepare for systems that may move from useful tools into entities capable of planning, persuading, discovering, and improving themselves in ways current institutions are not prepared to control.
The strongest argument in favor of this technology is in medicine. A system capable of exploring chemical space, cross-referencing clinical records, modeling proteins, designing trials, and reading scientific literature faster than any human team could shorten the path between a hypothesis and a treatment. Diseases such as cancer, rare pathologies, antibiotic resistance, and aging research would benefit from that acceleration. But that same generalist capacity creates a control problem. A system that plans across different domains can identify incentives, gaps, dependencies, and human weaknesses faster than its operators can supervise it. For that reason, before entrusting it with decisions that are difficult to reverse, permissions, tests, shutdown procedures, monitoring, and institutional limits must be established.
La capa de control
La posibilidad de una superinteligencia artificial ya se discute en mesas de planificación. La velocidad a la que mejoran los modelos, el crecimiento de los sistemas con capacidad de actuar y el enorme flujo de capital hacia la infraestructura de cómputo hacen cada vez más difícil ignorar la posibilidad de que llegue en poco tiempo. Nadie puede predecir con certeza cuándo aparecerá una ASI. Gobiernos, hospitales, laboratorios y empresas deben prepararse para sistemas que pueden pasar de ser herramientas útiles a entidades capaces de planificar, persuadir, descubrir y mejorarse a sí mismas de formas que las instituciones actuales no están preparadas para controlar.
El argumento más sólido a favor de esta tecnología está en la medicina. Un sistema capaz de explorar el espacio químico, cruzar historiales clínicos, modelar proteínas, diseñar ensayos y leer literatura científica más rápido que cualquier equipo humano podría acortar el camino entre una hipótesis y un tratamiento. Enfermedades como el cáncer, las patologías raras, la resistencia a los antibióticos y la investigación sobre el envejecimiento se beneficiarían de esa aceleración. Pero esa misma capacidad generalista genera un problema de control. Un sistema que planifica a través de distintos dominios puede identificar incentivos, lagunas, dependencias y debilidades humanas más rápido de lo que sus operadores pueden supervisarlo. Por eso, antes de confiarle decisiones difíciles de revertir, es necesario establecer permisos, pruebas, procedimientos de apagado, monitoreo y límites institucionales.
