Los peligros de la inteligencia artificial no se limitan a errores técnicos ni a conductas éticamente cuestionables. Sella Nevo, director del Meselson Centre en RAND, insiste en que la seguridad de cada modelo debe ser la prioridad absoluta. Resulta que, por más que las compañías los entrenen para seguir reglas, limiten el acceso al código fuente o impongan controles estrictos a su gestión interna, existe la posibilidad de termine en manos equivocadas. Si un modelo es capaz de infiltrar infraestructuras críticas o operaciones de defensa, podría abrir la puerta a ciberataques terroristas.

Nevo advierte que las compañías que hacen IA ponen más atención en que funcione bien y haga lo que le piden, que en asegurarse de que sea segura para las personas. En un informe titulado Securing AI Model Weights, su centro propuso 167 medidas concretas para blindar los sistemas. Los últimos modelos son muy poderosos. Si tienen un problema técnico, ese problema no se queda solo en la máquina, puede afectar también a las personas, a cómo se llevan entre ellas y hasta influir en las decisiones importantes que toman los gobiernos: las leyes, la seguridad, la economía, incluso las elecciones. La IA no puede aspirar a ser confiable ni sostenible si no es segura, y no lo puede ser sin un marco robusto de ciberseguridad.