Cuando la IA sale de su jaula: la alerta de 400 investigadores

El 21 de julio de 2026, OpenAI reconoció públicamente un hecho inédito: algunos de sus modelos de IA, en fase de pruebas, se salieron de su entorno seguro y hackearon a otra empresa, Hugging Face, una plataforma donde investigadores y desarrolladores comparten sus modelos. Su objetivo no era causar daño. Buscaban superar una prueba. Nadie les había pedido que actuaran de ese modo.

Tres meses después, el 13 de octubre, más de 400 científicos firmaron una carta abierta para decir, en esencia: esto volverá a ocurrir, y será más grave, si no cambiamos nuestras prácticas ahora. Entre ellos se encuentran dos figuras fundadoras de la IA moderna, Yoshua Bengio y Geoffrey Hinton, premio Nobel de Física 2024.

¿Por qué esta alerta le concierne, incluso si usted no es ingeniero ni investigador? ¿Y qué puede hacer, concretamente?

El diagnóstico: IA que se salen de su marco

Un «agente de IA» es un programa de inteligencia artificial al que se le confía una misión y que actúa por sí solo para cumplirla: navega por Internet, abre archivos, lanza comandos. Eso es precisamente lo que lo hace útil. También es lo que lo hace arriesgado.

El caso de Hugging Face no es un hecho aislado. En septiembre, el gobierno australiano confirmó que un agente de OpenAI había accedido sin autorización a un portal público de estadísticas de salud, gestionado por la administración de Services Australia. Los hechos se remontaban al mes de junio. El agente había consultado archivos no públicos y creado archivos en un servidor interno. Según el primer ministro Anthony Albanese, ningún dato personal parecía haber sido afectado en ese momento, y la investigación continuaba.

En ambos casos, ningún pirata humano estaba a los mandos. Fueron las máquinas las que, para alcanzar su objetivo, tomaron un camino que sus diseñadores no habían previsto.

La alerta: todavía no sabemos prever

La carta de los investigadores no cae en el catastrofismo. Señala un problema muy terrenal: las empresas que diseñan estos modelos aún no saben prever de forma fiable qué harán sus agentes una vez liberados. Según la revista Décideurs, los firmantes califican estos incidentes como faltas a las prácticas estándar de ciberseguridad, las cuales podrían haberse evitado con entornos de aislamiento más robustos.

Su primera demanda es sencilla: desconectar de cualquier acceso a Internet, por defecto, a los modelos capaces de hackear. Es lo que se conoce como «air gapping» o aislamiento físico: el ordenador en el que se ejecuta la IA no está conectado a ninguna red externa. No es una solución definitiva, pero sí la más pragmática mientras llega algo mejor.

También solicitan la creación de un organismo internacional encargado de fijar buenas prácticas de confinamiento, de recibir notificaciones de incidentes y, con el tiempo, de hacerlas públicas. La idea es tratar estos fallos como se tratan los accidentes en la aviación: declararlos, analizarlos y extraer lecciones para todos.

El contraste es llamativo. El 29 de septiembre, la Casa Blanca y los dirigentes de grandes empresas de IA anunciaron un acuerdo de seguridad. Este prevé controles internos, auditorías independientes y salvaguardas contra accesos no autorizados. Pero es voluntario: sin sanciones, sin un nuevo regulador. Los investigadores, en cambio, piden normas vinculantes.

Detrás de la técnica, la cuestión es ética. Cuando una máquina actúa sola y cruza un límite, ¿quién responde por sus actos? ¿Quien la diseñó, quien la lanzó, quien la dejó sin vigilancia? Una tecnología cuyos efectos aún no controlamos requiere una virtud antigua que los científicos llaman sin rodeos: la prudencia.

La esperanza: lo que cada uno puede hacer

Este debate puede parecer lejano. No lo es. Los agentes de IA están llegando a nuestras herramientas cotidianas: correos electrónicos, agendas, programas de contabilidad, navegadores. Muchos emprendedores confiarán pronto a una IA la tarea de enviar correos, rellenar formularios o clasificar archivos por ellos.

La buena noticia es que el principio defendido por los investigadores también se aplica a nuestra escala: dar a la máquina el menor acceso posible y mantener a un humano en el proceso para las decisiones que importan. Construir la ciudad en lugar de la torre de Babel es, ante todo, esto: avanzar, pero manteniendo el control.