La IA, el fuego del siglo XXI: aprender a manejarlo sin quemarse

Mucho antes de la escritura, nuestros lejanos ancestros aprendieron a dominar el fuego. Los calentó, los alimentó, los protegió. También los quemó. Es esta imagen la que eligió Ariadna Font para hablar de la inteligencia artificial, durante la duodécima edición del AI Congress, organizado en Barcelona por el centro tecnológico Eurecat. «Debemos aprender a controlarla y a gobernarla», declaró, según el medio económico VIA Empresa, antes de advertir: el fuego se nos está escapando de las manos.

La voz cuenta. Ariadna Font dirigió la ingeniería en IBM Watson, luego lideró la IA responsable en Twitter, antes de fundar la empresa emergente Alinia AI. No es una voz hostil a la tecnología. Es alguien que la construye desde dentro y que nos pide no jugar con cerillas.

El diagnóstico: un fuego que alcanza a todos

El término «inteligencia artificial» se impuso en 1956, durante un taller de investigación en la Universidad de Dartmouth, en Estados Unidos. Durante décadas, el campo avanzó lentamente, con periodos de desinterés que los investigadores llaman los «inviernos de la IA». Luego, todo se aceleró.

En 2016, el programa AlphaGo de Google DeepMind vence a uno de los mejores jugadores de go del mundo. A finales de 2022, ChatGPT pone la IA generativa al alcance de todos. La IA generativa es una IA que produce contenido nuevo (textos, imágenes, sonidos) a partir de una simple solicitud escrita.

Hoy, el fuego está en todas partes. Según el informe AI Index 2026 de la Universidad de Stanford, el 88 % de las organizaciones declaran utilizar la IA en 2025, frente al 55 % en 2023. Las inversiones mundiales en IA alcanzaron unos 580 000 millones de dólares en 2025, de los cuales unos 345 000 millones fueron inversiones privadas.

Joan Mas, director del CIDAI, el centro catalán dedicado a los datos y a la IA, recordó durante el mismo congreso que esta carrera se juega primero entre Estados Unidos y China. Europa, por su parte, ajusta sus reglas. El reglamento llamado «Omnibus de IA» entró en vigor el 27 de julio de 2026. Simplifica la Ley de IA europea y retrasa ciertas obligaciones: las que se dirigen a los sistemas de IA «de alto riesgo», por ejemplo en la contratación o la educación, se aplicarán a partir de diciembre de 2027.

La alerta: la máquina se equivoca, usted responde

Ariadna Font no niega el poder de la herramienta. Incluso estima, según VIA Empresa, que la IA es y será más inteligente que nosotros en muchas dimensiones. Pero añade una frase que todo dirigente debería tener en mente: la IA puede multiplicar la productividad de un equipo, pero también el alcance de un error.

Cita cuatro riesgos concretos para una empresa:

• La fuga de datos: lo que confía a una herramienta de IA puede salir de su empresa.
• La alucinación: la IA inventa una respuesta falsa, pero presentada con la seguridad de la verdad.
• Las acciones de agentes: un agente de IA es una IA a la que se le confía una misión y que actúa sola (enviar un correo electrónico, realizar un pedido). Una mala acción puede salir cara.
• La manipulación de contenidos: textos, imágenes o voces trucadas.

Sobre todo, advierte que es inútil culpar a la máquina: si un chatbot se equivoca, la responsabilidad es suya. No es una opinión, es ya jurisprudencia. En febrero de 2024, un tribunal de Columbia Británica, en Canadá, condenó a Air Canada. El chatbot de su sitio había prometido a un cliente en duelo una tarifa reducida a la que no tenía derecho. La compañía alegó que el chatbot era responsable de sus propias palabras. El tribunal rechazó este argumento: la empresa responde de toda la información publicada en su sitio, ya provenga de una página web o de un robot conversacional. El importe fue modesto, unos 650 dólares canadienses. El principio, en cambio, es inmenso.

Es ahí donde la cuestión se vuelve ética. Delegar una tarea a una máquina no es delegar la conciencia. Se puede confiar el cálculo, la redacción, la investigación. No se puede confiar la responsabilidad.

La esperanza: domesticar el fuego en lugar de apagarlo

La humanidad no renunció al fuego porque quemara. Inventó el hogar, la chimenea, el farol, los bomberos y las normas de seguridad. Aprendió a dominarlo. Para la IA, el camino es el mismo.

Ariadna Font extrae una conclusión positiva: aprovechar este momento para promover todo lo que significa ser humano. Los dirigentes del mañana, dice, deberán combinar el discernimiento y los valores humanos con la fluidez digital. Y advierte contra la precipitación: es fácil perderse cuando se quiere ir muy rápido.

Esta idea coincide con la de la encíclica Magnifica humanitas, publicada en 2026, en la que el papa León XIV aborda, entre otros temas, la inteligencia artificial. Su hilo conductor: construir la ciudad en lugar de la torre de Babel. Avanzar, sí, pero para servir al ser humano y manteniendo el control.

¿Y usted?

En su empresa o en su vida, ¿quién relee lo que la IA produce antes de que llegue a un cliente, un colega o un allegado? Y si nadie lo hace, ¿quién asumirá la responsabilidad el día que se equivoque?

Si este artículo le ha sido útil, suscríbase al boletín de allelu.ai: cada jueves por la noche, una noticia sobre la IA explicada de forma sencilla, bajo el ángulo de la ética. Y reenvíe este artículo a alguien que deba leerlo.

Esta tensión entre una potencia que se multiplica y nuestra capacidad para dominarla está en el corazón de mi libro L'abondance tuera, disponible únicamente en allelu.ai.

Fuentes

• VIA Empresa, «La IA, el fuego del siglo XXI que "se nos escapa de las manos"», 20 de octubre de 2026: leer el artículo
• Stanford HAI, AI Index Report 2026, capítulo Economía: consultar el informe
• Dartmouth College, sobre el nacimiento del término «inteligencia artificial»: leer la página
• Hunton Andrews Kurth, «EU Digital Omnibus on AI enters into force»: leer el artículo
• American Bar Association, Business Law Today, sobre la decisión Moffatt c. Air Canada, febrero de 2024: leer el artículo
• Vatican News, sobre la encíclica Magnifica humanitas: leer el artículo

Redactado con la ayuda de la IA, releído y validado por Reynald Naulleau.