L'IA, le feu du XXIe siècle : apprendre à le tenir sans se brûler

Bien avant l'écriture, nos lointains ancêtres ont appris à maîtriser le feu. Il les a réchauffés, nourris, protégés. Il les a aussi brûlés. C'est cette image qu'a choisie Ariadna Font pour parler de l'intelligence artificielle, lors de la douzième édition de l'AI Congress, organisé à Barcelone par le centre technologique Eurecat. « Nous devons apprendre à la contrôler et à la gouverner », a-t-elle déclaré, selon le média économique VIA Empresa, avant d'avertir : le feu est en train de nous échapper des mains.

La voix compte. Ariadna Font a dirigé l'ingénierie chez IBM Watson, puis piloté l'IA responsable chez Twitter, avant de fonder la start-up Alinia AI. Ce n'est pas une voix hostile à la technologie. C'est quelqu'un qui la construit de l'intérieur, et qui nous demande de ne pas jouer avec les allumettes.

Le constat : un feu qui gagne tout le monde

Le terme « intelligence artificielle » s'est imposé en 1956, lors d'un atelier de recherche à l'université de Dartmouth, aux États-Unis. Pendant des décennies, le domaine a avancé lentement, avec des périodes de désintérêt que les chercheurs appellent les « hivers de l'IA ». Puis tout s'est accéléré.

En 2016, le programme AlphaGo de Google DeepMind bat l'un des meilleurs joueurs de go du monde. Fin 2022, ChatGPT met l'IA générative à la portée de tous. L'IA générative, c'est une IA qui produit du contenu nouveau (textes, images, sons) à partir d'une simple demande écrite.

Aujourd'hui, le feu est partout. Selon le rapport AI Index 2026 de l'université Stanford, 88 % des organisations déclarent utiliser l'IA en 2025, contre 55 % en 2023. Les investissements mondiaux dans l'IA ont atteint environ 580 milliards de dollars en 2025, dont environ 345 milliards d'investissements privés.

Joan Mas, directeur du CIDAI, le centre catalan consacré aux données et à l'IA, a rappelé lors du même congrès que cette course se joue d'abord entre les États-Unis et la Chine. L'Europe, elle, ajuste ses règles. Le règlement dit « Omnibus IA » est entré en vigueur le 27 juillet 2026. Il simplifie l'AI Act européen et repousse certaines obligations : celles qui visent les systèmes d'IA « à haut risque », par exemple dans le recrutement ou l'éducation, s'appliqueront à partir de décembre 2027.

L'alerte : la machine se trompe, vous répondez

Ariadna Font ne nie pas la puissance de l'outil. Elle estime même, selon VIA Empresa, que l'IA est et sera plus intelligente que nous dans de nombreuses dimensions. Mais elle ajoute une phrase que tout dirigeant devrait garder en tête : l'IA peut multiplier la productivité d'une équipe, mais aussi la portée d'une erreur.

Elle cite quatre risques concrets pour une entreprise :

• La fuite de données : ce que vous confiez à un outil d'IA peut sortir de votre entreprise.
• L'hallucination : l'IA invente une réponse fausse, mais présentée avec l'assurance de la vérité.
• Les actions d'agents : un agent IA est une IA à qui l'on confie une mission et qui agit seule (envoyer un courriel, passer une commande). Une mauvaise action peut coûter cher.
• La manipulation de contenus : textes, images ou voix truqués.

Surtout, elle prévient qu'il est inutile de rejeter la faute sur la machine : si un chatbot se trompe, la responsabilité est la vôtre. Ce n'est pas une opinion, c'est déjà une jurisprudence. En février 2024, un tribunal de Colombie-Britannique, au Canada, a condamné Air Canada. Le chatbot de son site avait promis à un client endeuillé un tarif réduit auquel il n'avait pas droit. La compagnie a plaidé que le chatbot était responsable de ses propres paroles. Le tribunal a refusé cet argument : l'entreprise répond de toutes les informations publiées sur son site, qu'elles viennent d'une page web ou d'un robot conversationnel. Le montant était modeste, environ 650 dollars canadiens. Le principe, lui, est immense.

C'est là que la question devient éthique. Déléguer une tâche à une machine, ce n'est pas déléguer sa conscience. On peut confier le calcul, la rédaction, la recherche. On ne peut pas confier la responsabilité.

L'espérance : apprivoiser le feu plutôt que l'éteindre

L'humanité n'a pas renoncé au feu parce qu'il brûlait. Elle a inventé le foyer, la cheminée, la lanterne, les pompiers et les règles de sécurité. Elle a appris à le tenir. Pour l'IA, le chemin est le même.

Ariadna Font en tire une conclusion positive : profiter de ce moment pour promouvoir tout ce que signifie être humain. Les dirigeants de demain, dit-elle, devront combiner le discernement et les valeurs humaines avec l'aisance numérique. Et elle met en garde contre la précipitation : il est facile de se perdre quand on veut aller très vite.

Cette idée rejoint celle de l'encyclique Magnifica humanitas, publiée en 2026, dans laquelle le pape Léon XIV aborde notamment l'intelligence artificielle. Son fil rouge : bâtir la cité plutôt que la tour de Babel. Avancer, oui, mais pour servir l'humain, et en gardant la main.

Et vous ?

Dans votre entreprise ou votre vie, qui relit ce que l'IA produit avant que cela parte chez un client, un collègue ou un proche ? Et si personne ne le fait, qui portera la responsabilité le jour où elle se trompera ?

Si cet article vous a été utile, inscrivez-vous à la newsletter allelu.ai : chaque jeudi soir, une actualité de l'IA expliquée simplement, sous l'angle de l'éthique. Et transférez cet article à une personne qui devrait le lire.

Cette tension entre une puissance qui se multiplie et notre capacité à la maîtriser est au cœur de mon livre L'abondance tuera, disponible uniquement sur allelu.ai.

Sources

• VIA Empresa, « La IA, el fuego del siglo XXI que "se nos escapa de las manos" », 20 octobre 2026 : lire l'article
• Stanford HAI, AI Index Report 2026, chapitre Économie : consulter le rapport
• Dartmouth College, sur la naissance du terme « intelligence artificielle » : lire la page
• Hunton Andrews Kurth, « EU Digital Omnibus on AI enters into force » : lire l'article
• American Bar Association, Business Law Today, sur la décision Moffatt c. Air Canada, février 2024 : lire l'article
• Vatican News, sur l'encyclique Magnifica humanitas : lire l'article

Rédigé avec l'aide de l'IA, relu et validé par Reynald Naulleau.