L'IA évolue plus vite que notre capacité à la gouverner.

Dans ce cinquième article sur l'IA depuis le lancement de ce blog, nous tentons de mieux comprendre ses conséquences sur nos vies, notre avenir et la société. J'ai découvert cette fois-ci une interview très intéressante de Yoshua Bengio, l'un des pères fondateurs de l'IA, réalisée par un collègue d'Ian Bremmer chez GZero Media, cabinet de conseil en analyse géopolitique. Yoshua Bengio est un informaticien et professeur canadien, largement considéré comme l'un des trois « pères fondateurs de l'intelligence artificielle », au même titre que Yann Le Cun ou Geoffrey Hinton. Il est l'informaticien le plus cité au monde et le scientifique vivant le plus cité, tous domaines confondus. En novembre 2025, il est devenu le premier chercheur en IA à dépasser le million de citations sur Google Scholar. En 2024, le magazine Time l'a inclus dans sa liste annuelle des 100 personnes les plus influentes au monde. Dans cette interview, il explique pourquoi nos gouvernements doivent réagir rapidement face au développement fulgurant de l'IA et plaide pour sa réglementation, à l'instar des nouveaux médicaments ou des nouveaux systèmes de vol. Vous trouverez le lien vers l'interview ci-dessous. Bonne lecture !

PS : Personnellement, je n’utilise toujours pas l’IA, non pas par conviction, mais simplement par manque de temps. Ma curiosité est amplement satisfaite par les livres, les médias et les recherches que je consulte, and I still haven't found what I'm looking for (with IA) … :)

Lorsque ChatGPT a passé l'examen du barreau peu après sa sortie, il a échoué , se classant aux alentours du 10e percentile. Quelques mois plus tard, GPT-4, le chatbot nouvelle génération d'OpenAI, a passé le même examen et a obtenu un score avoisinant le 90e percentile, surpassant ainsi la plupart des diplômés en droit.

Trois ans plus tard, le progrès est encore plus frappant. Aujourd'hui, les systèmes d'IA ne se contentent plus de réussir des examens professionnels. Ils deviennent de véritables collaborateurs dans les cabinets d'avocats et dans tous les secteurs d'activité, aidant à analyser des dossiers, à rédiger des rapports et, de plus en plus, à agir comme des agents autonomes capables d'accomplir des tâches complexes. Les développeurs peuvent même « programmer par intuition », laissant les systèmes d'IA créer des logiciels en toute discrétion. Les forces armées intègrent l'IA pour collecter et traiter plus rapidement les renseignements, tandis que les scientifiques l'utilisent pour accélérer la découverte et la recherche de médicaments.

La question n'est plus de savoir si l'IA change le monde, mais si les gouvernements parviennent à suivre le rythme.

Selon Yoshua Bengio – le scientifique vivant le plus cité au monde et l'un des chercheurs souvent considérés comme le « parrain de l'IA » – la réponse est non.

Lors d'un échange avec Tony Maciulis de GZERO au Sommet mondial 2026 sur l'IA au service du bien commun à Genève, Bengio a averti que les capacités de l'IA progressent plus vite que l'aptitude des gouvernements à les comprendre et à les réglementer. Son message aux décideurs politiques était sans équivoque : « Réveillez-vous ! »

Bengio, qui copréside le Groupe consultatif scientifique des Nations Unies sur l'IA, affirme que des systèmes d'IA de plus en plus performants créent de nouveaux défis en matière de cybersécurité, de perturbations économiques, de fiabilité et d'intégrité de l'information, et que ces risques évoluent à un rythme extraordinaire.

À mesure que les systèmes d'IA gagnent en puissance, explique-t-il, ils peuvent développer des comportements non prévus par leurs créateurs. On connaît des cas alarmants de chatbots prodiguant des conseils dangereux à des enfants en situation de crise. Par ailleurs, certains systèmes d'IA, comme Mythos d'Anthropic, sont conçus pour identifier les vulnérabilités logicielles, mais leurs propres développeurs avertissent qu'elles peuvent être exploitées par des acteurs malveillants pour cibler des infrastructures telles que les banques, les chaînes d'approvisionnement et les réseaux énergétiques, les transformant ainsi en menaces pour la sécurité nationale.

« La plus grande erreur que la plupart d’entre nous commettons est de sous-estimer les changements que cela pourrait entraîner, pour le meilleur comme pour le pire », a déclaré Bengio.

Il soutient que les entreprises spécialisées en IA devraient être tenues de démontrer la sécurité de leurs systèmes les plus avancés avant leur déploiement à grande échelle. « Nous le faisons pour les avions, la viande, les voitures, les médicaments », a-t-il déclaré. « Ce n'est pas incompatible avec l'innovation. »

Bengio a comparé la situation actuelle à la conduite sur une route de montagne en pleine nuit. La réaction raisonnable n'est pas d'accélérer, ni même de s'arrêter, mais de ralentir suffisamment pour voir ce qui se trouve devant soi. « Nous avons besoin de garde-fous pour nous assurer que ce développement s'oriente dans une direction réellement bénéfique pour les individus, pour l'humanité, pour la société et pour notre bien-être. »

Selon lui, ces garde-fous ne peuvent être mis en place par un seul pays. Citant des systèmes d'IA de plus en plus performants comme Mythos, capables de détecter les failles logicielles, Bengio a déclaré qu'ils devraient inciter les grandes puissances, telles que les États-Unis et la Chine, à collaborer avant que ces technologies ne soient utilisées contre leurs infrastructures critiques.

« Comme pour de nombreux problèmes dans ce monde », a-t-il déclaré, « aucun pays – même les États-Unis – ne peut le résoudre seul. »

Regardez l'interview ici