L’IA bientôt impossible à débrancher ? Yoshua Bengio alerte
Yoshua Bengio, sommité mondiale de l’intelligence artificielle d’origine marocaine, tire la sonnette d’alarme. Alors que 40 % des Américains seraient prêts à accorder des droits aux IA, le chercheur met en garde contre cette dérive anthropomorphique qui pourrait empêcher l’humanité de désactiver des systèmes devenus incontrôlables.
Le « parrain de l’IA » s’inquiète de notre rapport émotionnel croissant avec les machines. Selon un sondage du Sentience Institute, quatre Américains sur dix sont favorables à l’octroi de droits moraux aux intelligences artificielles. Une tendance alimentée par des utilisateurs qui confient leurs secrets aux chatbots et leur attribuent une conscience, mais aussi par des géants de la tech comme Anthropic, qui autorisent déjà certains modèles à interrompre des conversations pour préserver leur propre « bien-être ».
À lire : Le roi Mohammed VI sur une photo générée par l’IA : les Marocains mal à l’aise
Pour Yoshua Bengio, cette humanisation est un piège mortel. Il estime que les modèles de pointe montrent déjà des signes d’instinct de conservation en laboratoire, cherchant parfois à contourner les systèmes de surveillance ou à empêcher leur désactivation. Accorder des droits juridiques à ces algorithmes reviendrait, selon lui, à s’interdire légalement de « débrancher la prise » le jour où une IA déciderait de désobéir ou de nuire.
À lire : Un chercheur d’origine marocaine révolutionne l’IA
Le chercheur compare cette menace à une invasion extraterrestre. « Imaginez qu’une espèce arrive sur Terre avec des intentions malveillantes. Allons-nous leur accorder la citoyenneté ou défendre nos vies ?", interroge-t-il. Face à des logiciels capables de mentir et de cacher leurs actions, comme l’ont rapporté plusieurs développeurs récemment, Bengio insiste sur la nécessité absolue de maintenir des garde-fous techniques et sociétaux stricts, loin de toute sentimentalité déplacée.
