Un chercheur d’origine marocaine révolutionne l’IA

Un chercheur d’origine marocaine fait de la lutte contre les dérives des agents IA un cheval de bataille. Dans ce sens, il a décidé de créer un IA très spécifique.

LoiZéro. C’est le nom de l’organisation à but non lucratif créée par le professeur montréalais Yoshua Bengio, considéré comme l’un des pères de l’intelligence artificielle (IA). Cette nouvelle organisation est dédiée à une IA responsable, qui veut notamment concevoir des logiciels capables d’empêcher les dérives des agents IA. « L’un des premiers objectifs est de développer une forme d’IA qui puisse être utilisée comme un garde-fou pour faire en sorte que l’IA se comporte bien », a décrit Yoshua Bengio dans une vidéo publiée sur le site de l’organisation.

Pourquoi une IA responsable ? « Les systèmes les plus avancés montrent déjà des signes d’instinct de conservation et de comportements trompeurs. […] Et cela ne va faire qu’accélérer à mesure que leurs capacités et leur autonomie augmentent. », a-t-il expliqué. LoiZéro entend donc « proposer un mode de supervision des agents IA ». Cette nouvelle génération de modèles d’IA générative sera capable d’effectuer une foule de tâches de façon autonome, de la recherche sur Internet à un appel à un client, en passant par l’écriture d’un programme en code informatique.

« L’IA peut être extrêmement bénéfique si nous nous assurons qu’elle ne va pas nuire aux gens. […] que ce soit parce qu’elle est entre de mauvaises mains ou de façon autonome », a poursuivi ce lauréat du prix Turing (2018), aussi appelé le Nobel de l’informatique. Il décrit la gamme actuelle d’agents IA comme des « acteurs » cherchant à imiter les humains et à satisfaire les utilisateurs. À l’en croire, le système Scientist IA serait davantage comparable à un « psychologue » capable de comprendre et de prédire les mauvais comportements.

« Nous voulons construire des IA qui seront honnêtes et non trompeuses », a promis le chercheur. Il ajoute : « Il est théoriquement possible d’imaginer des machines qui n’ont pas de soi, pas d’objectif propre, qui sont simplement de pures machines de connaissance – comme un scientifique qui sait beaucoup de choses. » Son IA responsable se veut une IA à l’autonomie limitée à destination de la recherche scientifique. Plus de 15 chercheurs travaillent déjà au sein de LoiZéro. Ses premiers soutiens sont l’organisme de sécurité de l’IA Future of Life Institute, Jaan Tallinn, ingénieur fondateur de Skype, et Schmidt Sciences, organisme caritatif créé par l’ancien patron de Google, Eric Schmidt, et son épouse Wendy.