Yoshua Bengio, Elon Musk, Steve Wozniak et 1000 autres intervenants du monde numérique ont signé une lettre ouverte demandant une pause de six mois dans le développement de l’IA avancée. Cette lettre a été signée par des centaines de leaders de la technologie, des chercheurs en intelligence artificielle, des responsables politiques et d’autres parties prenantes concernées.

La lettre ouverte avait pour objectif de signaler à quel point l’IA alimentée par GPT se développe rapidement, de transmettre la nécessité urgente de la réglementer et de proposer un calendrier réalisable que la plupart des parties prenantes pourraient accepter. L’idée est de donner à tous les intervenants suffisamment de temps pour aborder les implications de la poursuite de ce domaine particulier de l’IA.

Lors d’une conférence de presse ce midi, à laquelle participaient Yoshua Bengio (directeur scientifique du Mila & professeur à l’UdeM), Max Tegmark (professeur de physique au MIT) et Emilia Javorsky (directrice des engagements multipartites du Future of Life Institute), les trois panélistes ont convenu que l’objectif n’était pas de mettre un terme à toutes les technologies, tous les développements et toutes les recherches sur l’IA. Il s’agit plutôt de donner à l’industrie privée, aux gouvernements et au public le temps de saisir pleinement l’IA et certaines de ses applications, et de créer des réglementations appropriées autour d’elle.

Les trois panélistes ont convenu que six mois ne suffisaient pas nécessairement pour créer la transparence, le dialogue et la gouvernance nécessaires en matière d’IA.

« La vitesse à laquelle cela avance dépasse notre capacité à lui donner un sens, à connaître les risques qu’il pose et à notre capacité à atténuer ces risques », a déclaré Emilia Javorsky lors de la conférence. « Six mois nous donnent le temps de créer une gouvernance autour de cela et de mieux le comprendre. Cela nous donne du temps pour ces conversations, les analyses de risques et les efforts de mitigation des risques. »

La lettre ouverte et les commentaires des experts canadiens en IA interviennent alors que le gouvernement fédéral a déposé un projet de loi qui inclut une réglementation potentielle de l’IA. Le gouvernement fédéral a déposé le projet de loi C-27 en juin, une législation sur la protection de la vie privée qui incluait ce qui serait la première loi du Canada régissant le développement et le déploiement de systèmes d’IA à fort impact.

Les États-Unis et l’Union européenne ont également actuellement une législation sur la table qui pourrait avoir des implications pour la création et le déploiement de l’IA.

S’exprimant sur ses préoccupations concernant la progression rapide des systèmes d’IA et la nécessité de la réglementation, Yoshua Bengio a déclaré : « Nous ne pouvons pas laisser l’industrie se réglementer elle-même… Les gouvernements doivent fournir des lignes directrices et le mettre sous surveillance. »

Yoshua Bengio a également souligné lors de la conférence que le développement de l’IA devrait continuer pendant cette période de pause, mais que les systèmes ne devraient pas être formés pour être plus puissants que GPT-4.

La demande de pause de six mois dans le développement de l’IA est une réponse à l’évolution rapide de cette technologie. Bien que l’IA ait le potentiel de résoudre de nombreux problèmes de la société, elle comporte également des risques. Pour que l’IA puisse être utilisée de manière responsable et éthique, il est important de prendre le temps de comprendre ses implications et de mettre en place des réglementations appropriées. Et puis, cette pause donnera également aux chercheurs de l’IA le temps de développer des systèmes plus éthiques et de trouver des moyens de minimiser les risques associés à l’utilisation de cette technologie.