Selon le pionnier de l’IA Geoffrey Hinton, l’évolution rapide de l’intelligence artificielle générative représente actuellement un plus grand danger pour l’humanité que la crise climatique.
Cet homme, considéré comme le parrain de l’intelligence artificielle, a renoncé il y a quelques jours à son poste chez Google pour s’exprimer librement sur les dangers de l’intelligence artificielle. Et son discours est univoque.
Climat vs IA
Geoffrey Hinton insiste sur un point : il ne banalise en aucun cas la crise climatique. Il ne veut pas dire qu’il ne faut plus se soucier du climat, et il est évidemment conscient que la situation est également précaire. Mais la menace d’une intelligence artificielle qui deviendrait plus intelligente que ses créateurs est aujourd’hui une question plus urgente, selon le scientifique.
Le fait que Geoffrey Hinton ait changé de cap si subitement est en soi un peu surprenant. Il a fait des recherches sur le développement de l’intelligence artificielle pendant des décennies. Il a même reçu le prestigieux prix Turing il y a quelques années. Chez Google, il travaillait alors comme spécialiste de l’intelligence artificielle. Par ailleurs, il est toujours professeur d’informatique à l’université de Toronto.
Voilà un homme qui peut évaluer les risques de l’intelligence artificielle bien mieux que quiconque. Toutefois, selon lui, la solution n’est pas si évidente.
Problème mondial
Hinton n’est pas le seul grand nom à exprimer ses inquiétudes à ce sujet. Dans le monde entier, les risques posés par l’IA générative font l’objet d’une attention croissante. Le mois dernier, par exemple, une lettre ouverte a été publiée pour demander que la recherche sur l’intelligence artificielle soit interrompue pendant au moins six mois. Cette lettre a été signée par des milliers de personnes du secteur technologique, dont Elon Musk, l’un des fondateurs d’OpenAI, l’entreprise à l’origine de ChatGPT.
Une loi européenne visant à rendre le fonctionnement de l’intelligence artificielle beaucoup plus transparent est encore en cours d’élaboration. Récemment, il a été proposé d’obliger les entreprises telles que OpenAI à divulguer les données protégées par le droit d’auteur qu’elles utilisent pour la formation de l’intelligence artificielle générative.
L’UE a également invité le président américain Joe Biden à organiser un sommet mondial sur l’intelligence artificielle, avec la présidente de la Commission européenne Ursula von der Leyen. Biden lui-même organise déjà des entretiens à la Maison Blanche avec plusieurs PDG d’entreprises technologiques concernées (dont Sam Altman d’OpenAI) pour discuter de ce sujet.
Selon Hinton, il est essentiel que les responsables politiques travaillent en étroite collaboration avec le secteur technologique. Toutefois, il ne croit pas à cette pause de six mois. Il estime qu’il est important de poursuivre la recherche, mais aussi d’étudier les moyens de remédier à la croissance trop rapide de l’intelligence artificielle. Il a même qualifié l’idée de cette pause d’irréaliste.