L’inquiétude croissante de Geoffrey Hinton sur les risques de l’IA
Geoffrey Hinton, ancien employé de Google et surnommé le « parrain de l’IA », met en garde contre les dangers potentiels liés à l’intelligence artificielle (IA). Dans un épisode récent du podcast « One Decision », il affirme que la plupart des leaders technologiques minimisent publiquement ces risques, tout en soulignant le rôle prépondérant de certaines figures, comme Demis Hassabis, qui reconnaissent la nécessité d’une prise en charge sérieuse.
Hinton a récemment déclaré que « la plupart » des personnels dans les entreprises technologiques comprennent les risques associés à l’IA, mais choisissent de ne pas agir. Il a spécifiquement critiqué la tendance parmi ces dirigeants à « minimiser publiquement le risque ». Toutefois, il a mis en lumière Demis Hassabis, le CEO de Google DeepMind : « Demis Hassabis, par exemple, comprend vraiment les risques et veut vraiment faire quelque chose. »
Hassabis est connu pour son engagement envers une régulation stricte de l’IA. En février 2023, il avait averti que les systèmes agentiques pourraient devenir « incontrôlables » et plaide depuis longtemps pour la formation d’un organe directeur international chargé de réguler cette technologie émergente. Cette préoccupation trouve écho dans une récente manifestation devant le bureau londonien de DeepMind où des militants ont exigé plus de transparence concernant les pratiques liées à l’IA.
Lorsque questionné sur ses relations avec d’autres figures influentes du secteur comme Elon Musk et Mark Zuckerberg, Hinton n’a pas caché son scepticisme. Il a décrit ces leaders comme étant des « oligarques », ajoutant avec ironie : « Je pense que lorsque je les ai appelés oligarques, vous connaissez la réponse à cela. » Les porte-paroles des deux personnalités n’ont pas commenté.
Après avoir passé plus d’une décennie chez Google avant sa démission pour discuter ouvertement des menaces posées par l’IA, Hinton continue d’appeler à éveiller davantage l’opinion publique sur ces enjeux cruciaux. Son message se situe au cœur d’un débat essentiel qui concerne non seulement le développement technologique mais également notre avenir face aux systèmes autonomes.
La prise en compte sérieuse des paroles ainsi que des préoccupations formulées par Hinton pourrait être un tournant décisif dans notre approche collective envers une technologie qui évolue rapidement et dont les implications restent largement incertaines.
