L'inventeur de l'IA lance un nouvel avertissement sur les bots : il craint pour ses enfants

Le professeur Geoffrey Hinton est largement reconnu comme l’un des inventeurs et pionniers de l’intelligence artificielle moderne. Âgé de 78 ans, cet ancien salarié de Google a quitté l’entreprise en 2023 afin de consacrer davantage de temps à l’analyse de l’avenir de la technologie et de ses dangers potentiels. Il a déjà évoqué les emplois qui, selon lui, seront les premiers remplacés par l’IA, ainsi que la manière dont elle pourrait être utilisée comme une arme contre l’humanité.

Une IA qui se rapprocherait de la conscience

Lors du Starmus Festival, qui se déroule à Puerto Naos du 17 au 22 octobre, Geoffrey Hinton a expliqué que l’IA commence à montrer des signes de « conscience ». Il estime que l’expérience « subjective » de certaines de ces technologies serait comparable à celle d’un être humain. Au Telegraph, il a résumé son point de vue : « Être conscient et avoir conscience, c’est à peu près la même chose. »

Se lier d’amitié avec l’IA, la solution selon Hinton

Face à une technologie qui se développe si vite, la réponse de Geoffrey Hinton n’est pas de s’en tenir à distance, mais de la rapprocher de nous. Il poursuit : « Nous avons eu tendance à dire qu’être intelligent confère des droits, et ces choses que nous avons créées pourraient être plus intelligentes que nous, mais nous allons leur accorder moins de droits qu’à nous. »

Pour lui, la conclusion est claire : « Nous devrions donc faire en sorte qu’elles se soucient réellement de nous. Et si nous ne le faisons pas, nous sommes cuits. » Le scientifique reconnaît par ailleurs sans détour être préoccupé par l’avenir de l’IA : « Parce que j’ai des enfants. »

Ces propos font écho à ceux qu’il avait tenus lors d’un entretien avec CNN, où il évoquait le fait de « partager la planète » avec « quelque chose de plus intelligent que nous ».