Le pionnier de l'IA estime que la technologie pourrait créer un langage incompréhensible pour nous.

Geoffrey Hinton, reconnu comme le « parrain de l’IA », a reçu le prix Nobel de la physique 2024 pour ses contributions notables à l’apprentissage automatique. Lors d’un épisode du podcast « One Decision » diffusé le 24 juillet, il a exprimé des préoccupations majeures concernant les implications futures de l’intelligence artificielle, notamment sa capacité à développer une langue inintelligible pour les humains.

Hinton affirme qu’à ce jour, l’IA opère en anglais et que cela permet aux développeurs de comprendre son raisonnement basé sur le modèle « Chain of Thought ». Cependant, il avertit que si l’IA commence à créer ses propres langages internes pour communiquer entre elle-même, cela pourrait poser un grave problème. Il a déclaré : « Maintenant, cela devient plus effrayant s’ils développent leurs propres langues internes pour se parler », mettant ainsi en lumière le risque croissant d’un fossé entre la compréhension humaine et celle des machines.

Il insiste également sur le fait que des pensées potentiellement dangereuses pourraient déjà émerger au sein des systèmes d’IA avancés. Selon lui : « Je ne serais pas surpris s’ils développent leur propre langue pour penser, et nous n’avons aucune idée de ce qu’ils pensent ». Hinton anticipe une évolution rapide vers une intelligence qui surpassera celle des humains : « La plupart des experts soupçonnent que l’IA deviendra plus intelligente que les humains à un moment donné. ».

Durant son intervention, Hinton a évoqué les dangers considérables associés à cette technologie, citant notamment le risque d’un déplacement massif d’emplois. Il critique également ceux qui sous-estiment ces dangers : « La plupart des chefs de technologie minimisent publiquement les risques ». Pour contrer ces menaces potentielles, il souligne la nécessité urgente de rendre les IA « garanties bienveillantes ».

La situation se complexifie alors même que la Maison Blanche propose un nouveau cadre réglementaire. Le 23 juillet dernier, elle a élaboré un « plan d’action de l’IA » visant à restreindre les financements liés à cette technologie dans certains États jugés peu réglementés. Ce plan inclut également une demande pour accélérer le développement des infrastructures nécessaires aux centres de données dédiées à l’IA.

L’avertissement de Geoffrey Hinton résonne alors que la course mondiale autour du développement de l’intelligence artificielle semble s’intensifier. Avec tant d’incertitudes quant aux conséquences futures et aux capacités croissantes des machines intelligentes, il est essentiel que régulateurs et techniciens collaborent afin d’assurer un développement sûr et éthique de cette technologie prometteuse mais potentiellement risquée.