Guillaume Rolland
Une nouvelle étude suggère qu’un effet placebo est en jeu lorsque les gens s’attendent à ce que leurs performances soient améliorées par des technologies d’augmentation, telles que l’intelligence artificielle (IA). Les chercheurs ont découvert que les personnes ayant de grandes attentes à l’égard de ces systems s’engagent dans des prises de décision moreover risquées, ce qui pourrait être un problème vehicle les gens adoptent ces systems sans bien comprendre leurs avantages et leurs limites.
Les systems d’augmentation boostant nos performances physiques, cognitives ou sensorielles sont devenues monnaie courante. Certains sont si largement utilisés qu’ils sont devenus invisibles – la vérification orthographique, par exemple – et de nouvelles systems émergent qui pourraient pousser nos capacités au-delà des limites humaines, comme les exosquelettes et l’amélioration de la eyesight basée sur l’IA. Mais le battage médiatique autour de ces systems crée également des attentes, qui pourraient amener les gens à changer de comportement.
“Les individus sont as well as enclins à prendre des risques lorsqu’ils pensent qu’ils sont améliorés par des technologies de pointe telles que l’IA ou les interfaces cerveau-ordinateur”, explique Robin Welsch, professeur adjoint à l’université Aalto. «Cela se produit même si aucune technologie d’amélioration réelle n’est impliquée, ce qui indique qu’il s’agit des attentes des gens plutôt que d’une amélioration noteworthy. Les résultats impliquent également qu’une forte croyance en l’amélioration, basée sur un faux système, peut modifier la prise de décision.
Ne faites pas confiance au processeur
En collaboration avec des collègues de LMU Munich, HU Berlin et de l’Université Aalto, Welsch a mesuré la prise de décision et le comportement à risque avec une expérience psychologique bien connue, la Columbia Card Undertaking. Dans l’expérience, les contributors gagnent ou perdent des details en retournant des cartes avec des valeurs cachées. Les 27 contributors ont été amenés à croire qu’une interface cerveau-ordinateur contrôlée par l’IA, le placebo, améliorerait leurs capacités cognitives en utilisant des sons binauraux pour suivre les cartes de perte.
Mais le jeu était truqué – l’augmentation n’apportait aucun avantage réel et les individuals ne rencontraient presque jamais de carte de perte. Pourtant, la plupart des members pensaient que l’augmentation les avait aidés à faire mieux, ce qui les avait fait prendre plus de risques. Ces résultats montrent remark de fausses améliorations cognitives peuvent avoir des effets réels sur la prise de risque.
“Le battage médiatique autour de ces technologies fausse les attentes des gens”, déclare Steeven Villa, doctorant au LMU Munich. “Cela peut amener les gens à prendre des décisions in addition risquées et des évaluations favorables des utilisateurs, ce qui peut avoir des conséquences réelles.”
La technologie n’est jamais neutre
Des outils modernes d’amélioration de la vision basés sur l’IA deviennent disponibles pour que les pompiers puissent voir à travers la fumée, et les ouvriers d’usine profitent déjà des exosquelettes pour manipuler des prices qui défient le physique humain. Les effets rampants des systèmes d’IA générative pourraient offrir des avantages similaires aux travailleurs du savoir. Les auteurs craignent que des professions entières ne développent un as well as grand appétit pour les risques, fondé sur des attentes erronées.
“Les technologies basées sur l’IA qui améliorent les utilisateurs sont de as well as en as well as courantes et jouent un rôle dans les décisions de la vie réelle qui ont un affect sur la vie, le bien-être, la confiance et la sécurité des personnes.” dit Thomas Kosch, professeur à HU Berlin. “Pour garantir l’efficacité des nouvelles technologies au-delà du battage médiatique, des études contrôlées par placebo sont nécessaires pour une évaluation et une validation précises afin de distinguer l’huile de serpent de la véritable innovation.”
