Béatrice Garnier Aujourd’hui. le travail que nous obtenons et même qui va en prison. Mais lorsqu’il s’agit de ces décisions potentiellement bouleversantes, les ordinateurs peuvent-ils faire un choix équitable ? Dans une étude publiée le 29 septembre dans la revue Designs, des chercheurs allemands ont montré qu’avec une supervision humaine, les gens pensent que la décision d’un ordinateur peut être aussi juste qu’une décision prise principalement par des humains.
comme la façon de réparer les algorithmes injustes et de rendre les systèmes équitables”, déclare Ruben Bach, spécialiste des sciences sociales et co-auteur de l’Université de Mannheim, en Allemagne. “Mais notre issue est, qu’est-ce que les gens pensent être juste? Il ne s’agit pas seulement de développer des algorithmes. Ils doivent être acceptés par la société et répondre aux croyances normatives du monde réel.”
La prise de décision automatisée, où une conclusion est tirée uniquement par un ordinateur, excelle dans l’analyse de grands ensembles de données pour détecter des modèles. dont les préjugés peuvent obscurcir les jugements. Pourtant. Comprendre l’équité dans les décisions informatiques et humaines est critical pour construire une société plus équitable.
Pour comprendre ce que les gens considèrent comme juste sur la prise de décision automatisée, les chercheurs ont interrogé 3 930 personnes en Allemagne. Les chercheurs leur ont donné des scénarios hypothétiques liés aux systèmes de banque, d’emploi, de prison et de chômage. Dans les scénarios, ils ont en outre comparé différentes situations, y compris si la décision conduit à un résultat positif ou négatif, d’où proviennent les données d’évaluation et qui prend la décision finale – humain, ordinateur ou les deux.
“Comme prévu, nous avons constaté que la prise de décision entièrement automatisée n’était pas favorisée”, déclare Christoph Kern, spécialiste des sciences sociales et co-premier auteur, de l’Université de Mannheim. “Mais ce qui était intéressant, c’est que lorsque vous avez une supervision humaine sur la prise de décision automatisée, le niveau d’équité perçue devient similaire à la prise de décision centrée sur l’homme.” Les résultats ont montré que les gens perçoivent une décision comme moreover juste lorsque les humains sont impliqués.
Les gens étaient également moreover préoccupés par l’équité lorsqu’il s’agissait de décisions liées au système de justice pénale ou aux perspectives d’emploi, où les enjeux sont furthermore importants. Considérant peut-être que le poids des pertes est supérieur au poids des gains, les contributors ont jugé les décisions qui peuvent conduire à des résultats positifs plus justes que les décisions négatives., ce qui confirme l’importance de la transparence et de la confidentialité des données. Ensemble, les résultats ont montré que le contexte compte. Les systèmes automatisés de prise de décision doivent être soigneusement conçus lorsque des problèmes d’équité se posent.
Bien que les cases hypothétiques de l’enquête puissent ne pas se traduire entièrement dans le monde réel. Ils souhaitent également utiliser des enquêtes similaires pour poser davantage de questions sur des idées telles que la justice distributive, l’équité de l’allocation des ressources au sein de la communauté.
“D’une certaine manière, nous espérons que les gens de l’industrie pourront considérer ces résultats comme matière à réflexion et comme des éléments à vérifier avant de développer et de déployer un système de prise de décision automatisé”, déclare Bach. “Nous devons également nous assurer que les gens comprennent remark les données sont traitées et comment les décisions sont prises en fonction de celles-ci.”
