Alphabet, la société mère de Google, s’est opposée à une proposition d’actionnaire visant à accroître la transparence de ses algorithmes.
Trillium Asset Administration a présenté cette proposition lors de l’assemblée annuelle des actionnaires d’Alphabet en 2023. Trillium a fait une demande similaire l’année dernière, avant que l’engouement pour ChatGPT ne déferle sur l’industrie technologique.
Dans sa proposition, l’investisseur a soulevé des inquiétudes quant à la façon dont les systèmes algorithmiques peuvent conduire à des résultats néfastes dans des domaines tels que la justice pénale et la médecine. Trillium a également cité un rapport de la Fee royale de Nouvelle-Zélande qui a révélé que le contenu de YouTube avait contribué à radicaliser l’homme derrière la fusillade de Christchurch en 2019. Il a fait valoir que la responsabilité et la transparence dans l’intelligence artificielle sont nécessaires si la technologie doit rester sûre pour la société.
Google, dans son opposition à la proposition, a déclaré qu’il fournissait déjà des informations significatives sur ses algorithmes, notamment via des web pages Web qui fournissent des aperçus de la manière dont les algorithmes de YouTube trient le contenu, par exemple. Il a ajouté que ses algorithmes propriétaires sont à la base de son activité et “pourraient être utilisés à mauvais escient entre de mauvaises mains”.
“Toute réflexion sur les règles family à la transparence algorithmique doit tenir compte du risque sérieux que les informations soient exploitées par de mauvais acteurs, que la vie privée des utilisateurs puisse être affectée et que des informations commercialement sensibles soient exposées”, a déclaré Google dans sa déclaration contraire.
Trillium a recherché moreover d’informations sur “remark Alphabet utilise des systèmes algorithmiques pour cibler et diffuser des publicités, les taux d’erreur et l’impact de ces systèmes sur le discours et les expériences des utilisateurs”. Il a également suggéré que l’entreprise prenne en compte les recommandations de la Fondation Mozilla et des chercheurs de l’Université de New York sur les normes kinfolk aux algorithmes et à la transparence des publicités.
Au cours d’une session de thoughts-réponses vers la fin de l’assemblée des actionnaires, le PDG de Google, Sundar Pichai, a été interrogé sur la manière dont l’entreprise entendait maximiser le potentiel de l’IA tout en atténuant les risques.
“Nous en sommes à sept ans de notre parcours en tant qu’entreprise axée sur l’IA”, a déclaré Pichai lors de la réunion. “Nous travaillons depuis longtemps à l’intégration de l’IA dans nos produits pour les rendre additionally utiles. Je pense que l’IA a le potentiel d’avoir un influence sur presque tous les secteurs, en aidant les radiologues à évaluer les images médicales. Nous l’abordons avec audace, et nous sommes le faire de manière responsable.”
Google a recommandé aux actionnaires de s’opposer aux 11 propositions présentées par les actionnaires. Parmi les autres propositions, il y en avait une qui demandait à Google de reconsidérer ses programs de development d’un centre de données en Arabie saoudite pour des raisons de confidentialité et de droits de l’homme. Un autre a suggéré que Google fasse davantage pour empêcher que les informations des utilisateurs ne soient partagées avec les forces de l’ordre lors de la recherche de expert services liés à l’avortement dans les États où l’accès a été restreint.
Trillium a été un actionnaire vocal de Google au fil des ans et détient environ 135 thousands and thousands de dollars d’actions de la société selon les récents paperwork déposés auprès de la SEC. Trillium n’a pas immédiatement répondu à une demande de commentaire.
L’appel à additionally de transparence intervient peu de temps après que le vice-président de Google, Geoffrey Hinton, a quitté l’entreprise et a lancé des avertissements publics sur les dangers des nouveaux chatbots basés sur l’IA, affirmant que le potentiel est “assez effrayant”. Et auparavant, Timnit Gebru, qui dirigeait l’équipe d’intelligence artificielle de Google en 2020 et menait des recherches concluant que les algorithmes de l’entreprise pouvaient perpétuer le sexisme et le racisme, a déclaré qu’elle avait été licenciée après s’être heurtée à l’entreprise au sujet d’un write-up qu’elle avait co-écrit.
Les préjugés algorithmiques ne sont pas une nouvelle préoccupation – un rapport de 2016 de ProPublica a révélé que les logiciels algorithmiques utilisés par les juges américains étaient injustement pondérés par rapport aux personnes de couleur et perpétuaient les inégalités raciales. Pourtant, le increase de l’IA générative a amélioré la capacité de l’IA à écrire des phrases et même à coder à une capacité presque comparable à celle des humains.