Cet essai raconté est basé sur une discussion avec Giada Pistilli, une femme de 31 ans basée à Paris, en France, à propos de son travail en tant qu’éthicienne principale au sein de la société d’intelligence artificielle Hugging Encounter. Ce qui fit a été modifié pour plus de longueur et de clarté.
Je suis un éthicien de l’IA à plein temps qui veille à ce que la technologie soit déployée en toute sécurité dans le monde.
Mais ne vous y trompez pas : je ne suis pas un oracle.
En bref, je travaille à l’intersection de l’éthique, de la politique et du droit pour faire avancer les cadres éthiques autour de l’IA au sein de Hugging Facial area et du public. La principale problem qui anime mon travail est : remark le general public peut-il utiliser l’IA pour le bien ?
J’ai travaillé comme conseillère politique pour le Parlement européen sur les thoughts de droits de l’homme. Après ma démission, j’ai poursuivi mon learn en philosophie politique et éthique à Sorbonne Université, puis mon doctorat en philosophie dans la même école, où je termine actuellement ma thèse sur l’éthique de l’IA conversationnelle.
Une fois mon master terminé, j’ai travaillé comme ingénieur de recherche dans une société de chatbot basée à Paris où j’ai travaillé avec des designers et des ingénieurs en apprentissage automatique sur la recherche en éthique appliquée. J’ai ensuite rejoint BigScience – un projet qui fait partie de Hugging Face, une plate-forme open up source de ressources d’IA et d’apprentissage automatique – pour rendre le modèle de langage GPT ouvert au public.
J’ai d’abord approché Hugging Confront pour comprendre remark je pouvais aider à construire Bloom, son grand modèle de langage. J’ai collaboré avec le cabinet dans le cadre de son groupe de travail sur les bourses d’études juridiques et éthiques, puis j’ai été embauché comme éthicien principal à temps plein trois mois additionally tard, en mai 2022. J’y travaille depuis.
60% de mon temps est consacré à la recherche, ce qui comprend la lecture d’articles universitaires sur l’éthique et les études methods sur l’IA, ainsi que la rédaction de mes propres articles sur des sujets tels que les chartes éthiques – les directives éthiques d’une entreprise que ses employés sont censés respecter. Le reste est dépensé en collaborations.
Je fais partie d’une équipe appelée “ML and Culture” où je rencontre des chercheurs scientifiques, un conseiller juridique et un directeur des politiques une fois par semaine pour rechercher et discuter des tensions dans l’IA, telles que les biais dans les modèles, les apps sûres de l’IA et politique publique.
En dehors du groupe, j’aide à des projets internes comme la rédaction de directives éthiques pour la bibliothèque de diffuseurs de Hugging Encounter.
Je fournis également des conseils et des orientations en matière d’éthique pour des projets externes, comme l’intégration de Secure Diffusion sur notre plateforme et la recherche de moyens de déployer en toute sécurité l’IA dans le domaine de la santé avec des collaborateurs externes.
Dès le matin, je passe 30 à 45 minutes à vérifier les derniers rapports de modération de contenu de Hugging Experience. Après cela, je fais des recherches ou je travaille sur de nouveaux articles jusqu’à l’heure du déjeuner.
Vers midi, j’assiste mes collègues sur des projets spécifiques, comme la mise à jour de la politique de modération du contenu de Hugging Face. Récemment, j’ai conseillé un shopper du secteur de la santé sur la manière de déployer l’IA de manière éthique en posant des queries directrices, comme si le customer avait la bonne licence ou s’il rendrait ses modèles publics.
Certains jours, je suis chargé de traiter rapidement des scenarios urgentes sur la plateforme, comme des conversations animées entre utilisateurs ou des cas d’IA causant des dommages. Le reste de ma journée est consacré à mes recherches.
Le principal défi auquel je suis confronté est lorsque les gens, parfois, me perçoivent comme étant la police morale qui a le pouvoir de déterminer ce qui est bien ou mal. Cette notion peut être dangereuse car je n’ai pas toutes les réponses. In addition j’étudie l’éthique, moins je suis sûr de ce que je sais.
Par exemple, un journaliste a contacté Hugging Face après avoir affirmé qu’un de ses content articles avait été plagié par le modèle linguistique de l’entreprise. Bien sûr, j’étais heureux d’aider, mais c’est une scenario délicate à résoudre.
Il n’est pas non in addition juste d’être mis sur la sellette quand quelque chose de mal get there. Regardez remark les grandes entreprises technologiques ont traité leurs éthiciens – ça a été un carnage.
Les philosophes – et en général, toutes les sciences humaines – sont très nécessaires à mesure que l’IA progresse. Les éthiciens donnent un sens aux inquiries compliquées autour de notre humanité. Ils aident également à projeter – et non à prédire – un avenir idéal pour la société, de sorte qu’il est furthermore proche d’une utopie que d’une dystopie.
J’espère que la communauté technologique prend as well as au sérieux le rôle des éthiciens de l’IA.