Anthropic confronté à des problèmes juridiques liés à son assistant IA Claude
- Anthropic a dû faire face à des problèmes juridiques liés à son assistant IA Claude.
- Claude a généré une citation inexacte dans un procès pour droit d'auteur.
- L'avocate Ivana Dukanovic a qualifié cette erreur de «involontaire».
- Cet incident soulève des questions sur l'utilisation de l'IA dans le domaine judiciaire.
Dans le cadre d’un procès pour droit d’auteur, Anthropic a dû faire face à des erreurs dans une citation légale proposée par son assistant d’intelligence artificielle, Claude. Les implications de cet incident soulèvent des questions sur l’utilisation de l’IA dans le domaine judiciaire et la véracité des informations fournies.
Procès pour droit d’auteur
Music Publishers Universal Music Group, Concord et Abkco ont engagé des poursuites contre Anthropic pour avoir utilisé des paroles protégées par le droit d’auteur afin de former Claude. L’équipe juridique d’Anthropic a tenté de s’appuyer sur l’assistance de son IA pour rédiger une citation destinée à un rapport d’experts. Toutefois, Claude a généré « un titre inexact et des auteurs incorrects », comme indiqué dans un dossier judiciaire déposé par l’avocat Ivana Dukanovic de Latham & Watkins.
Erreur d’information
L’avocate Dukanovic a qualifié cette situation de « erreur embarrassante et involontaire ». Bien que Claude ait fourni les bonnes publications avec leurs liens associés, il n’a pas réussi à indiquer correctement le titre ni les auteurs. Dans son rapport, elle indique que le « chèque de citation manuel » effectué par son équipe n’a pas permis de capturer ces erreurs croissantes lors du processus au cours duquel « des erreurs de libellés supplémentaires » ont été introduites en utilisant Claude.ai.
Incidence sur Olivia Chen
« C’était une erreur de citation honnête et non une fabrication de l’autorité », a écrit Dukanovic en tentant d’expliquer la situation délicate dans laquelle se trouve la société. Ce problème survient alors qu’Olivia Chen, scientifique des données chez Anthropic, pourrait avoir cité faussement une source générée par l’IA pour appuyer les arguments avancés par la société. Il est également mentionné que Chen avait pourtant référencé un véritable article issu du périodique « The American Statistician », même si les détails fournis concernant ce document étaient erronés en raison du travail fourni par Claude.
Préoccupations plus vastes
Au-delà du cas spécifique d’Anthropic, cet incident met en lumière les préoccupations plus vastes liées à l’utilisation croissante d’outils basés sur l’IA au sein du système judiciaire. En mars dernier, un homme sans avocat avait déjà évoqué un avatar généré par IA lors d’un appel civil à New York. De même, plusieurs avocats ont récemment fait face à des conséquences après avoir recours aux outils AI comme ChatGPT ou Bard pour générer des citations qui se sont révélées fausses.
Consequences judiciaires
Daniel Shin du Center for Legal and Court Technology souligne que « les juges sont préoccupés » par ces développements et avertit que tout usage inapproprié sera sanctionné sévèrement. À travers diverses conférences sur la technologie juridique, il est devenu évident que malgré les soucis soulevés autour des hallucinations produites par ces intelligences artificielles, on encourage fortement aux avocats d’adopter ces technologies sous peine de rester non compétitifs sur le marché actuel où leur usage devient impératif.
Les répercussions judiciaires résultant de cet incident relancent donc le débat quant à la responsabilité légale liée aux actions automatisées effectuées grâce aux algorithmes issus de machines apprenantes comme celles qu’utilise Anthropic.
