Changement de politique erroné chez Cursor : un incident qui soulève des questions sur la fiabilité des IA
Le mois dernier, le bot d’intelligence artificielle (IA) de Cursor a suscité une vive controverse en annonçant à tort que les utilisateurs n’étaient plus autorisés à utiliser le logiciel sur plusieurs ordinateurs. Cette mauvaise communication a provoqué l’ire de nombreux clients et même des annulations de comptes. Cet épisode met en lumière la problématique grandissante des erreurs générées par les systèmes d’IA, une préoccupation persistante malgré l’expansion rapide de leur utilisation.
Une annonce erronée du bot IA
Cursor, un outil innovant apprécié des programmeurs informatiques, s’est retrouvé dans l’œil du cyclone suite à une déclaration incorrecte faite par son bot IA. Ce dernier a affirmé que l’utilisation du logiciel serait désormais limitée à un seul ordinateur, amenant certains clients mécontents à se plaindre sur divers forums et allant jusqu’à résilier leurs abonnements.
Michael Truell, co-fondateur et PDG de Cursor, a réagi rapidement pour rectifier cette erreur dans un post sur Reddit : « Nous n’avons pas une telle politique. Vous êtes bien sûr libre d’utiliser Cursor sur plusieurs machines. Malheureusement, il s’agit d’une réponse incorrecte d’un bot de support d’IA ».
Ce phénomène met en exergue un problème largement sous-estimé depuis l’avènement des systèmes comme ChatGPT : la fiabilité des informations fournies par ces intelligences artificielles est souvent mise en question.
L’augmentation des erreurs générées par l’IA
Selon Amr Awadallah, directeur général de Vectara, « Malgré nos meilleurs efforts, ils hallucineront toujours », soulignant ainsi qu’un taux important d’erreurs persistantes semble inévitable.
Un exemple frappant concerne OpenAI où ses nouveaux modèles montrent des taux alarmants d’« hallucinations » – où le système invente ou déforme délibérément certaines informations. Par exemple, OpenAI a noté que son modèle O3 hallucine jusqu’à 33% du temps lors de tests benchmarks tandis que le tout nouveau modèle O4-Mini atteint même 48%.
Hannaneh Hajishirzi, professeur à l’Université de Washington et chercheur dans ce domaine, souligne également ce défi : « Nous ne savons toujours pas comment ces modèles fonctionnent exactement ».
Risques inhérents aux systèmes automatisés
Ces malaises sont accentués lorsque ces outils sont utilisés dans des contextes sensibles tels que le domaine juridique ou médical. Pratik Verma affirme : « Vous passez beaucoup de temps à essayer de comprendre quelles réponses sont factuelles et lesquelles ne le sont pas », indiquant ainsi combien il peut devenir compliqué pour les professionnels dépendant presque uniquement d’une technologie supposée fiable.
Les compagnies comme OpenAI cherchent sans cesse à améliorer leurs systèmes afin réduire ces problèmes mais rencontrent encore des obstacles après avoir maximisé leurs bases initiales données provenant intégralement du web.
