Dans un contexte où l’intelligence artificielle (IA) prend de l’ampleur dans le monde des affaires, John Fitzpatrick, directeur technique de la startup Nitro, a mis en lumière les risques liés à une surestimation des capacités de cette technologie. Il souligne que de nombreuses entreprises renouvellent leur image avec des produits fictivement basés sur l’IA sans amélioration réelle.
John Fitzpatrick possède plus de 15 ans d’expérience dans le domaine de l’IA et a été l’un des ingénieurs originaux derrière Siri d’Apple. Travaillant aujourd’hui chez Nitro, il constate que « beaucoup de lavage de l’IA » s’est intensifié suite à la montée en popularité de ChatGPT. Selon lui, cela se traduit par une exagération ou une déformation des capacités réelles offertes par les solutions d’intelligence artificielle.
Signes révélateurs du lavage technologique
Le lavage de l’IA est quand les entreprises exagèrent ou dénaturent ce que leur IA peut réellement faire, explique Fitzpatrick. Cette tendance est similaire au phénomène observé autour du concept du cloud, avec chaque entreprise cherchant à revendiquer son usage supposé d’IA pour attirer financiers et investisseurs.
Fitzpatrick met également en avant une étude récente réalisée par Alphasense qui révèle un bond de 779% des mentions relatives à divers termes associés à cette technologie lors d’appels téléphoniques commerciaux durant l’année écoulée. Ce phénomène poussera presque toutes les startups à incorporer une dimension IA dans leurs projets afin d’obtenir des financements nécessaires.
Exemples de lavage technologique
Parmi les exemples cités par Fitzpatrick quant au « lavage » actuel, on trouve notamment des interfaces utilisateur peu performantes ajoutées aux technologies existantes comme ChatGPT, qui n’offrent souvent aucune valeur ajoutée réelle.
Risques associés au lavage technologique
Il alerte également sur la rapidité avec laquelle certaines fonctionnalités sont lancées sans tenir compte ni de la vie privée ni de la sécurité du client. Dans certains cas extrêmes, ces entreprises modifient leurs conditions générales pour pouvoir utiliser les données clients dans le cadre d’entraînements intelligents.
Dans ces industries réglementées, il faut être très attentif à l’hallucination, note-t-il. L’extraction précise d’informations financières essentielles reste cruciale lorsque ces données sont présentes dans des documents PDF ; un modèle ayant peu confiance doit impérativement indiquer ses limites. Dans certains secteurs, telles erreurs pourraient être financièrement désastreuses.
Cette position critique pose une question essentielle : comment garantir que le tout jeune écosystème IA respecte ses promesses tout en sécurisant les données sensibles ?
