Les inquiétudes concernant les programmes d’intelligence artificielle prenant en demand les emplois ou les robots devenant voyous ne sont pas nouvelles. Mais les débuts de ChatGPT et du chatbot Bing de Microsoft ont remis certaines de ces craintes au leading prepare de l’esprit du grand general public – et pour cause.
Les professeurs surprennent des étudiants en practice de tricher avec ChatGPT, des emplois initialement supposés nécessiter le jugement d’un humain pourraient bientôt être sur le issue d’être coupés et, comme tant d’autres modèles d’IA, des outils comme ChatGPT sont toujours en proie à des préjugés.
Il y a aussi la menace toujours croissante de la désinformation, qui peut être d’autant furthermore puissante avec les chatbots IA.
Chelsea Finn, professeure adjointe en informatique à l’Université de Stanford et membre de l’équipe de robotique de Google Mind, voit des cas d’utilisation valables pour des outils comme ChatGPT.
« Il y a des utilisations raisonnables pour eux. »
La préoccupation de Finn est lorsque les gens commencent à croire tout ce qui est produit par ces modèles et lorsque de mauvais acteurs utilisent les outils pour influencer délibérément la notion du community.
« Une grande partie du contenu généré par ces outils est inexacte », a déclaré Finn. « L’autre selected est que ces sorts de modèles pourraient être utilisés par des personnes qui n’ont pas les meilleures intentions et essaient de tromper les gens. »
Les chercheurs ont déjà développé des outils pour repérer le contenu généré par l’IA et affirment avoir des taux de précision allant jusqu’à 96 %.
Les outils ne feront que s’améliorer, a déclaré Finn, mais il incombera au community d’être constamment attentif à ce qu’il voit sur World-wide-web.
Voici ce que vous pouvez faire pour détecter le contenu généré par l’IA.
Des outils de détection IA existent
Il existe plusieurs outils accessibles au public qui peuvent détecter le texte généré par de grands modèles de langage (LLM) – le nom furthermore formel des chatbots comme ChatGPT.
Eric Anthony Mitchell, étudiant diplômé en informatique à Stanford, et ses collègues ont développé un détecteur ChatGPT appelé à juste titre DetectGPT. Finn a agi en tant que conseiller pour le projet. Une démo et un posting sur l’outil ont été publiés en janvier
Tous ces outils en sont à leurs débuts, ont des approches de détection différentes et ont leurs limites uniques, a déclaré Finn.
Il existe essentiellement deux courses d’outils, a-t-elle expliqué. L’un repose sur la collecte de grandes quantités de données – écrites par des personnes et des modèles d’apprentissage automatique – puis sur la formation de l’outil pour faire la distinction entre le texte et l’outil d’IA.
Le défi derrière cette approche est qu’elle repose sur une grande quantité de « données représentatives », a déclaré Finn. Cela devient un problème si, par exemple, l’outil ne reçoit que des données écrites en anglais ou des données principalement écrites dans une langue familière.
Si vous deviez alimenter cet outil avec du texte en espagnol ou un texte technique comme quelque selected d’un journal médical, l’outil aurait alors du mal à détecter le contenu généré par l’IA.
OpenAI ajoute la mise en garde que son classificateur n’est « pas entièrement fiable » sur les textes courts de moins de 1 000 caractères et les textes écrits dans d’autres langues que l’anglais.
La deuxième classe d’outils repose sur la propre prédiction du grand modèle de langage d’un texte généré par l’IA ou humain. C’est presque comme demander à ChatGPT si un texte est généré par l’IA ou non. C’est essentiellement ainsi que fonctionne le DetectGPT de Mitchell.
« L’un des gros avantages de cette approche est que vous n’avez pas à collecter l’ensemble de données représentatif, vous regardez simplement les propres prédictions du modèle », a déclaré Finn.
La limitation est que vous devez avoir accès à un modèle représentatif, qui n’est pas toujours accessible au general public, a expliqué Finn. En d’autres termes, les chercheurs ont besoin d’accéder à un modèle comme ChatGPT pour pouvoir exécuter des tests où ils « demandent » au programme de détecter du texte humain ou généré par l’IA. ChatGPT n’est pas obtainable au public pour que les chercheurs testent le modèle pour le second.
Mitchell et ses collègues rapportent que leur outil a réussi à identifier le texte généré par un modèle de langage volumineux dans 95 % des cas.
Finn a déclaré que chaque outil a ses avantages et ses inconvénients, mais la principale problem à se poser est de savoir quel type de texte est évalué. DetectGPT avait une précision similaire à la première classe d’outils de détection, mais en ce qui concerne les textes tactics, DetectGPT était furthermore performant.
Détecter les deepfakes ? Les yeux humains – et les veines – fournissent des indices
Il existe également des outils pour détecter les Deepfakes, un portemanteau de « apprentissage en profondeur » et de « faux » qui fait référence à des illustrations or photos, des vidéos ou de l’audio créés numériquement.
La criminalistique des images est un domaine qui existe depuis longtemps, a déclaré Finn. Depuis le 19ème siècle, les gens ont pu manipuler des pictures en utilisant des composites de plusieurs photographs – puis est venu Photoshop.
Des chercheurs de l’Université de Buffalo ont déclaré avoir développé un outil pour détecter les photos deepfake avec une efficacité de 94 %. L’outil analyze de près les reflets dans les yeux des personnes dans la vidéo. Si la réflexion est différente, c’est un signe que la image a été rendue numériquement.
Microsoft a annoncé son propre détecteur de deepfake appelé Microsoft Movie Authenticator avant les élections de 2020 dans le but de détecter la désinformation. La société a testé l’outil avec Task Origin, une initiative qui travaille avec une équipe d’organisations médiatiques, dont la BBC et le New York Occasions, pour fournir aux journalistes les outils nécessaires pour suivre la source d’origine des vidéos. Selon la société de technologie, le détecteur study de près les petites imperfections au bord d’une fausse graphic indétectable par l’œil humain.
L’année dernière, Intel a annoncé son détecteur de deepfake « en temps réel », FakeCatcher, et a déclaré qu’il avait un taux de précision de 96%. L’outil est able de regarder le « flux sanguin » d’un vrai humain dans une vidéo et utilise ces indices pour déterminer l’authenticité d’une vidéo, selon la société.
« Lorsque notre cœur pompe le sang, nos veines changent de couleur. Ces signaux de flux sanguin sont collectés sur tout le visage et des algorithmes traduisent ces signaux en cartes spatio-temporelles », a écrit la société dans une annonce de son outil. « Ensuite, grâce à l’apprentissage en profondeur, nous pouvons détecter instantanément si une vidéo est réelle ou fausse. »
Les outils de détection sont une science en pleine évolution. À mesure que des modèles comme ChatGPT ou des applications deepfake s’améliorent, les outils pour les détecter doivent également s’améliorer.
« Contrairement à d’autres problèmes, celui-ci alter constamment », a déclaré Ragavan Thurairatnam, fondateur de la société technologique Dessa, au New York Times dans un short article sur la lutte des entreprises Internet contre les deepfakes.
Autres façons de repérer le contenu généré par l’IA
L’efficacité des outils de détection repose encore sur le meilleur jugement d’un individu.
Comme l’a dit Finn, ChatGPT peut être utile lorsque l’utilisateur connaît déjà la bonne réponse. Pour les consommateurs moyens de médias, le vieil adage de vérifier sa source reste saillant.
a déclaré Finn, qu’il s’agisse d’informations provenant d’un grand modèle linguistique, d’une personne ou d’Internet.
Les médias sociaux font de la consommation des médias une expérience transparente, il est donc significant que les utilisateurs s’arrêtent un instant et vérifient le compte ou le point de vente à partir duquel ils voient une nouvelle, surtout s’il s’agit de quelque chose de sensationnel ou de particulièrement choquant, selon St. Louis’s Guideline de l’Université de Washington pour repérer les fausses nouvelles.
Les téléspectateurs doivent se demander s’ils voient une vidéo ou un texte provenant d’une website page de mèmes, d’un internet site de divertissement, du compte d’un particulier ou d’un média. Après avoir vu une details en ligne et confirmé la source, il est utile de comparer ce qui existe d’autre sur ce sujet à partir d’autres sources fiables, selon le guide de l’université.
En ce qui concerne les vidéos ou les pictures générées par l’IA, il existe également des indices visuels que l’œil nu peut détecter. Il a été signalé que l’IA avait des problèmes pour dessiner les mains ou les dents.
« Habituellement, il y a quelques petits artefacts, peut-être dans les yeux des gens, ou, si c’est dans une vidéo, la façon dont leur bouche bouge semble un peu irréaliste », a déclaré Finn.
L’application de retouche image LensaAI, qui est également devenue populaire récemment avec sa fonction Magic Avatar, avait l’habitude de laisser des « signatures fantômes » dans le coin de ses portraits générés par l’IA. En effet, l’outil a été formé sur des photographs préexistantes, dans lesquelles les artistes ont souvent laissé leur signature quelque portion sur leurs peintures, a rapporté ARTnews.
« Pour le second, il est encore achievable d’en repérer certains si vous cherchez la bonne chose », a déclaré Finn. « Cela dit, à extended terme, je soupçonne que ces kinds de modèles d’apprentissage automatique s’amélioreront probablement, et ce ne sera peut-être pas un moyen fiable de détecter des pictures et des vidéos à l’avenir. »
