Google devra-t-il revenir sur ses réponses IA ?

Étape 1 : Google déploie un nouveau produit basé sur l'IA.

Étape 2 : Les utilisateurs découvrent rapidement les défauts du produit et les signalent via des publications sur les réseaux sociaux, qui deviennent des reportages.

Étape 3 : Google admet que son nouveau produit basé sur l'IA est fondamentalement défectueux et le achieved sur la glace.

Nous en sommes désormais à deux étapes du même processus : Google déploie largement sa fonctionnalité de présentation de l'IA, qui remplace sa réponse habituelle aux requêtes de recherche – une liste de liens vers des web-sites où vous pourriez trouver la réponse que vous souhaitez – par une réponse générée par l'IA. réponse qui tente de résumer le contenu de ces sites. Et les gens trouvent des exemples de Google générant des réponses fausses et parfois comiquement mauvaises.

C'est pourquoi ma collègue Katie Notopoulos a construit puis mangé une pizza à base de colle. (Que Dieu vous bénisse, Katie ! C'est une chose vraiment héroïque, et j'espère que vous dépenserez judicieusement votre primary de risque. (Nous recevons une key de risque, n'est-ce pas ?))

Voici donc la problem à deux mille milliards de dollars : Google va-t-il également devoir faire marche arrière sur celui-ci ?

Non, répond Google, qui affirme que les réponses stupides qu’il génère sont rares. Et que la plupart des gens ne connaissent pas ou ne se soucient pas des réponses de recherche qui indiquent aux gens combien de pierres manger. Ou que vous devriez regarder le soleil pendant cinq à 15 minutes – à moins que vous n’ayez la peau moreover foncée, auquel cas vous pouvez y aller deux fois as well as longtemps.

Google affirme également qu'il élimine les mauvaises réponses au fur et à mesure qu'elles apparaissent. En particulier ceux où quelqu'un assez smart pour utiliser un téléphone mais assez stupide pour suivre ces réponses pourrait se faire du mal.

Voici la version formelle de cette réponse, via Lara Levin, responsable de la conversation de Google :

« La grande majorité des aperçus de l'IA fournissent des informations de haute qualité, avec des liens permettant d'approfondir les recherches sur le World wide web. La plupart des exemples que nous avons vus étaient des requêtes peu courantes, et nous avons également vu des exemples qui ont été falsifiés ou que nous n'avons pas pu résoudre. reproduire. Nous avons effectué des exams approfondis avant de lancer cette nouvelle expérience et, comme pour les autres fonctionnalités que nous avons lancées dans la recherche, nous apprécions vos commentaires. Nous prenons des mesures rapides lorsque cela est approprié dans le cadre de nos règles family members au contenu et utilisons ces exemples pour développer des améliorations as well as larges. à nos systèmes, dont certains ont déjà commencé à être déployés. »

D'ACCORD.

commençaient à entendre parler des réponses mauvaises et potentiellement dangereuses de Google ?

Parce que ce serait vraiment un très gros problème. Google fait beaucoup de choses différentes, mais la raison pour laquelle sa valeur dépasse les 2 000 milliards de dollars reste ses deux produits principaux : la recherche et les publicités qu'elle génère à côté des résultats de recherche. Et si les gens – les gens normaux – perdent confiance dans Google en tant que moteur de recherche/réponse…

Eh bien, ce serait un vrai problème.

En privé, les Googleurs insistent sur l’idée que ces mauvaises réponses sont en réalité des problèmes marginaux. Et cela, contrairement au problème du « réveil de Google » d'il y a quelques mois – où il y avait réellement un problème avec le modèle utilisé par Google pour créer des illustrations or photos – ce n'est pas le cas ici. Google n'obtient jamais les choses à 100 % (dit-il encore as well as doucement) motor vehicle, en fin de compte, il s'appuie toujours uniquement sur ce que les gens publient sur Web. C'est juste que certaines personnes y prêtent beaucoup furthermore awareness en ce instant parce qu'il y a une nouvelle selected à laquelle il faut prêter attention.

Je suis prêt à croire cette réponse : je vois les réponses de l'IA de Google dans mes résultats de recherche depuis environ un mois, et elles sont généralement correctes.

Mais pas à chaque fois.

Et ce qui est très différent entre les anciens résultats de Google et les nouveaux, c'est la responsabilité et l'autorité qu'think Google. Dans le passé, Google vous disait que quelqu'un d'autre pouvait répondre à votre dilemma. Maintenant, Google répond à votre problem.

C'est la différence entre le fait que je vous donne une carte et le fait que je vous donne des indications qui enverront votre voiture au-dessus d'une falaise.

On pourrait dire, comme le fait mon fils de 15 ans (nous sommes des gens bizarres donc nous parlons de ce style de choses à la maison), que Google ne devrait pas remplacer ses excellents résultats de recherche d'antan par des réponses générées par l'IA. Si les gens voulaient des réponses générées par l’IA, ils iraient sur ChatGPT, n’est-ce pas ?

Mais bien sûr, ce qui inquiète Google, c’est que les gens se tournent vers ChatGPT. C'est pourquoi il effectue ce pivot majeur : se perturber avant ChatGPT ou d'autres moteurs d'IA.

Vous pouvez affirmer que cela avance trop vite, ou trop négligemment, ou autre. Mais il est difficile d’imaginer que Google revienne sur ce place maintenant.