Google ruine son moteur de recherche avec AI

AVIS : Google I/O est historiquement un événement utilisé pour présenter les dernières mises à jour à venir sur Android. Cependant, cette semaine, Google a choisi de se concentrer sur l’IA, et plus particulièrement sur la façon dont elle changera notre façon de naviguer sur le Web.

Le moteur de recherche de Google est sans doute l’atout le plus important que possède l’entreprise, servant de rampe de lancement pour faire de Google le géant technologique qu’il est aujourd’hui. Selon supplémentaireGoogle domine 82 % de la part de marché des moteurs de recherche de bureau, en janvier 2024. En deuxième position se trouve Bing, avec seulement 11 % de la part.

Et pourtant, malgré sa domination, Google a annoncé une refonte radicale de son moteur de recherche populaire, en intégrant une nouvelle fonctionnalité appelée AI Overview.

Cette nouvelle fonctionnalité exploite une technologie avancée d’intelligence artificielle pour générer des réponses uniques à de nombreuses requêtes de recherche. Comme les réponses sont générées par Google, elles seront intégrées dans les résultats du moteur de recherche, ce qui signifie que vous n'aurez pas besoin de cliquer sur un lien pour trouver l'information que vous recherchez.

Je peux certainement comprendre l'attrait de cela pour l'utilisateur moyen, car vous pouvez obtenir toutes les informations dont vous avez besoin plus rapidement, tout en les résumant soigneusement afin que vous n'ayez pas à faire défiler les lignes de texte. Google vous offre même la possibilité de simplifier encore davantage le résumé, voire de le décomposer plus en détail.

Tout cela semble bien sur le papier, mais j'ai beaucoup d'inquiétudes quant à la provenance de Google qui obtient toutes ces informations. Google donne au moins du crédit aux sites Web et aux articles à partir desquels il collecte les informations, mais étant donné la nature de l'IA, il n'est pas toujours parfait pour résumer correctement ces informations.

Google est également connu pour extraire des informations de sources peu fiables, puis présenter des informations incorrectes sous le nom de « Featured Snippet » dans les résultats de recherche. Vous pouvez regarder la vidéo de Vox ci-dessous, qui présente certaines de ces erreurs importantes, y compris un article suggérant que les dinosaures n'ont jamais existé et qu'ils étaient simplement une construction pour endoctriner les enfants.

Cette vidéo date certes de sept ans maintenant, et Google affirmera qu'elle a considérablement amélioré ses résultats de recherche au cours de cette période, mais quelques erreurs majeures dans la nouvelle présentation de l'IA de Google sont déjà devenues virales.

Bien que je ne puisse pas vérifier ce résultat de recherche, un post sur X (anciennement Twitter) affirme que l'AI Overview de Google suggérait que toute personne souffrant de calculs rénaux devrait boire de l'urine toutes les 24 heures pour les aider à passer.

Avoir un avis médical non examiné par un professionnel ou un expert est incroyablement dangereux, et Google court le risque de le faire en déployant sa nouvelle fonctionnalité AI Overview. En fait, même au-delà de l'avis médical, Google n'est pas en mesure de garantir que toutes les informations qu'il récolte proviennent d'un expert.

Google a récemment signé un accord avec Reddit, permettant à l'entreprise technologique d'utiliser les publications d'innombrables forums pour entraîner son IA. Lors de Google I/O, une vidéo de démonstration a également montré que Quora apparaissait comme l'une des sources d'informations utilisées pour la réponse générée par AI Overview.

Les forums sont un endroit précieux pour obtenir des informations auprès d'autres personnes sur le Web, mais comme n'importe qui peut publier sans aucune connaissance professionnelle ni processus de vérification des faits, il n'y a aucun moyen de garantir que ce que vous lisez est correct. C'est tout à fait bien si vous en êtes conscient lorsque vous parcourez les réponses dans Reddit et Quora, mais cela devient beaucoup plus dangereux lorsque les informations sont présentées comme étant factuelles provenant d'une source fiable telle que Google.

Bien entendu, cela ne veut pas dire que vous ne trouverez toujours pas d'informations incorrectes lorsque vous utilisez le moteur de recherche de Google et cliquez sur un lien pour visiter un site Web. La différence ici, cependant, est que le lecteur peut prendre sa propre décision quant à la fiabilité des informations.

Par exemple, vous êtes beaucoup plus susceptible de penser que les informations sont exactes lorsque vous les lisez sur la BBC plutôt que sur un blog amateur. Mais avec Google, de nombreuses personnes peuvent supposer à tort que Google est tout aussi fiable que n'importe quelle publication importante pour fournir des informations factuelles, ce qui n'est malheureusement pas le cas.

Alors que le Web regorge déjà de fausses informations, je crains de plus en plus que la poussée de Google dans l'IA ne résoudra pas réellement ce problème, mais l'intensifiera au contraire. Une réponse générée par l’IA sera toujours plus sujette aux erreurs qu’une réponse écrite et vérifiée par un journaliste expérimenté, et Google doit le comprendre rapidement avant de nuire à la qualité et à la crédibilité de son moteur de recherche.

Ctrl+Alt+Suppr est notre chronique hebdomadaire d'opinion axée sur l'informatique dans laquelle nous approfondissons le monde des PC, des ordinateurs portables, des ordinateurs de poche, des périphériques et bien plus encore. Recevez-le directement dans votre boîte de réception chaque samedi en inscription à la newsletter.