ChatGPT Search peut être rapidement trompé par des pages web frauduleuses, qui incluent du texte caché. Soyez vigilants lors de vos recherches réalisées à l’aide de l’IA.
ChatGPT Search est un moteur de recherche tout jeune, et peut faire de graves erreurs
Depuis la mise à disposition auprès du grand public de ChatGPT Search, l’IA d’OpenAI est utilisée par de nombreux utilisateurs, qui ne se privaient pas de poser n’importe quelle question, comme ils le feraient avec un moteur de recherche traditionnel. Seulement, les réponses proposées par ChatGPT étaient incomplètes, datées et non sourcées. ChatGPT Search vient se connecter au web pour apporter des réponses synthétisées et contextualisées, avec des informations de première fraicheur. Pratique non ? Oui, mais attention aux petits malins qui ont déjà compris comment détourner l’IA pour afficher des données erronées.
Des journalistes effectuent un test sur ChatGPT Search
- Premier test classique
Les journalistes du quotidien britannique The Guardian a mené une petite enquête pour savoir s’il était facile d’induire en erreur ChatGPT Search.
Pour ce faire, ces derniers ont développé une page web toute simple reprenant la structure d’une page produit vantant les mérites d’un appareil photo, avec les principales caractéristiques et quelques avis clients.
Cette page a été aspirée par ChatGPT Search qui, interrogé au sujet de cet appareil photo, renvoie une réponse positive, mais équilibrée, en mettant en avant quelques points qui pourraient déplaire à certaines catégories d’utilisateurs. Jusque-là, l’IA se comporte de manière tout à fait classique et ne pose aucun problème quant à la pertinence de sa réponse.
- Second test avec le « test caché »
Les journalistes sont ensuite revenus sur cette page pour ajouter du texte caché. C’est une technique fréquemment employée sur le web pour tromper les moteurs de recherche, avec du contenu non visible par l’utilisateur. Sur la fausse page de l’appareil photo, le texte caché incluait de nombreux avis très positifs sur le produit.
ChatGPT Search a ensuite modifié sa réponse pour la même requête, en livrant une réponse très favorable sur la qualité de cet appareil photo, en ne tenant plus compte des quelques avis plus mitigés pourtant publiés sur la page.
A l’instar de Google, les moteurs de recherche sont déjà équipés de systèmes pour dégrader le classement de liens incluant des textes cachés. Les sites web se livrant à ses pratiques sont systématiquement renvoyés en bas de classement pour ne pas tromper l’utilisateur ou lui partager une information erronée. Les sites dits « de confiance » ont déjà banni ces pratiques pour conserver leur place de choix sur les différents moteurs de recherche.
Les modèles de langage, comme ChatGPT, sont très jeunes et les équipes d’Open AI ont du pain sur la planche pour repérer et éliminer ce type de contenu. Pour l’heure, soyez très prudents en utilisant ChatGPT Search et n’hésitez pas à vérifier une deuxième fois l’information sur un site web reconnu.
Source : Clubic
