Ce n’est un secret pour personne : les informations fournies par les IA sont loin d’être fiables. Voici comment repérer une hallucination.
De plus en plus utilisés, les chatbots IA ont un défaut majeur : ils sont susceptibles d’inventer des informations et de vous induire en erreur. Ces fameuses hallucinations ont déjà coûté cher à des acteurs Tech réputés, comme Google, qui a dû fermer son service Gemma, ou encore OpenAI, qui a été accusé d’atteinte à la vie privée.
Savoir repérer les hallucinations de l’IA est en passe de devenir une compétence numérique cruciale. Si vous utilisez ChatGPT ou tout autre outil du même genre, ces 5 indices vous permettront de savoir si vous faites face ou non à un mensonge.
1. Une accumulation de détails
L’IA utilise une quantité faramineuse de données pour ses entraînements, mais cela ne veut pas dire qu’elle a la science infuse, bien au contraire. Les chatbots ont été conçus pour générer des réponses réalistes : pour maintenir cette illusion, ils ont tendance à noyer les utilisateurs sous une accumulation de détails. Il leur arrive souvent de mêler le vrai et le faux ce qui ne facilite pas la tâche aux utilisateurs.
Si vous échangez avec une IA, prenez donc le temps de vérifier chaque information, qu’il s’agisse d’une date, d’une personne ou de tout autre détail. Vous ne retrouvez rien sur le web ? Pas de doute possible, l’IA vous mène en bateau.
2. Des réponses un peu trop catégoriques
Avez-vous remarqué que ChatGPT et ses confrères ne prononcent jamais les phrases « Je ne sais pas » ou « Je ne suis pas sûr » ? Les chatbots IA ne sont pas, pour l’instant du moins, capables d’avertir l’utilisateur en cas de lacune. Pire, ils peuvent énoncer des énormités avec beaucoup d’aplomb et tromper nombre de personnes. Si l’IA simplifie trop un sujet ou qu’elle vous semble particulièrement sûre d’elle, méfiez-vous, il y a probablement de l’hallucination dans l’air.
3. Des sources douteuses
Les chatbots se sont considérablement perfectionnés et beaucoup affichent désormais des sources cliquables lors des échanges. Mais attention, ce n’est pas parce que l’IA vous présente une liste de liens que ces références ne sont pas erronées. Prenez-le temps de visiter les pages fournies pour vérifier ce qu’il y a vraiment derrière : vous pourriez être surpris. Menez aussi votre enquête indépendamment sur le web pour vous assurer que vous n’êtes pas face à une intox.
4. Des assertions contradictoires
Savez-vous comment repérer un menteur ? Il suffit de lui poser des questions et de lui demander des détails supplémentaires. À un moment où un autre, l’individu finira par se contredire. Pour l’intelligence artificielle, c’est pareil : il est possible, si vous creusez un sujet, qu’une réponse soit en total désaccord avec une affirmation précédente. Restez en alerte pour repérer les éventuelles incohérences.
5. Des phrases qui manquent de logique
Les IA générèrent du texte en prédisant leurs réponses à partir de leurs données d’entraînement mais elles ne sont pas toujours logiques. Elles ont, par exemple, tendance à ajouter des étapes incohérentes lorsqu’elles expliquent une marche à suivre : le tristement célèbre exemple de Gemini suggérant d’ajouter de la colle sur une pizza le prouve. Quand vous discutez avec une IA, faites donc bon usage de votre meilleure arme, le bon sens, pour repérer les réponses absurdes.
Source : TechRadar
