Les AI Overviews de Google sont détournés par les cybercriminels. Pour propager leurs arnaques en ligne, les pirates inondent les aperçus IA avec de faux numéros d’assistance téléphonique. L’internaute entre ainsi en contact sans s’en rendre compte avec un escroc qui va chercher à lui soutirer des coordonnées bancaires…
AI Overviews, la fonction d’IA de Google qui génère automatiquement des réponses synthétisées en haut des résultats de recherche du moteur, est susceptible de mettre en danger les internautes. Cette fonctionnalité, déjà épinglée pour avoir raconté n’importe quoi par le passé, peut en effet être détournée par des cybercriminels pour propager des arnaques en ligne.
De faux numéros d’assistance dans les résumés IA de Google
Plusieurs médias américains, dont le Washington Post et Digital Trends, ont remarqué que les résumés IA partageaient parfois de faux numéros d’assistance d’institutions financières, comme des banques.
Ces faux numéros, glissés dans les aperçus rédigés par l’intelligence artificielle, peuvent avoir des conséquences dramatiques pour les internautes.
Concrètement, un internaute qui tombe sur un numéro frauduleux va entrer en contact avec un pirate. Au bout du fil, l’utilisateur va échanger avec un escroc, et non avec l’employé de sa banque. Le pirate peut alors tout faire pour convaincre son interlocuteur de lui communiquer des données bancaires, comme ses identifiants ou ses mots de passe. Convaincue d’échanger avec sa banque, la victime est susceptible d’obtempérer sans se poser de questions.
Tout porte à croire que des escrocs publient massivement des numéros de téléphone frauduleux, associés à des noms d’entreprises légitimes, sur des sites web. L’IA de Google collecte ensuite ces informations sans vérification appropriée et les présente comme des faits dans ses résumés. L’internaute ne se doute pas que ces informations, présentées avec aplomb en haut de ses résultats de recherche, peuvent contenir des escroqueries.
Sur les réseaux sociaux, on trouve énormément de témoignages d’individus qui sont tombés dans le piège. Dans un billet sur Reddit, un internaute explique que Google lui « a donné un numéro de téléphone frauduleux » alors qu’il cherchait à joindre le service client de Chime, une fintech américaine. Au téléphone, un escroc lui a demandé d’installer une application sur son smartphone. Cette application offrait au pirate « un accès à distance » au téléphone, soi-disant pour vérifier des informations personnelles. L’internaute se dit terrifiée « que l’IA de Google ait conseillé d’appeler ce numéro au lieu du véritable numéro de support client direct de Chime ».
Ces signalements se sont multipliés à tel point que plusieurs banques et institutions américaines ont mis en garde leur clientèle contre les résumés IA de Google. C’est le cas de la Caisse de crédit fédérale du Département d’État américain. Dans un avertissement publié en novembre, la coopérative de crédit indique que « l’IA peut afficher par erreur un numéro de téléphone frauduleux, donnant ainsi une apparence de crédibilité » à l’arnaque. Avec « l’essor des aperçus IA de Google, les escrocs ont trouvé de nouvelles opportunités ».
Google affirme combattre les arnaques en ligne
Interrogé par Wired, un porte-parole de Google assure que l’entreprise combat ces arnaques et améliore régulièrement ses outils pour repérer et bloquer les faux contenus. Le géant de Mountain View ajoute que ses « protections anti-spam sont très efficaces pour empêcher les arnaques d’apparaître dans les aperçus d’IA et pour afficher les numéros officiels du service client lorsque cela est possible ». Force est de constater que les protections de Google ne sont toutefois pas infaillibles.
Si vous cherchez le numéro de téléphone de l’assistance client de votre banque, de votre opérateur ou d’une quelconque entreprise, rendez-vous directement sur son site web officiel. Notez que les AI Overviews ne sont pas encore disponibles en France. Déjà déployés dans la plupart des pays d’Europe, les résumés IA ne devraient plus tarder à débarquer dans l’Hexagone. Une fois que ceux-ci viendront transformer l’expérience de Google en France, il faudra se montrer prudents et ne pas prendre tout ce que raconte l’IA pour acquis.
Source : 01net
