Meta entend franchir une nouvelle étape dans la modération automatisée. Le géant des réseaux sociaux derrière Instagram et Facebook va déployer une technologie capable d’estimer l’âge des utilisateurs à partir de simples indices visuels, comme la structure osseuse ou la taille.
Mentir sur son âge sur les réseaux sociaux va devenir de plus en plus compliqué. Mardi 5 mai, Meta a annoncé le déploiement d’un système d’intelligence artificielle capable d’analyser les photos et vidéos des internautes. L’objectif? Déterminer si un utilisateur pourrait avoir moins de 13 ans, seuil minimum requis pour utiliser Facebook et Instagram.
Concrètement, l’entreprise s’appuie sur un système capable d’analyser des indices visuels dans les contenus publiés. Par exemple, la taille apparente, les traits physiques ou encore la structure osseuse du visage ou du corps.
Repérer des indices
Et Meta l’assure. « Il ne s’agit pas de reconnaissance faciale ». L’objectif n’est pas d’identifier une personne, mais d’estimer un âge probable. « Notre IA analyse des caractéristiques générales (…) sans identifier la personne en particulier », insiste l’entreprise dans un billet de blog, soucieuse de désamorcer d’emblée les critiques liées à la vie privée.
Mais l’image seule ne suffit pas. L’IA passe aussi au crible les textes et le comportement des internautes. Publications, commentaires, biographies, légendes… tout est passé au crible. Les mentions d’une date d’anniversaire ou de résultats scolaires constituent ainsi des indicies qui, mis bout à bout, peuvent alerter la plateforme.
L’ambition est claire: repérer davantage de comptes de mineurs. En cas de doute, le couperet tombe rapidement. Le compte est suspendu, et son propriétaire doit prouver son âge pour espérer le récupérer.
Déjà testé dans plusieurs pays, le dispositif est appelé à être étendu dans d’autres pays. Meta envisage également de l’intégrer à des formats en direct, comme Instagram Live, ou aux groupes Facebook, des espaces jusqu’ici plus difficiles à surveiller.
Réponse sous contrainte judiciaire
Cette annonce intervient dans un contexte particulièrement tendu pour l’entreprise. Fin mars, un jury du Nouveau-Mexique a condamné Meta à une amende civile de 375 millions pour avoir trompé les utilisateurs sur la sécurité de ses plateformes et ne pas avoir protégé les plus jeunes. L’accusation reprochait notamment au groupe d’avoir privilégié l’engagement et le profit au détriment de la sécurité des mineurs, allant jusqu’à faciliter, selon l’accusation, l’exploitation sexuelle d’enfants sur Facebook et Instagram.
Au-delà de la sanction financière, cette décision historique impose des changements structurels. L’entreprise, de son côté, a réagi vivement, allant jusqu’à évoquer la possibilité de fermer ses services dans cet État.
Le cas Meta est loin d’être isolé. Les grandes entreprises technologiques font face à une multiplication des poursuites concernant la protection des enfants en ligne. En mars, Meta et Google ont été jugées responsables d’avoir accentuer la dépression d’une adolescente aux Etats-Unis, dans un procès particulièrement suivi sur l’addiction des réseaux sociaux. Les deux plateformes ont été condamnées à verser au moins 3 millions de dollars de dommages et intérêts à la victime.
En parallèle, de plus en plus de pays, dont la France, envisagent d’interdire les réseaux sociaux aux moins de 15 ans. Entre exigences réglementaires croissantes et défi technique, l’identification fiable de l’âge devient donc un enjeu central. En Australie, où l’interdiction est en place depuis décembre dernier, il ressort que la loi est suivie de peu d’effets car les acteurs des réseaux sociaux manquent d’outils pour bien contrôler l’âge de leurs utilisateurs.
Alors, cette nouvelle approche pourrait avoir des airs de solution. Cependant, en choisissant d’analyser jusqu’aux caractéristiques physiques, le groupe avance sur un terrain sensible. Car derrière la promesse de mieux protéger les enfants se dessine une autre réalité: celle d’une surveillance accrue, algorithmique et pas toujours fiable, qu’il faudra donc souvent contester.
Source: BFM
