ChatGPT franchit une nouvelle étape dans le contrôle parental. Désormais, l’outil d’intelligence artificielle d’OpenAI peut estimer l’âge de ses utilisateurs, afin d’identifier les mineurs et de mieux les protéger.
Concrètement, OpenAI utilise un algorithme basé sur les comportements des utilisateurs. Le système analyse plusieurs éléments comme l’âge déclaré, l’ancienneté du compte ou encore les heures habituelles d’utilisation. L’objectif est de repérer les adolescents de moins de 18 ans.
Une fois un utilisateur identifié comme mineur, des restrictions automatiques sont appliquées. ChatGPT bloque alors les contenus à caractère sexuel ou violent, les défis dangereux, les jeux de rôle romantiques ou sexuels, les discussions sur l’automutilation, ainsi que les contenus qui encouragent des normes de beauté extrêmes ou des régimes malsains.
Et en cas d’erreur ?
Si un adulte est classé par erreur comme mineur, il peut lever les restrictions en prouvant son âge. Pour cela, OpenAI demande un selfie, qui sera analysé par un prestataire spécialisé dans la vérification d’identité. Cette étape permet de rebasculer le compte en mode adulte.
Pourquoi cette mesure ?
Cette décision intervient après plusieurs polémiques aux États-Unis, où ChatGPT a été accusé d’avoir contribué à des troubles psychologiques chez certains adolescents. OpenAI reconnaît que de nombreux utilisateurs évoquent des pensées suicidaires ou des situations de détresse mentale dans leurs échanges avec l’IA.
Au-delà de la protection des mineurs, ce système prépare aussi l’arrivée d’un mode adulte, qui autorisera certains contenus plus sensibles. Là encore, la preuve de majorité sera obligatoire.
Déploiement progressif
La fonctionnalité est en cours de déploiement dans le monde. L’Afrique, comme souvent, devra attendre un peu, OpenAI expliquant devoir respecter des règles locales plus strictes. Le lancement est annoncé dans les prochaines semaines.
Source: 01 net
