OpenAI met en œuvre une technologie de prédiction de l’âge sur sa plateforme ChatGPT, dans le but de restreindre l’accès au contenu sensible aux utilisateurs de moins de 18 ans. Pour les comptes dont l’âge n’a pas été explicitement indiqué, l’IA analysera le comportement des utilisateurs – y compris l’âge du compte et les modèles d’activité – pour estimer leur âge.
Le système est conçu pour renforcer les garde-fous autour des contenus potentiellement dangereux, tels que la violence graphique, les représentations d’automutilation et les normes de beauté extrêmes. OpenAI cite une surveillance accrue et des poursuites judiciaires liées aux décès d’adolescents liés aux interactions des chatbots IA comme facteurs à l’origine de ces changements. Cette décision fait suite à une tendance à des mesures de vérification de l’âge plus strictes sur les plateformes en ligne, Roblox ayant récemment rendu obligatoire la vérification de l’âge et l’Australie ayant promulgué une loi interdisant les médias sociaux pour les enfants de moins de 16 ans.
Si un utilisateur est signalé à tort comme mineur, OpenAI suggère une vérification tierce via Persona, nécessitant un selfie en direct et une pièce d’identité gouvernementale. L’efficacité de la prédiction de l’âge de ChatGPT reste incertaine, bien que les technologies de reconnaissance faciale et d’estimation de l’âge se soient manifestement améliorées en termes de précision. Les évaluations gouvernementales montrent que les meilleurs algorithmes atteignent une précision de plus de 99,5 % dans la vérification de l’identité et de 95 % dans l’estimation de l’âge.
Cependant, des experts comme Kristine Gloria de Young Futures affirment que la technologie à elle seule ne suffit pas. La véritable sécurité nécessite de la transparence, de la responsabilité et des connaissances numériques, plutôt que de s’appuyer uniquement sur des solutions techniques. L’objectif plus large devrait être de créer des plateformes où le bien-être des jeunes est fondamental et non secondaire.
L’évolution vers la vérification de l’âge et l’analyse biométrique devient de plus en plus courante alors que les entreprises sont confrontées à des pressions juridiques et éthiques pour protéger les jeunes utilisateurs. Si ces mesures peuvent améliorer la sécurité, elles soulèvent également des questions sur la vie privée et l’équilibre entre protection et accès.
