ChatGPT Implémente un système de protection basé sur l'IA pour les mineurs

OpenAI a présenté une solution innovante pour protéger les utilisateurs mineurs sur ChatGPT : un système basé sur l’IA capable d’identifier automatiquement ceux qui ont moins de 18 ans et d’appliquer des restrictions de contenu appropriées. L’initiative marque une étape importante dans la défense des droits et de la sécurité numérique des adolescents sur les plateformes d’intelligence artificielle.

Comment le système basé sur l’IA identifie les utilisateurs mineurs

Plutôt que de se fier uniquement à la date de naissance fournie lors de l’inscription, la technologie développée par OpenAI analyse divers indicateurs comportementaux pour déterminer l’âge réel de l’utilisateur. Le système examine des signaux tels que la durée d’existence du compte, les horaires auxquels la personne accède à la plateforme et les modèles d’interaction avec ChatGPT. Cette approche plus sophistiquée réduit considérablement la possibilité de manipulation des données personnelles, rendant l’identification des mineurs plus précise et fiable.

Lorsqu’un profil est détecté comme appartenant à un adolescent, des restrictions strictes sont appliquées automatiquement. Les utilisateurs identifiés comme mineurs rencontrent des limitations pour accéder à des contenus impliquant de la violence ou des thèmes sexuellement sensibles, garantissant une expérience plus adaptée à leur tranche d’âge.

Nouveaux contrôles parentaux basés sur la surveillance intelligente

La mise à jour va au-delà de la simple détection de l’âge. OpenAI a intégré des fonctionnalités innovantes de contrôle parental permettant aux responsables de définir des périodes de silence pour l’utilisation de la plateforme par leurs enfants. De plus, le système envoie des notifications aux parents lorsqu’il détecte des signes de stress émotionnel significatif, offrant aux responsables des outils pour comprendre et intervenir dans le bien-être numérique des adolescents.

Pour les utilisateurs adultes qui seraient erronément identifiés comme mineurs, OpenAI propose un processus de vérification via la plateforme Persona. Cette solution permet d’envoyer une selfie ou un document d’identification pour récupérer l’accès complet à la plateforme, rendant le processus de correction simple et direct.

Expansion mondiale du système

Le système est actuellement disponible pour les utilisateurs du plan d’abonnement ChatGPT. La mise en œuvre basée sur l’IA sera étendue à l’Union européenne dans les prochaines semaines, témoignant de l’engagement d’OpenAI à établir des normes cohérentes de protection des mineurs sur différents marchés. Cette initiative reflète la tendance croissante des grandes plateformes technologiques à adopter des systèmes plus robustes et basés sur le machine learning pour garantir des environnements plus sûrs pour les populations vulnérables.