ChatGPT Реализует систему защиты на базе ИИ для несовершеннолетних

OpenAI представила инновационное решение для защиты несовершеннолетних пользователей в ChatGPT: систему на базе ИИ, способную автоматически определять, кто младше 18 лет, и применять соответствующие ограничения по содержанию. Эта инициатива является важным шагом в защите прав и цифровой безопасности подростков на платформах искусственного интеллекта.

Как система на базе ИИ определяет несовершеннолетних пользователей

Вместо того чтобы полагаться только на дату рождения, указанную при регистрации, разработанная OpenAI технология анализирует различные поведенческие показатели для определения реального возраста пользователя. Система исследует такие сигналы, как время существования аккаунта, часы входа в платформу и модели взаимодействия с ChatGPT. Такой более сложный подход значительно снижает вероятность манипуляций с личными данными, делая идентификацию несовершеннолетних более точной и надежной.

Когда профиль определяется как принадлежащий подростку, автоматически применяются строгие ограничения. Пользователи, идентифицированные как несовершеннолетние, сталкиваются с ограничениями при доступе к контенту, содержащему насилие или сексуально чувствительные темы, что обеспечивает более подходящий опыт для их возрастной группы.

Новые родительские контрольные механизмы на основе интеллектуального мониторинга

Обновление выходит за рамки простого определения возраста. OpenAI внедрила инновационные функции родительского контроля, позволяющие ответственным лицам устанавливать периоды «тишины» для использования платформы детьми. Кроме того, система отправляет уведомления родителям при обнаружении признаков возможного значительного эмоционального стресса, предоставляя им инструменты для понимания и вмешательства в цифровое благополучие подростков.

Для взрослых пользователей, ошибочно определенных как несовершеннолетние, OpenAI предлагает процесс верификации через платформу Persona. Эта возможность позволяет отправить селфи или удостоверение личности для восстановления полного доступа к платформе, делая процесс исправления простым и понятным.

Глобальное расширение системы

Система в настоящее время доступна для пользователей подписки ChatGPT. Внедрение на базе ИИ будет расширено на Европейский союз в ближайшие недели, что подчеркивает приверженность OpenAI к установлению единых стандартов защиты несовершеннолетних на различных рынках. Эта инициатива отражает растущую тенденцию к тому, что крупные технологические платформы внедряют более надежные системы на основе машинного обучения для обеспечения более безопасной среды для уязвимых групп населения.