Character.AI ограничивает открытые чаты для пользователей младше 18 лет и вводит меры безопасности

Кратко

Компания Character AI объявила, что она запретит всем, кому менее 18 лет, проводить открытые беседы со своими AI-чат-ботами начиная с конца ноября, в результате юридического давления со стороны законодателей и семей, которые утверждают, что платформа привела к смертям среди подростков.

Платформа чат-ботов на основе ИИ, Character.AI, объявила, что пользователи младше 18 лет больше не смогут вести открытые беседы с ее чат-ботами ИИ, после того как законодатели и семьи выразили обеспокоенность по поводу потенциальных рисков платформы для подростков.

Изменения должны вступить в силу до 25 ноября. В это время платформа планирует ввести измененный опыт для пользователей младше 18 лет, который позволит им продолжать творческую деятельность, такую как создание видео, рассказов и интерактивных потоков с персонажами. В ходе этого перехода сеансы чата для пользователей младше 18 лет будут ограничены двумя часами в день, и ожидаются дальнейшие сокращения времени в недели, предшествующие полному внедрению.

Кроме того, Character.AI внедрит новые меры верификации возраста, чтобы гарантировать, что пользователям предлагаются функции, подходящие для их возраста. Компания разработала внутреннюю систему подтверждения возраста и интегрирует ее с инструментами третьих сторон, включая Persona, для повышения точности и надежности.

Платформа также объявила о создании и финансировании Лаборатории безопасности ИИ, независимой некоммерческой организации, посвященной повышению безопасности в области ИИ-развлечений. Лаборатория сосредоточится на разработке инновационных подходов к безопасности, сотрудничестве с внешними экспертами и распространении результатов исследований. Character.AI намерена обеспечить такую же степень внимания к безопасности ИИ-развлечений, как и к другим приложениям ИИ, и планирует вовлечь в эту инициативу технологические компании, ученых, исследователей и законодателей.

Character.AI Обновления платформы для лиц младше 18 лет с целью повышения безопасности подростков на фоне регуляторных опасений

Character.AI объявила об изменениях на своей платформе для пользователей младше 18 лет в ответ на растущие опасения по поводу взаимодействия ИИ с подростками. Недавние отчеты и запросы от регулирующих органов подчеркнули потенциальные риски, связанные с неограниченными разговорами с ИИ, даже когда существуют контролируемые содержания. После рассмотрения отзывов от регулирующих органов, специалистов по безопасности и родителей компания пришла к выводу, что изменение опыта пользователей младше 18 лет необходимо для лучшей защиты молодых пользователей.

Эти изменения представляют собой значительные шаги для платформы и, как правило, более осторожны, чем меры, предпринятые аналогичными сервисами. Целью является приоритет безопасности подростковых пользователей, при этом обеспечивая возможности для творчества, исследования и вовлечения. Character.AI намерена продолжать сотрудничество с экспертами по безопасности, регуляторными органами и другими заинтересованными сторонами, чтобы гарантировать, что защита пользователей остается в центре внимания по мере разработки платформой новых функций, которые способствуют творческому самовыражению и взаимодействию в сообществе.

Character.AI — это платформа разговорного ИИ, которая позволяет пользователям взаимодействовать с созданными ИИ персонажами или ботами, управляемыми большими языковыми моделями.