Character.AI restringe o chat aberto para utilizadores com menos de 18 anos e introduz medidas de segurança

Em resumo

A Character AI anunciou que irá proibir qualquer pessoa com menos de 18 anos de ter conversas abertas com os seus chatbots de IA a partir do final de novembro, após pressão legal de legisladores e famílias que afirmam que a plataforma levou a mortes de adolescentes.

A plataforma de chatbot alimentada por IA, Character.AI, anunciou que os usuários com menos de 18 anos não poderão mais participar de conversas abertas com seus chatbots de IA, após preocupações de legisladores e famílias sobre os potenciais riscos da plataforma para os adolescentes.

A mudança está agendada para entrar em vigor até 25 de novembro. Enquanto isso, a plataforma planeja introduzir uma experiência modificada para usuários com menos de 18 anos que lhes permita continuar atividades criativas, como produzir vídeos, histórias e transmissões interativas com Personagens. Durante esta transição, as sessões de chat para usuários com menos de 18 anos serão limitadas a duas horas por dia, com mais reduções de tempo antecipadas nas semanas que antecedem a implementação total.

Além disso, a Character.AI implementará novas medidas de verificação de idade para garantir que os usuários sejam apresentados a recursos apropriados para a sua faixa etária. A empresa desenvolveu um sistema interno de garantia de idade e integrará este sistema com ferramentas de terceiros, incluindo a Persona, para aumentar a precisão e a confiabilidade.

A plataforma também anunciou a criação e financiamento do AI Safety Lab, uma organização independente sem fins lucrativos dedicada a promover a segurança na alinhamento em entretenimento de IA. O laboratório se concentrará em desenvolver abordagens inovadoras de segurança, colaborando com especialistas externos e compartilhando descobertas de pesquisa. A Character.AI pretende que o laboratório forneça o mesmo nível de atenção focada na segurança para entretenimento de IA que é aplicado a outras aplicações de IA, e planeja envolver empresas de tecnologia, acadêmicos, pesquisadores e formuladores de políticas nesta iniciativa.

Character.AI Atualiza Plataforma Para Menores de 18 Anos Para Aumentar a Segurança dos Adolescentes em Meio a Preocupações Regulatórias

A Character.AI anunciou alterações na sua plataforma para utilizadores com menos de 18 anos em resposta a preocupações crescentes sobre as interações de IA com adolescentes. Relatórios recentes e inquéritos de reguladores destacaram riscos potenciais associados a conversas de IA abertas, mesmo quando existem controlos de conteúdo. Após rever o feedback de reguladores, especialistas em segurança e pais, a empresa determinou que é necessário modificar a experiência dos menores de 18 anos para melhor proteger os jovens utilizadores.

Essas ajustações representam passos significativos para a plataforma e são geralmente mais cautelosos do que as medidas adotadas por serviços semelhantes. O objetivo é priorizar a segurança dos usuários adolescentes, ao mesmo tempo em que se oferecem oportunidades para criatividade, exploração e engajamento. A Character.AI pretende continuar a trabalhar com especialistas em segurança, órgãos reguladores e outras partes interessadas para garantir que a proteção do usuário permaneça central à medida que a plataforma desenvolve novas funcionalidades que incentivem a expressão criativa e a interação comunitária.

Character.AI é uma plataforma de IA conversacional que permite aos utilizadores interagir e criar personagens impulsionados por IA, ou personas de bot, alimentados por grandes modelos de linguagem.