Character.AI 限制18岁以下用户的开放式聊天，并引入安全措施

简要

Character AI 宣布，从 11 月底开始，将禁止任何18岁以下的人与其AI聊天机器人进行开放式对话，此举是在立法者和家庭的法律压力下做出的，他们表示该平台导致了青少年死亡。

![Character.AI 限制 18 岁以下用户的开放式聊天并引入安全措施](http://img-cdn.gateio.im/social/moments-0fb1ede33bb0716ad14d85e2afa54c69019283746574839201

人工智能驱动的聊天机器人平台Character.AI宣布，18岁以下的用户将不再能够与其人工智能聊天机器人进行开放式对话，此举是由于立法者和家庭对该平台可能对青少年造成的风险表示担忧。

该变更预计将在11月25日生效。在此期间，平台计划为18岁以下用户推出修改后的体验，允许他们继续进行创意活动，例如制作视频、故事和与角色的互动直播。在这一过渡期间，18岁以下用户的聊天时间将限制为每天两个小时，并预计在全面实施的前几周内会进一步减少时间。

此外，Character.AI 将实施新的年龄验证措施，以确保用户获得适合其年龄的功能。该公司开发了一个内部年龄验证系统，并将其与包括 Persona 在内的第三方工具集成，以提高准确性和可靠性。

该平台还宣布创建和资助AI安全实验室，这是一个独立的非营利组织，致力于推动AI娱乐中的安全对齐。该实验室将专注于开发创新的安全方法，与外部专家合作，并分享研究成果。Character.AI希望该实验室能为AI娱乐提供与其他AI应用相同水平的安全关注，并计划在这一倡议中涉及科技公司、学术界、研究人员和政策制定者。

Character.AI 更新未成年人平台以增强青少年安全，应对监管担忧

Character.AI宣布将对其平台进行更改，以应对对18岁以下用户的日益关注。这些关注主要是关于与青少年进行AI互动的潜在风险。最近，监管机构的报告和调查突出了与开放式AI对话相关的潜在风险，即使在内容控制到位的情况下也是如此。在审查了监管机构、安全专家和家长的反馈后，该公司决定修改18岁以下用户的体验，以更好地保护年轻用户。

这些调整代表了该平台的重要步骤，并且通常比类似服务采取的措施更加谨慎。目标是优先考虑青少年用户的安全，同时仍然提供创造力、探索和参与的机会。Character.AI打算继续与安全专家、监管机构和其他利益相关者合作，以确保用户保护在平台开发新功能以鼓励创造性表达和社区互动时仍然是核心。

Character.AI是一个对话式人工智能平台，允许用户与由大型语言模型驱动的AI角色或机器人角色进行互动和创建。