Character.AI تقيّد الدردشة المفتوحة للمستخدمين تحت سن 18 وتقدم تدابير السلامة

باختصار

أعلنت Character AI أنها ستحظر أي شخص تحت سن 18 من إجراء محادثات مفتوحة مع روبوتات الدردشة الذكية الخاصة بها اعتبارًا من أواخر نوفمبر، وذلك بعد ضغط قانوني من المشرعين والعائلات الذين يقولون إن المنصة أدت إلى وفيات بين المراهقين.

أعلنت منصة الدردشة التفاعلية المعتمدة على الذكاء الاصطناعي، Character.AI، أن المستخدمين الذين تقل أعمارهم عن 18 عامًا لن يتمكنوا بعد الآن من المشاركة في محادثات مفتوحة مع روبوتات الدردشة الذكية الخاصة بها، وذلك في أعقاب المخاوف التي أبدتها الجهات التشريعية والعائلات بشأن المخاطر المحتملة للمنصة على المراهقين.

من المقرر أن يدخل التغيير حيز التنفيذ بحلول 25 نوفمبر. في هذه الأثناء، تخطط المنصة لتقديم تجربة معدلة للمستخدمين دون سن 18 تسمح لهم بمواصلة الأنشطة الإبداعية مثل إنتاج الفيديوهات، والقصص، والبث التفاعلي مع الشخصيات. خلال هذه الفترة الانتقالية، ستقتصر جلسات الدردشة للمستخدمين دون سن 18 على ساعتين في اليوم، مع توقع تقليصات إضافية في الوقت في الأسابيع التي تسبق التنفيذ الكامل.

بالإضافة إلى ذلك، ستقوم Character.AI بتنفيذ تدابير جديدة للتحقق من العمر لضمان عرض ميزات مناسبة للمستخدمين بناءً على أعمارهم. لقد طورت الشركة نظامًا داخليًا للتحقق من العمر وستقوم بدمجه مع أدوات خارجية، بما في ذلك Persona، لتعزيز الدقة والموثوقية.

كما أعلنت المنصة عن إنشاء وتمويل مختبر سلامة الذكاء الاصطناعي، وهي منظمة غير ربحية مستقلة تهدف إلى تعزيز توافق السلامة في ترفيه الذكاء الاصطناعي. سيركز المختبر على تطوير أساليب سلامة مبتكرة، والتعاون مع خبراء خارجيين، ومشاركة نتائج الأبحاث. تهدف Character.AI إلى أن يوفر المختبر نفس مستوى الاهتمام المركز على السلامة في ترفيه الذكاء الاصطناعي كما هو مطبق على تطبيقات الذكاء الاصطناعي الأخرى، وتخطط لإشراك شركات التكنولوجيا والأكاديميين والباحثين وصانعي السياسات في هذه المبادرة.

Character.AI تحديثات منصة تحت 18 لتعزيز سلامة المراهقين وسط مخاوف تنظيمية

أعلنت Character.AI عن تغييرات في منصتها للمستخدمين الذين تقل أعمارهم عن 18 عامًا استجابةً للقلق المتزايد بشأن تفاعلات الذكاء الاصطناعي مع المراهقين. وقد سلطت التقارير الأخيرة والاستفسارات من الجهات التنظيمية الضوء على المخاطر المحتملة المرتبطة بالمحادثات المفتوحة مع الذكاء الاصطناعي، حتى عندما تكون هناك ضوابط للمحتوى. بعد مراجعة التعليقات من الجهات التنظيمية، والمتخصصين في السلامة، والآباء، قررت الشركة أن تعديل تجربة المستخدمين تحت سن 18 عامًا ضروري لحماية المستخدمين الشباب بشكل أفضل.

تمثل هذه التعديلات خطوات كبيرة للمنصة وهي عمومًا أكثر حذرًا من التدابير المتخذة من قبل خدمات مشابهة. الهدف هو إعطاء الأولوية لسلامة المستخدمين المراهقين مع الاستمرار في توفير الفرص للإبداع والاستكشاف والتفاعل. تنوي Character.AI الاستمرار في العمل مع خبراء السلامة والهيئات التنظيمية وأصحاب المصلحة الآخرين لضمان بقاء حماية المستخدمين في صميم التطور الذي تشهده المنصة من خلال ميزات جديدة تشجع على التعبير الإبداعي والتفاعل المجتمعي.

Character.AI هو منصة ذكاء اصطناعي محادثة تتيح للمستخدمين التفاعل مع وإنشاء شخصيات مدفوعة بالذكاء الاصطناعي، أو شخصيات روبوت، مدعومة بنماذج لغوية كبيرة.