في جملة واحدة
ستحظر Character.AI المحادثات مفتوحة النهاية للقاصرين وتوجّه المراهقين نحو ميزات إبداعية غير حوارية. يأتي هذا التغيير على خلفية مخاوف تتعلق بالسلامة ويتزامن مع أدوات تحقق جديدة، وميزات ترفيهية، ومختبر لسلامة الذكاء الاصطناعي (AI Safety Lab) موجّه للقطاع.
التفاصيل
تتجه Character.AI إلى التخلّي تدريجياً عن المحادثات مفتوحة النهاية للمستخدمين دون 18 عاماً، مشيرةً إلى مخاوف تتعلق بالسلامة عقب تقارير ودعاوى قضائية تربط الجلسات المطوّلة مع روبوتات الدردشة (chatbots) بأضرار تلحق بالمراهقين. اعتباراً من الآن، تم فرض حد يومي مدته ساعتان للمراهقين، على أن يُخفض إلى الصفر بحلول 25 نوفمبر. تعمل الشركة على إطلاق نظام داخلي للتحقق من العمر (age assurance system) وإجراء عمليات تحقق عبر طرف ثالث (third-party checks) من خلال Persona، وقد تلجأ عند الحاجة إلى تقنية التعرّف على الوجه (facial recognition) والتحقق من الهوية (ID verification). سيظل بإمكان المراهقين الرجوع إلى المحادثات السابقة واستخدام الميزات غير المرتبطة بالدردشة، لكن التفاعل الحواري الحر مع شخصيات الذكاء الاصطناعي (AI) سيتوقف.
تأتي هذه الخطوة ضمن تحوّل أوسع من تقديم رفقاء بالذكاء الاصطناعي (AI companions) إلى منصة تركّز على الإبداع ومحتوى ترفيهي قائم على لعب الأدوار (role-play). أطلقت Character.AI ميزات مثل AvatarFX (image-to-video)، وميزة المشاهد (Scenes؛ قصص/حبكات تفاعلية)، وميزة البثوث (Streams؛ تفاعلات بين الشخصيات)، وخلاصة المجتمع (Community Feed) لمشاركة المحتوى. وتخطط الشركة أيضاً لتمويل مختبر مستقل لسلامة الذكاء الاصطناعي (AI Safety Lab)، في وقت يدرس فيه المشرّعون حظر روبوتات الدردشة الرفيقة بالذكاء الاصطناعي (AI companion chatbots) للقاصرين، فيما تسن ولاية كاليفورنيا قواعد جديدة. وتقول Character.AI إنها تأمل في ترسيخ معيار صناعي، حتى لو كان ذلك يعني خسارة بعض المستخدمين من فئة المراهقين.
النقاط الرئيسية
- المستخدمون دون 18 عاماً سيفقدون الوصول إلى المحادثات مفتوحة النهاية بحلول 25 نوفمبر، مع تطبيق حد يومي بالفعل.
- تشمل عمليات التحقق من العمر نموذجاً داخلياً (in-house model)، والتحقق عبر طرف ثالث (third-party verification) من خلال Persona، وربما تقنية التعرّف على الوجه والتحقق من الهوية (facial recognition/ID verification).
- لا يزال بإمكان المراهقين استخدام الميزات غير الحوارية: إنشاء شخصيات وقصص ومقاطع فيديو وإجراء البثوث (Streams).
- تتحوّل Character.AI من تقديم رفقاء بالذكاء الاصطناعي (AI companions) إلى منصة قائمة على لعب الأدوار والمحتوى الإبداعي.
- تخطط الشركة لتمويل مختبر مستقل لسلامة الذكاء الاصطناعي (AI Safety Lab) وسط تصاعد التدقيق التنظيمي في الولايات المتحدة.