تفرض أوبن أي آي (OpenAI) قيوداً جديدة على المستخدمين دون 18 عاماً، إذ أكد الرئيس التنفيذي سام ألتمان أن الشركة ستمنح سلامة المراهقين أولوية. تتركز التعديلات على السياسات في تقييد المحتوى الجنسي ومحتوى إيذاء النفس: لن ينخرط شات جي بي تي (ChatGPT) بعد الآن في محادثات مغازلة مع القاصرين، كما سيضيف ضوابط أمان أكثر صرامة بشأن مناقشات الانتحار. وفي الحالات الحرجة، قد يسعى النظام إلى التواصل مع والدي المراهق أو حتى مع السلطات المحلية. وسيحصل الآباء الذين ينشئون حسابات لأبنائهم المراهقين على أدوات جديدة، من بينها إمكانية ضبط «ساعات الحظر» التي تصبح خلالها خدمة شات جي بي تي (ChatGPT) غير متاحة.
تأتي هذه الخطوة في ظل تدقيق متزايد لروبوتات الدردشة الموجّهة للمستهلكين. تواجه أوبن أي آي (OpenAI) دعوى وفاة غير مشروعة مرتبطة بانتحار مراهق بعد تفاعلاته مع شات جي بي تي (ChatGPT)، فيما تواجه Character.AI دعوى مماثلة. وتتزامن التغييرات مع جلسة استماع في لجنة القضاء بمجلس الشيوخ الأمريكي حول الأضرار المحتملة لروبوتات الدردشة بالذكاء الاصطناعي، حيث من المقرر أن يدلي والد المراهق بشهادته. وتقول أوبن أي آي (OpenAI) إنها تبني أنظمة طويلة الأمد لتحديد ما إذا كان المستخدم دون 18 عاماً، وستطبق افتراضياً قواعد أكثر صرامة عند غياب اليقين؛ فيما يظل ربط حساب المراهق بحساب أحد الوالدين الطريقة الأكثر موثوقية لضمان الحماية وإرسال التنبيهات. وأقر ألتمان بوجود توتر بين السلامة والخصوصية، مشيراً إلى أن الآراء لن تتوافق جميعها على التوازن الذي تم التوصل إليه.
النقاط الرئيسية
- سيحظر شات جي بي تي (ChatGPT) المغازلة مع المستخدمين دون 18 عاماً، وسيشدد ضوابط الأمان بشأن مناقشات إيذاء النفس.
- في حالات إيذاء النفس الحرجة، قد يحاول النظام التواصل مع الوالدين أو السلطات المحلية.
- يمكن للوالدين ضبط «ساعات الحظر» وتلقي تنبيهات إذا بدا أن مراهقهم مضطرباً.
- تطوّر أوبن أي آي (OpenAI) أنظمة لاكتشاف العمر وستطبق افتراضياً قواعد أكثر صرامة عندما يكون عمر المستخدم غير واضح.
- يأتي هذا التحول في السياسات وسط دعاوى قضائية وجلسة استماع في مجلس الشيوخ تبحث الأضرار الناجمة عن روبوتات الدردشة بالذكاء الاصطناعي؛ وقد حدّثت ميتا (Meta) مؤخراً سياساتها الخاصة بالتعامل مع المراهقين.
في جملة واحدة
تُدخل أوبن أي آي (OpenAI) إجراءات حماية جديدة لمستخدمي شات جي بي تي (ChatGPT) من المراهقين، عبر تقييد المحتوى الجنسي ومحتوى إيذاء النفس وإضافة أدوات رقابة أبوية وتنبيهات. تأتي هذه التغييرات وسط تدقيق قانوني وتنظيمي، وتعكس توجهاً واضحاً لتقديم السلامة على حرية الاستخدام الواسعة للقاصرين.
المصادر: 1