في جملة واحدة
تختبر OpenAI نظام توجيه للسلامة (Safety Routing) للمحادثات الحساسة وتطرح ضوابط أبوية (Parental Controls) لمستخدمي فئة المراهقين. تهدف التحديثات إلى تحقيق توازن بين السلامة والخصوصية والفائدة، فيما ينقسم المستخدمون حول مستوى التحفّظ المناسب لهذه التغييرات.
التفاصيل
بدأت OpenAI اختبار نظام جديد لتوجيه السلامة (Safety Routing) في ChatGPT، يكتشف المحادثات بالغة الحساسية عاطفياً ويوجِّه المعالجة مؤقتاً إلى نماذج مبنية على GPT‑5 مُدرَّبة للتعامل مع المواقف عالية المخاطر. تستخدم هذه النماذج تقنية تُعرف باسم الإكمالات الآمنة (Safe Completions) لتقديم إجابات متأنية وداعمة بدلاً من الاكتفاء برفض الرد. تأتي هذه الخطوة عقب تقارير أفادت بأن نماذج الدردشة السابقة كانت أحياناً تُكرّس أنماط تفكير مؤذية، وبالتزامن مع دعوى قضائية تتعلق بوفاة غير مشروعة مرتبطة بتفاعلات مع ChatGPT امتدت لأشهر. تقول OpenAI إن التوجيه يجري على مستوى كل رسالة (Per‑message)، ويمكن للمستخدمين الاستعلام عن النموذج النشط، وتخطط الشركة لفترة تكرار تمتد 120 يوماً. وجاءت ردود الفعل متباينة: فبينما يرحّب البعض بحواجز حماية أقوى، يخشى آخرون تشدداً مفرطاً في التصفية.
بالتوازي، تطرح OpenAI ضوابط أبوية (Parental Controls) لـ ChatGPT على الويب، وقريباً على الهواتف المحمولة. يحتاج الوالدان إلى حسابات خاصة بهما، ويتعيّن على المراهقين إبداء الموافقة لربط الحسابات؛ ويمكنهم فكّ الارتباط في أي وقت، ولا تتيح الضوابط للوالدين الاطلاع على سجلات الدردشة. وبعد الربط، يمكن للوالدين تقييد المحتوى الحساس افتراضياً لحسابات المراهقين، وتعطيل ميزة الذاكرة (Memory) وتدريب النموذج (Model Training)، وضبط أوقات هادئة، وتعطيل توليد الصوت والصور، واختيار كيفية تلقي تنبيهات السلامة. كما تحصل حسابات المراهقين على حماية إضافية للمحتوى ورصد مؤتمت لإشارات إيذاء النفس (Self‑harm) يراجعه موظفون مدرَّبون؛ وقد تُخطِر OpenAI الوالدين، وفي الحالات الطارئة المهدِّدة للحياة التي يتعذّر فيها الوصول إلى الوالدين، قد تطلب المساعدة من خدمات الطوارئ.
النقاط الرئيسية
- يختبر ChatGPT الآن مُوجِّه سلامة (Safety Router) يعمل على مستوى كل رسالة (Per‑message) ويمكنه تحويل معالجة الدردشات الحساسة إلى نماذج مبنية على GPT‑5 باستخدام الإكمالات الآمنة (Safe Completions).
- تأتي التغييرات على خلفية تقارير عن ردود مؤذية ودعوى وفاة غير مشروعة؛ وتخطط OpenAI لفترة تكرار وتحسين مدتها 120 يوماً.
- الضوابط الأبوية (Parental Controls) متاحة على الويب وقريباً على الهاتف المحمول، وتتطلّب موافقة المراهقين للربط؛ ولا تتيح للوالدين قراءة الدردشات.
- يمكن للوالدين تقييد المحتوى الحساس، وتعطيل ميزة الذاكرة (Memory) وتدريب النموذج (Model Training)، وضبط أوقات هادئة، وإيقاف توليد الصوت والصور.
- تحصل حسابات المراهقين على حماية إضافية ورصد تلقائي لإشارات إيذاء النفس تُراجع بشرياً؛ وقد يُنَبَّه الوالدان في حالات نادرة تنطوي على مخاطر جسيمة.