خضعت شركة OpenAI مؤخراً لتدقيق واسع بعد إبرازها روبوت دردشة على صفحة GPTs المشتركة، يُتهم بنشر أفكار ضارة وعدائية تجاه النساء. وأُفيد بأن روبوت الدردشة هذا يصنف الرجال على أنهم "أقل من إنسان"، ويقترح إجراءات جراحية باهظة ومتطرفة، كما يكرر معتقدات شائعة في منتديات "الإنسل" (incel) على الإنترنت، مثل الادعاء بأن النساء "غير منصفات" ويمِلن نحو "الارتقاء الاجتماعي".
على الرغم من المخاوف المثارة بشأن تشجيع روبوت الدردشة على جراحات تصل تكلفتها إلى 200,000 دولار، ونشره لأيديولوجيا الإنسيـل (incel)، أجرت شركة OpenAI مراجعة لهذه التقارير وقررت إبقاء الروبوت متاحاً وبارزاً على منصتها. وقد أثار هذا القرار جدلاً حول مسؤولية الشركة في مراقبة وحذف المحتوى الذي يُحتمل أن يكون خطيراً أو يحض على الكراهية من عروض الذكاء الاصطناعي (AI) التي تقدمها.
النقاط الرئيسية
- روبوت دردشة بارز من OpenAI يصنف الرجال على أنهم "أقل من إنسان" ويشجع على إجراءات جراحية متطرفة.
- الروبوت يروج لأفكار معادية للنساء ولأفكار منتديات الإنسيـل (incel)، بما في ذلك آراء سلبية تجاه النساء.
- من بين اقتراحات روبوت الدردشة، التوصية بإجراء جراحات تصل تكلفتها إلى 200,000 دولار.
- شركة OpenAI راجعت التقارير المتعلقة بالمحتوى الضار لكنها أبقت روبوت الدردشة متاحاً بشكل بارز.
- هذا الوضع يثير تساؤلات حول كيفية تعامل منصات الذكاء الاصطناعي (AI) مع الرقابة وسلامة المستخدمين.
في جملة واحدة
تواجه شركة OpenAI انتقادات بسبب استضافتها روبوت دردشة ينشر محتوى متطرفاً ومعادياً للنساء، على الرغم من مراجعة الشكاوى. ويسلط الجدل الضوء على مخاوف متزايدة بشأن إشراف محتوى الذكاء الاصطناعي (AI) وحماية المستخدمين.
المصادر: 1