لماذا يُعَد الاختبار المستمر بواسطة الفرق الحمراء (Red Teaming) أساسياً لذكاء اصطناعي آمن وموثوق

تتعرض نماذج الذكاء الاصطناعي (AI) لموجة غير مسبوقة من الهجمات السيبرانية المتطورة، حيث أفادت التقارير بتأثر 77% من المؤسسات بالفعل. تشمل الأساليب الشائعة هجمات حقن التعليمات (prompt injection)، وتسميم البيانات (data poisoning)، والتفادي النموذجي...

هل نحن مستعدون لمنح وكلاء الذكاء الاصطناعي السيطرة الكاملة؟

وكلاء الذكاء الاصطناعي، التي تُعرف بأنها أنظمة قادرة على تنفيذ المهام بشكل مستقل في العالم الواقعي، أصبحت جزءًا لا يتجزأ من حياتنا اليومية ومن مختلف الصناعات. بدءًا من إدارة حسابات وسائل التواصل الاجتماعي وصولًا إلى أتمتة كتابة الأكواد البرمجية،...

شركة Multiverse Computing تجمع 215 مليون دولار لإحداث ثورة في الذكاء الاصطناعي باستخدام تقنية CompactifAI (كومباكتيف أي)

أعلنت شركة Multiverse Computing الإسبانية الناشئة عن حصولها على تمويل كبير من الفئة B بقيمة 189 مليون يورو (ما يعادل حوالي 215 مليون دولار أمريكي). تهدف الجولة التمويلية إلى دعم تطوير تقنية CompactifAI (كومباكتيف أي)، وهي تقنية مبتكرة مستوحاة من...

المعلمون يدقون ناقوس الخطر: الذكاء الاصطناعي (AI) وشات جي بي تي (ChatGPT) يغيّران الفصول الدراسية إلى الأسوأ

منذ ظهور شات جي بي تي (ChatGPT) وأدوات الذكاء الاصطناعي التوليدي (generative AI) الأخرى في الفصول الدراسية، يواجه المعلمون في الولايات المتحدة تحديات غير مسبوقة. يشير العديد من المدرسين وأساتذة الجامعات إلى أن الذكاء الاصطناعي (AI) بات يُستخدم في...

شركة OpenAI تواجه انتقادات بسبب إبراز روبوت دردشة يروج لمحتوى متطرف ومعادٍ للنساء

خضعت شركة OpenAI مؤخراً لتدقيق واسع بعد إبرازها روبوت دردشة على صفحة GPTs المشتركة، يُتهم بنشر أفكار ضارة وعدائية تجاه النساء. وأُفيد بأن روبوت الدردشة هذا يصنف الرجال على أنهم "أقل من إنسان"، ويقترح إجراءات جراحية باهظة ومتطرفة، كما يكرر معتقدات...