تُعد الهلوسة في الذكاء الاصطناعي (AI hallucinations) تحديًا ملحوظًا أمام المؤسسات التي تسعى إلى دمج تقنيات الذكاء الاصطناعي في عملياتها الحساسة. وتشير هذه الظاهرة إلى الحالات التي تنتج فيها الأنظمة الذكية معلومات خاطئة أو غير مترابطة. لمواجهة هذا التحدي، أعلنت شركة Vectara، التي تتمتع بريادة في مجال تكنولوجيا الاسترداد الموثوق (grounded retrieval technology)، عن تطوير حل مبتكر أطلقت عليه اسم 'وكلاء الحماية' (Guardian Agents). صُممت هذه المكونات البرمجية للكشف والتفسير والتصحيح الفعّال للهلوسات التي قد تنشأ ضمن العمليات القائمة على الذكاء الاصطناعي، حيث لا تقتصر هذه الوكلاء على تحديد الأخطاء فقط، بل تتفاعل معها بشكل واعٍ بالسياق لإجراء تصحيحات دقيقة تُعزز موثوقية المعلومات التي يولدها النظام.
تعمل وكلاء الحماية (Guardian Agents) المُطوّرة من قِبل Vectara ضمن إطار عمل متعدد المراحل يجمع بين نموذج توليدي (generative model)، نموذج مخصص لاكتشاف الهلوسة (hallucination detection model)، ونموذج لتصحيح الأخطاء (correction model). هذه المراحل متكاملة في عملها لتحقيق التوازن بين تصحيح الأخطاء والحفاظ على المعنى والسياق العام للنص. وتشير النتائج الأولية إلى نجاح مُبشّر لهذا النظام، حيث أظهرت تقارير أن معدلات الهلوسة في النماذج اللغوية الصغيرة قد انخفضت إلى أقل من 1%. ويميز هذا النهج نفسه بالدقة، حيث يضمن أن التصحيح لا يطمس الانحرافات الإبداعية أو المصطلحات المتخصصة التي تغني الطابع الفني لبعض النصوص، مثل المحتوى الخيالي أو المواد المتخصصة. بالإضافة إلى ذلك، قدمت Vectara أداة مفتوحة المصدر تحمل اسم HCMBench، والتي تهدف إلى تقييم نماذج وتقنيات تصحيح الهلوسة عبر مختلف القطاعات لتعزيز الابتكار وتعزيز معايير هذه التقنية.
النقاط الرئيسية
- لا تزال الهلوسة في الذكاء الاصطناعي، والتي ينتج فيها المحتوى بطريقة غير دقيقة أو غير صحيحة، تشكل تحديًا للمؤسسات التي تعتمد تقنيات الذكاء الاصطناعي.
- الحل المبتكر 'وكلاء الحماية' (Guardian Agents) من شركة Vectara يهدف إلى كشف الهلوسة وتصحيحها، مما يساهم في خفض معدلات الخطأ في النماذج اللغوية الصغيرة إلى أقل من 1%.
- يتضمن نظام Guardian Agents خط عمل متعدد المراحل يجمع بين التوليد، الكشف، وتصحيح الأخطاء لتعزيز موثوقية النتائج.
- يركز النظام على الحفاظ على الإبداعية والانحرافات المُتعمدة في النصوص، خصوصًا في المحتوى الفني أو المتخصص.
- طرحت Vectara أيضًا أداة HCMBench المفتوحة المصدر، التي تُعد معيارًا صناعيًا لتقييم وتحسين تقنيات تصحيح الهلوسة.
في جملة واحدة
وكلاء الحماية الذي طرحته Vectara يمثل حلًا تقنيًا رائدًا يهدف إلى معالجة مشكلة الهلوسة في الذكاء الاصطناعي بشكل دقيق واستباقي، مما أدى إلى انخفاض معدلات الخطأ وتعزيز دقة النماذج اللغوية. كما تقدم الأداة المفتوحة المصدر HCMBench وسيلة مثالية لتقييم تقنيات تصحيح الهلوسة.
المصادر: 1