لماذا يهلوس الذكاء الاصطناعي؟

إنها إجابة خاطئة واثقة، لا خطأ يستطيع النموذج الإبلاغ عنه

لا يملك النموذج وضعًا منفصلًا لـ«لا أعرف» يلجأ إليه. كل إجابة، صحيحة كانت أم خاطئة، تأتي من العملية نفسها لتوقع الرمز التالي، فاستشهاد مُختلَق أو دالة برمجية غير موجودة تُقرأ بالثقة الطليقة نفسها التي تُقرأ بها إجابة صحيحة. هذا ما يجعل الهلوسة مختلفة عن عطل برمجي عادي — لا استثناء يُطلَق، ولا علامة تُرفَع، ولا شيء يمكن التقاطه. المخرجات تبدو موثوقة بالقدر نفسه سواء كانت صحيحة أم خاطئة.

لماذا تحدث: توقّع، لا استرجاع

النموذج اللغوي مُدرَّب على توقع استمرارات معقولة للنص، تعلّمها من أنماط في بيانات تدريبه. لا يخزّن حقائق بصيغة قابلة للاسترجاع والتحقق كما تفعل قاعدة بيانات — يخزّن الشكل الإحصائي للغة، بما فيه حقائق كانت شائعة بما يكفي في التدريب لتشكيل ذلك الشكل. حين تطلب مطالبة شيئًا رآه النموذج نادرًا أو بتضارب أو لم يره أبدًا، لا يفشل النموذج في الإجابة؛ بل يُنتِج الاستمرار الأكثر معقولية على أي حال، لأن هذا كل ما يعرف فعله.

وهذا أيضًا سبب تفاقم الهلوسة مع التفاصيل الدقيقة أو النادرة أو الحديثة — قضية قانونية تبدو حقيقية لكنها مختلقة، رقم إصدار معقول لكنه خاطئ، استشهاد يبدو كعنوان بحث حقيقي. كلما ازداد الادعاء دقة، ازداد احتمال أن يكون النموذج يسدّ فجوة بشيء معقول فقط لا شيء معروف.

التأصيل يضيّق الفجوة؛ لا يغلقها

وضع نص مصدر حقيقي أمام النموذج قبل أن يجيب — الاسترجاع، انظر ما هو RAG — يقلّل الهلوسة بشكل ملموس على الأسئلة التي تغطيها تلك المصادر فعلًا، لأن النموذج يستطيع إعادة صياغة ما قرأه للتو بدل التوقع من بيانات التدريب وحدها. لكنه ميل قوي لا ضمان: إن لم يُرجِع الاسترجاع شيئًا مفيدًا، أو كانت المصادر ناقصة، يستطيع النموذج أن يجيب بطلاقة من الذاكرة بدل الاعتراف بأن المصادر لم تُفدْ.

التقاطع بين النماذج مُرشِّح، لا علاج

طرح السؤال نفسه على عدة نماذج ومقارنة الإجابات يلتقط الهلوسات الخاصة بتدريب نموذج واحد أو بخصائصه — إن اختلق نموذج واحد فقط من ثلاثة تفصيلًا، فهذا الاختلاف إشارة. لكنه لا يلتقط هلوسة تشترك فيها معظم النماذج، لأن بيانات التدريب تتداخل بين المزوّدين. الحد نفسه ينطبق على استخدام نموذج منفصل حكمًا لتقييم إجابة: يمكن خداع نموذج الحكم بالنص الواثق والطليق والخاطئ نفسه الذي يُفترض أن يفحصه.

ما الذي يقلّل الهلوسة فعليًا، عمليًا

لا توجد تقنية واحدة تزيل الهلوسة، لأنها خاصية في كيفية توليد هذه النماذج للنص، لا عيب خاص بنموذج أو مزوّد بعينه. ما يساعد فعليًا هو تضييق مهمة النموذج: تأصيل الإجابات في نص مصدر مُسترجَع للأسئلة التي تغطيها المصادر، وإبقاء الطلبات محددة بدل مفتوحة، ومعاملة استشهادات النموذج وأرقامه وتفاصيله المحددة كادعاءات تحتاج تحققًا لا كحقائق مُتحقَّق منها مسبقًا. الجمع بين التقنيات — التأصيل مع التقاطع مع التحقق من مصدر — يقلّص مساحة الخطأ أكثر من أي واحدة منها بمفردها.

لماذا لا يحلّ خفض العشوائية المشكلة

من الشائع افتراض أن خفض إعداد الحرارة (انظر الحرارة وTop-p) يجعل النموذج أكثر صدقًا، لأن المخرجات تبدو أكثر حذرًا وحتمية. تتحكم الحرارة في كيفية اختيار النموذج بين الرموز التالية المحتملة — لا تغيّر ما يعرفه النموذج ولا تضيف خطوة تحقق من الحقائق. يمكن للنموذج أن يهلوس عند حرارة صفر بالثقة نفسها التي يهلوس بها عند حرارة واحد؛ الإعداد الأدنى فقط يجعله يهلوس بالإجابة الخاطئة نفسها بثبات أكبر.

أسئلة يطرحها الناس

هل يمكن إصلاح الهلوسة كليًا؟

لا، ليس بمعماريات النماذج اللغوية الحالية. تنبع من كيفية توليد هذه النماذج للنص — توقع استمرارات معقولة بدل التحقق من الحقائق — لذا يمكن تقليلها بالتأصيل والتقاطع والتحقق، لا إزالتها كفئة كاملة.

هل النموذج الأكبر أو الأحدث يهلوس أقل؟

غالبًا أقل في المعرفة الشائعة، لأن جزءًا أكبر منها كان ممثَّلًا جيدًا في التدريب. لكن هذا لا يزيل الآلية الأساسية — يمكن لنموذج أحدث أن يهلوس بثقة في تفاصيل نادرة أو محددة أو حديثة لم يُدرَّب عليها جيدًا.

هل الهلوسة هي نفسها كذب النموذج؟

لا. الكذب يفترض معرفة الحقيقة وذكر خلافها. لا يملك النموذج قناة منفصلة لـ«الحقيقة» يقارن مخرجاته بها — إنه يُنتِج الاستمرار الأكثر احتمالًا إحصائيًا سواء صادف أن يكون دقيقًا أم لا.

هل إعطاء النموذج مستنداتك الخاصة يوقف الهلوسة؟

يقلّلها بشكل كبير للأسئلة التي تجيب عنها تلك المستندات فعلًا، لأن النموذج يستطيع إعادة صياغة نص مُسترجَع بدل التوقع من بيانات التدريب. لكنه لا يمنع النموذج من الإجابة بطلاقة من الذاكرة حين لا يجد الاسترجاع شيئًا ذا صلة.