كيف تقلل من هلوسة الذكاء الاصطناعي: اجعل عدة نماذج تتناظر وتتحقق من الحقائق
الهلوسة ليست خطأً يدركه النموذج بنفسه، بل هي إجابة واثقة وسلسة تصادف أنها خاطئة. اسأل نموذجًا واحدًا سؤالًا واقعيًا، وستحصل على النبرة نفسها سواء كانت الإجابة صحيحة أو نصف صحيحة أو مصدرًا مختلَقًا بالكامل. لا يوجد من يعترض.
لا يمكنك إيقاف هلوسة نموذج واحد بمجرد أن تطلب منه ذلك بلطف. ما يمكنك تغييره هو العملية المحيطة به: اجعل عدة نماذج من جهات مختلفة تتناقش حول السؤال نفسه، ثم تحقّق من الادعاءات الناجية مقارنةً بالويب الحي. يشرح هذا الدليل سبب انخفاض معدل الخطأ بهذه الطريقة وكيفية إعدادها.
لماذا يهلوس النموذج الواحد دون رقابة
تُدرَّب نماذج اللغة على إنتاج نص معقول، لا على معرفة متى تكون مخطئة. عندما تكون بيانات التدريب شحيحة أو متناقضة، يستمر النموذج في الإجابة رغم ذلك — فيملأ الفجوة بأكثر استكمال يبدو منطقيًا، وقد يكون إحصائية مختلَقة، أو تاريخًا مستذكَرًا بشكل خاطئ، أو مرجعًا غير موجود أصلًا.
تكشف الدراسات المتعلقة بسلوك النماذج باستمرار عادتين تزيدان المشكلة سوءًا: التملّق (الموافقة على صياغة المستخدم للسؤال)، وضعف المعايرة (نادرًا ما يشير النموذج إلى عدم يقينه). عندما يعمل النموذج بمفرده، لا يكون له خصم ولا سبب لوضع علامة على ادعاء هشّ — فيمر هذا الادعاء الهش كما هو.
كيف تلتقط المناظرة (debate) ما يفوّته نموذج واحد
اطرح السؤال نفسه على نماذج دربتها شركات مختلفة على بيانات مختلفة، واجعلها تردّ على بعضها البعض. الآن يجب على كل ادعاء أن ينجو من الاستجواب المتبادل: يشكك Grok في افتراض Claude، ويطلب GPT من Gemini تقدير عبارة غامضة برقم محدد، والرقم الذي يؤمن به نموذج واحد فقط يتم تحديه بدلًا من قبوله.
هذه وسيلة خشنة لكنها فعّالة لضبط التحيّز. تختلف خيارات المحاذاة (alignment) ومجموعات التدريب وسلوك الرفض من جهة لأخرى، لذا فإن الادعاء الذي تدافع عنه أربعة نماذج متنافسة يصعب نسبته إلى نزوة نموذج واحد. غالبًا ما تموت الحجج الضعيفة في الجولة الثانية بدلًا من أن تصل إلى إجابتك النهائية.
- نموذج واحد: لا يوجد خصم — يُطرح الادعاء الخاطئ بنفس ثقة الادعاء الصحيح
- مناظرة (debate): يجب على النماذج المتنافسة مهاجمة أضعف أدلة بعضها البعض
- يُتتبَّع الاتفاق في كل جولة، بحيث يكون "توصّلوا إلى اتفاق" مختلفًا عن "تحدث أحدهم لفترة أطول"
- وضع Council (في النسخة Pro): تقيّم النماذج إجابات بعضها البعض بشكل مجهول الهوية، مما يقلل من التحيز للعلامة التجارية
التحقق من الحقائق كمرحلة منفصلة، لا كوعد
تقلل المناظرة من التفكير الرديء، لكنها بذاتها لا تتحقق من الحقائق. لهذا السبب تُجرى مرحلة تحقق منفصلة بعد المناظرة: تستخرج هذه المرحلة كل تصريح واقعي مستقل من النص الكامل، وتتحقق من كل واحد منها بشكل مستقل عبر بحث خاص به على الويب.
الناتج جدول لكل ادعاء على حدة — VERIFIED (تم التحقق) أو DISPUTED (محل خلاف) أو FALSE (خاطئ) أو UNVERIFIABLE (يتعذر التحقق) — مع روابط المصدر بجانب كل حكم. لست مطالبًا بالثقة بعلامة خضراء؛ يمكنك فتح المصدر ومراجعة أي ادعاء بنقرة واحدة. هذا يحوّل عبارة "قال الذكاء الاصطناعي ذلك" إلى إجراء قابل للتحقق.
إعداد عملي لخفض معدل الخطأ لديك
اختر ثلاثة نماذج على الأقل من جهات مختلفة، فعّل خاصية Fact-check، وصِغ السؤال بحيث يمكن مناقشته من أكثر من زاوية. بالنسبة لأي مسألة حساسة زمنيًا أو رقمية، فعّل الوصول إلى الويب لكي تستند النماذج في ادعاءاتها إلى مصادر حالية بدلًا من ذاكرتها التدريبية.
ثم اقرأ جدول الأحكام قبل النص السردي: تعامل مع الادعاءات المصنّفة DISPUTED وUNVERIFIABLE كأسئلة مفتوحة، وتتبّع المصادر في كل ما هو مهم، واحتفظ بالنص الكامل المُصدَّر كسجل تدقيق لديك. الهدف ليس نموذجًا لا يخطئ أبدًا، بل عملية تُكتشَف فيها الأخطاء قبل أن تعتمد عليها.
الأسئلة الشائعة
هل يؤدي استخدام عدد أكبر من النماذج إلى القضاء التام على الهلوسة؟
لا — فهو يخفض المعدل ويُظهر نقاط الخلاف، لكن نقاط العمى المشتركة بين النماذج قد تستمر رغم ذلك. لهذا تتحقق مرحلة التحقق من الادعاءات مقابل مصادر ويب حية يمكنك فتحها بنفسك، بدلًا من الاكتفاء بالثقة في توافق الآراء وحده.
هل المناظرة أبطأ وأكثر تكلفة من نموذج واحد؟
تكلفتها أعلى من إجابة نموذج واحد لأن عدة نماذج تعمل معًا ثم تتحقق مرحلة تحقق من الادعاءات. بالنسبة للقرارات التي يكون فيها ثمن الإجابة الخاطئة الواثقة باهظًا، تستحق هذه المقايضة عادة العناء؛ أما بالنسبة للأسئلة البسيطة، فمحادثة واحدة تكفي.
هل يمكنني معرفة بالضبط أي الادعاءات تم التحقق منها؟
نعم. تُنتج مرحلة التحقق جدولًا لكل ادعاء على حدة يوضح التصنيف VERIFIED / DISPUTED / FALSE / UNVERIFIABLE مع رابط المصدر لكل واحد، ويمكن تصدير النص الكامل بصيغة PDF أو DOCX.
خطة مجانية · استخدم مفاتيح API الخاصة بك · 15 لغة