لماذا يختلق شات بوت الذكاء الاصطناعي الإجابات؟ أسباب الهلوسة وما يقللها

يختلق شات بوت الذكاء الاصطناعي الإجابات لأن النموذج اللغوي يكتب الجواب الذي يبدو أكثر ترجيحًا، صحيحًا كان أم خاطئًا. فإذا خلا محتواك من الجواب، أو أعطى البحثُ النموذجَ الصفحة الخطأ، ملأ الفراغ من عنده. ويقلل ذلك أن يجيب من محتواك وحده، وأن يقول «لا أعرف»، وأن يحوّل المحادثة إلى شخص.

جمعنا هنا ما تقوله OpenAI وAnthropic وGoogle عن المشكلة في وثائقها، كما قرأناها في 21 أكتوبر 2026، والاقتباسات منها بترجمتنا. ثم الخطوات الأنفع في شات بوت يجيب العملاء.

ما هي هلوسة الذكاء الاصطناعي؟

تعرّف OpenAI الهلوسة بأنها «عبارات معقولة لكنها خاطئة تولّدها النماذج اللغوية»، في مقالة بحثية نشرتها في سبتمبر 2025. ويصفها شرح Google Cloud بأنها «نتائج غير صحيحة أو مضللة»، ويقول إنها قد تصل إلى «اختلاق روابط لصفحات ويب لم توجد قط». وفي شات بوت الموقع تبدو الهلوسة عادية تمامًا: مهلة إرجاع أطول بأسبوع، أو خدمة توقفت عن تقديمها، أو سعر العام الماضي، أو رقم هاتف تبادل فيه رقمان مكانيهما.

لماذا يختلق الشات بوت الإجابات؟

تذكر مقالة OpenAI سببين. الأول طريقة تعلّم النماذج. في مرحلة التدريب المسبق يتوقع النموذج الكلمة التالية في كميات هائلة من النصوص، ولا توجد تسمية «صحيح» أو «خطأ» مرفقة بكل عبارة. الأنماط المنتظمة مثل الإملاء تخرج صحيحة، أما «الحقائق الاعتباطية قليلة التكرار»، مثل تاريخ ميلاد حيوان أليف، فلا «يمكن توقعها من الأنماط وحدها». ومواعيد عمل متجرك يوم الجمعة من هذا النوع بالضبط.

السبب الثاني طريقة تقييم النماذج. تشبّه OpenAI الأمر باختبار اختيار من متعدد: التخمين قد يصيب بالصدفة، أما ترك السؤال فارغًا فدرجته صفر. لذلك فالنماذج التي تُقيَّم بالدقة وحدها «تُدفع إلى التخمين بدل أن تقول لا أعرف». ومثالها من اختبار SimpleQA يبيّن المقايضة. نموذج أقدم هو o4-mini أصاب في 24% من الأسئلة وأخطأ في 75% منها. ونموذج أحدث هو gpt-5-thinking-mini أصاب في 22% وأخطأ في 26%، لأنه امتنع عن الإجابة في أكثر من نصف الأسئلة.

من أين تأتي الإجابات الخاطئة في شات بوت نشاطك التجاري؟

شات بوت النشاط التجاري ينبغي أن يجيب من محتواك، لا مما يتذكره النموذج. هذا ينقل المشكلة إلى مكان آخر ولا يلغيها. يحدد دليل OpenAI لتحسين الدقة موضعين للخلل. في الاسترجاع «قد تقدّم سياقًا خاطئًا، فلا يستطيع النموذج الإجابة أصلًا، أو تقدّم سياقًا كثيرًا غير مهم يُغرق المعلومة الحقيقية ويسبب الهلوسة». وقد «يحصل النموذج على السياق الصحيح ثم يتصرف به خطأ». وعمليًا تبدو الأسباب هكذا:

• الجواب ليس في محتواك. لم يكتب أحد مواعيد العمل في رمضان أو في إجازة العيد، فيخمّن النموذج.
• المحتوى قديم. قائمة أسعار قديمة ما زالت منشورة، أو آخر مرة قرأ فيها الشات بوت موقعك كانت قبل أشهر.
• البحث وجد صفحة قريبة. يسأل العميل عن التوصيل إلى الكويت، فيسحب الشات بوت صفحة التوصيل داخل السعودية ويجيب منها.
• المعرفة العامة تملأ الفراغ. عبارة مثل «أغلب المتاجر تقبل الإرجاع خلال 30 يومًا» تصبح سياستك دون أن ينتبه أحد.
• رقم يُحسب. يجمع النموذج إجماليًا، أو يحوّل السعر من الدولار إلى الريال، أو يطبق خصمًا من تلقاء نفسه.

كيف تقلل هلوسة الشات بوت؟

لا يقدّم دليل أي من الشركات الثلاث مفتاحًا واحدًا يحل المشكلة. ونصائحها، حين تُطبَّق على شات بوت يكلّم العملاء، تتلخص في ست عادات.

1. الإجابة من محتواك وحده. يذكر دليل Anthropic لتقليل الهلوسة تقييد المعرفة الخارجية: أن تطلب من النموذج استخدام المستندات المقدمة فقط، لا معرفته العامة. ويقول دليل Google Cloud عن الإسناد (grounding)، المحدّث في 20 أكتوبر 2026، إن ربط النموذج بمصادر بياناتك «يربط مخرجاته بهذه البيانات ويقلل احتمال اختلاق المحتوى». ويشرح مقالنا عن شات بوت RAG كيف يجري هذا البحث في محتواك.
2. اجعل «لا أعرف» جوابًا مقبولًا. أول أسلوب في دليل Anthropic أن تعطي النموذج إذنًا صريحًا بالاعتراف بعدم اليقين، ويقول إن هذا الأسلوب البسيط «يمكن أن يقلل المعلومات الخاطئة كثيرًا». وتقول مقالة OpenAI إن «الأخطاء أسوأ من الامتناع». واجعل مع «لا أعرف» خطوة تالية، مثل تحويل المحادثة إلى شخص.
3. اعرض المصادر. يقترح دليل Anthropic أن يكون الرد «قابلًا للتدقيق»، بذكر الاقتباسات والمصادر لكل ادعاء. ويعدّ دليل Google قابلية التدقيق من فوائد الإسناد، عبر روابط إلى المصادر. الزائر الذي يستطيع فتح الصفحة التي جاء منها الجواب يستطيع أن يتحقق منه، وكذلك أنت.
4. أبعد الأسعار والأرقام عن النص الحر. احتفظ بصفحة أسعار واحدة محدّثة واحذف القديمة. واطلب من الشات بوت ألا يذكر رقمًا إلا إذا ورد حرفيًا في محتواك، واترك كل ما يحتاج إلى حساب، مثل عرض السعر أو الإجمالي أو الخصم، لشخص من فريقك أو لنظامك أنت.
5. حوّل المحادثة، ثم اقرأ ما فاته. الأسئلة التي لم يستطع الإجابة عنها، والأجوبة التي قال الزائر إنها لم تفده، هي قائمة المحتوى الذي ينقصك. ويشرح دليل الوصول إلى موظف بشري كيف يجري التحويل.
6. اختبره بأسئلة حقيقية. يعدّ دليل الدقة لدى OpenAI مجموعة من 20 سؤالًا أو أكثر، بأجوبة صحيحة معروفة، نقطة الأساس التي يُقاس عليها. استخدم أسئلة يرسلها عملاؤك فعلًا، والمحرجة منها أيضًا، وأعد طرحها بعد كل تغيير في محتواك.

هل يمكن منع الشات بوت من الهلوسة تمامًا؟

لا. يختم دليل Anthropic بأن أساليبه «تقلل الهلوسة كثيرًا» لكنها «لا تقضي عليها تمامًا»، ويطلب التحقق من المعلومات المهمة دائمًا. وتقول مقالة OpenAI إن الدقة «لن تصل أبدًا إلى 100%» لأن بعض الأسئلة لا جواب لها أصلًا، لكن الهلوسة ليست حتمية «لأن النماذج اللغوية تستطيع الامتناع حين لا تكون متأكدة». الهدف الواقعي شات بوت يصيب حين يجيب، ويصارح العميل حين لا يعرف، ووراءه شخص لما تبقى.

كيف يتعامل MagizAI مع الإجابات الخاطئة؟

يجيب شات بوت MagizAI من صفحات موقعك وملفاتك والأجوبة التي تكتبها. وتطلب تعليماته الافتراضية من النموذج أن يجيب من هذا المحتوى ومن نتائج الأدوات ومن المحادثة فقط، وإن لم يجد الجواب فيها أن يقول ذلك ويعرض توصيل الزائر بفريقك. وتنص قاعدة الأرقام على أن كل سعر واسم باقة وحد ونسبة وتاريخ يذكره يجب أن يرد حرفيًا في المحتوى الذي أُعطي له. هذه القاعدة تعليمات للنموذج وليست فحصًا في الكود، ولذلك تبقى صفحة أسعار واحدة محدّثة مهمة.

وحين لا يجد البحث ما يكفي لدعم الجواب، تُضاف تعليمات تطلب من النموذج ألا يخمّن. وإعداد اسمه «الإجابة من المعرفة المدرَّبة فقط» يمنعه من الرجوع إلى المعرفة العامة للنموذج، وهو معطّل في الشات بوت الجديد ومفعّل في قالب العيادات. تظهر تحت الجواب ثلاثة مصادر على الأكثر، برابط حين يكون المصدر صفحة ويب، إلا إذا أوقفت ذلك. والأسئلة التي أُجيب عنها دون محتوى يدعمها، والأجوبة التي قيّمها الزائر بعلامة عدم الإعجاب، تذهب إلى قائمة فجوات المعرفة. والزائر الذي يطلب شخصًا تنتقل محادثته كاملة إلى صندوق وارد فريقك. ويوضح دليل تدريب الذكاء الاصطناعي مكان كل إعداد من هذه.