تسأل «شات بوت» عن تاريخ ميلاد شخصية معروفة، فيجيبك بثقة وبصياغة أنيقة، ثم تكتشف أن الجواب مختلق من أوله إلى آخره. هذه ظاهرة «الهلوسة» التي تواجه كل محركات الذكاء الاصطناعي اللغوية، ولا تقتصر على شركة بعينها.
ما المقصود بالهلوسة؟
هي عبارات تبدو مقنعة لكنها خاطئة، يولّدها النموذج اللغوي، وقد تظهر حتى في أسئلة تبدو بسيطة. وقد جرّب باحثو «أوبن إيه آي» ذلك بسؤال النموذج عن تاريخ ميلاد أحد الباحثين، فـأعطى ثلاثة تواريخ مختلفة، وكلها خاطئة.
لماذا يختلق المحرك المعلومات؟
لأنه في الأصل لا «يعرف» بالمعنى البشري، بل يتنبأ بالكلمة التالية. فهو يتعلم أولاً بالتدرب على توقع الكلمة التالية في كميات ضخمة من النصوص، من دون أن تُرفق بكل جملة علامة «صحيح» أو «خطأ». وبالتالي يصعب عليه التفريق بين الحقيقة وما يشبهها، إذ لا يرى إلا أمثلة على اللغة السليمة، ويحاول تقليد توزيعها العام.
أما السبب الثاني فهو طريقة تقييم النماذج. تقول دراسة نشرتها «أوبن إيه آي» في أيلول 2025 إن التدريب والتقييم يكافئان التخمين أكثر من الاعتراف بعدم اليقين. والأمر أشبه باختبار متعدد الخيارات: إن خمّن النموذج تاريخ ميلاد فقد يصيب بنسبة 1 من 365، أما قول «لا أعرف» فيعني صفراً مضموناً.
قارنت الشركة بين نموذجين في اختبار SimpleQA. النموذج الأقدم كان أدق قليلاً (24% مقابل 22%)، لكن نسبة أخطائه بلغت 75%، مقابل 26% للنموذج الأحدث، الذي امتنع عن الإجابة في 52% من الحالات. أي أن النموذج الذي يخمّن كثيراً يبدو أفضل على لوائح الترتيب، رغم أنه أقل موثوقية.
هل المشكلة محلولة؟
لا. تقرّ الشركة بأن الهلوسة ما زالت تحدياً أساسياً لكل النماذج اللغوية، وإن كانت النماذج الأحدث تهلوس أقل. وتقترح الدراسة تعديل مقاييس التقييم الرئيسية بحيث تعاقب التخمين الواثق.
كيف تكتشف الهلوسة؟
هذه نصائح عملية من الخبرة العامة:
1. تحقق من الأرقام والتواريخ والأسماء: هي أكثر ما يُختلق.
2. اطلب المصدر، ثم افتحه: الروابط والمراجع قد تكون وهمية أيضاً.
3. أعد صياغة السؤال: إن تغيّرت الإجابة جوهرياً، فاحذر.
4. اسأل صراحة: «هل أنت متأكد؟ وما مدى ثقتك؟»، أو اسمح له بقول «لا أعرف».
5. ازداد حذراً في المواضيع الحساسة: الطب والقانون والمال تحتاج مراجعة مختص.
6. استعن بالبحث المباشر: الأدوات المتصلة بالإنترنت تقلل الخطأ لكنها لا تلغيه.
إقرأ أيضاً: ماذا عن قانون العقوبات في جرم التواصل مع العدو؟
