لماذا يختلق الذكاء الاصطناعي المعلومات: 7 فحوص تكشف الهلوسة

يختلق الذكاء الاصطناعي المعلومات لأن النموذج اللغوي مصمم لإنتاج الكلمات الأكثر احتمالاً للظهور بعد ما سبقها، لا للتحقق من صحتها، ولأن طريقة تدريب النماذج وتقييمها تكافئ التخمين الواثق أكثر من الاعتراف الصادق بعبارة "لا أعرف". يشرح هذا الدليل الآلية بلغة بسيطة، ومدى تكرار الظاهرة في النماذج الحالية، وما كلفته ثلاث شركات، والفحوص السبعة التي تكشفها.

لعلك رأيت ذلك بنفسك: روبوت محادثة يستشهد بلائحة لا وجود لها، أو يقتبس إحصائية لم يُنتجها أي استطلاع، أو يذكر مورّداً لا تجده في أي مكان. تسمى هذه الظاهرة هلوسة، وليست خللاً سيزيله التحديث القادم. فقد كتب باحثو OpenAI أنفسهم في سبتمبر 2025 أن النماذج تنتج "أكاذيب مقنعة وواثقة أكثر من اللازم" لأن تدريبها وتقييمها "يكافئان التخمين على الاعتراف بعدم اليقين". وفهم سبب اختلاق الذكاء الاصطناعي للمعلومات هو الفرق بين أداة توفر عليك يوماً كل أسبوع وأداة تضع رقماً مزيفاً أمام عميل أو بنك أو محكمة.

ما يلي هو الشرح الذي يحتاجه صاحب العمل المشغول، لا محاضرة في علوم الحاسوب: كيف تعمل الآلة فعلاً، وأين تتركز الأخطاء، وثلاث حالات حقيقية مع الفاتورة، وما تقوله الشركات المطورة نفسها، ثم الفحوص السبعة. ويتناول القسم الأخير كيف يغيّر وكيل ذكاء اصطناعي يعرض مصادره ومتصفحه المشكلة، وما لا يزال عاجزاً عن فعله نيابةً عنك.

كيف راجعنا هذا الدليل

1. مصادر أولية فقط للآلية: ورقة OpenAI البحثية بتاريخ 4 سبتمبر 2025 وتصريحات الجهات الرقابية التي تنقل عن الشركات المطورة.
2. معدلات مقيسة من لوحة ترتيب عامة قُرئت في 22 أكتوبر 2026 مع ذكر منهجها، لأن معدل الهلوسة بلا منهج هو نفسه نوع من الهلوسة.
3. سجلات المحاكم والحكومات للحالات الثلاث، لا ملخصات الأخبار.
4. صفحات المساعدة الخاصة بالشركات المطورة لمعرفة ما تقوله ChatGPT وClaude عن حدودهما.
5. فحوص يستطيع غير المتخصص تنفيذها في أقل من دقيقة، بلا أداة سوى مربع البحث.

ما الهلوسة ولماذا تحدث

يعمل النموذج اللغوي الكبير بالتنبؤ بالنص الأكثر احتمالاً أن يلي النص الذي أُعطيه. وعندما حذّرت Solicitors Regulation Authority (SRA) (هيئة تنظيم المحامين في إنجلترا وويلز) المهنة القانونية في نوفمبر 2023، قالتها بوضوح: هذه الأدوات "تعمل بتوقع النص الذي ينبغي أن يلي المدخل المعطى لها، لكن ليس لديها مفهوم عن الواقع". اطلب قضية تدعم حجتك فينتج النموذج شيئاً يشبه القضايا: اسماً معقولاً وسنة معقولة واقتباساً معقولاً. لا شيء داخله يتحقق من وجود القضية، لأن لا شيء داخله بُني لذلك.

السبب الثاني هو طريقة تقييم النماذج. ففي ورقتهم "Why language models hallucinate" الصادرة في سبتمبر 2025، بيّن أربعة باحثين من OpenAI أن الاختبارات المعيارية تكافئ الإجابة الواثقة ولا تمنح شيئاً لمن يعترف بعدم اليقين، حتى إن "الامتناع عن الإجابة، في ظل التقييم الثنائي، هو بالتأكيد الخيار الأدنى". النموذج الذي يخمّن ينال درجات أكثر من النموذج الذي يقول إنه لا يعرف، كما يتفوق الطالب الذي يخمّن في اختبار الاختيار من متعدد على من يترك السؤال فارغاً. عادة التخمين متعلَّمة، وهي متعلَّمة لأنها تربح.

والأرقام التي نشرتها OpenAI مع الورقة توضح هذه المقايضة. ففي أحد اختبارات الحقائق، امتنع نموذج مضبوط على الامتناع عن الإجابة عن 52% من الأسئلة، وأصاب في 22% وأخطأ في 26%؛ أما نموذج سابق يكاد لا يمتنع أبداً فأصاب في 24% وأخطأ في 75%. جاء انخفاض الأخطاء من مزيد من "لا أعرف"، لا من مزيد من المعرفة. هذه هي القصة كلها في جدول واحد، ولهذا تبدأ الفحوص أدناه بإذن قول "لا".

كم تتكرر في 2026

الجواب الصادق: "بما يكفي لأن تفحص دائماً". تقيّم لوحة ترتيب الهلوسة لدى Vectara، المحدثة في 22 أكتوبر 2026، النماذج في مهمة ضيقة واحدة: تلخيص مستند مُعطى لها، ثم عدّ المرات التي يتضمن فيها الملخص شيئاً لا يقوله المستند. وحتى مع وجود الحقائق أمامها، اختلقت النماذج الرائجة مادة في نسبة قابلة للقياس من الملخصات.

يبرز أمران. الأحدث والأكبر لا يعني الأكثر أماناً: فقد سجّل إعداد GPT-5 الصادر في أغسطس 2025 نتيجة أسوأ من GPT-4o الأقدم بعام في هذا الاختبار. وهذه أرقام "تأريض" مع توفير المصدر؛ أما حين يضطر النموذج إلى استدعاء الحقائق من ذاكرته فالمعدلات أعلى.

وتتفق الدراسات المتخصصة مع ذلك. فقد أفاد باحثون في Annals of the Royal College of Surgeons of England في أبريل 2026 بأن 108 إجابات من روبوتات المحادثة عن أسئلة جراحية، تضمنت 1,249 مرجعاً، اختلقت فيها أسوأ النماذج أو عجزت عن إثبات ما بين 25% و34% من استشهاداتها، بينما لم ينتج أفضلها أي اختلاق. ووجدت رسالة في The Lancet في مايو 2026 أن نحو بحث واحد من كل 277 بحثاً حديثاً في PubMed يحمل مراجع مختلقة، مقابل واحد من كل 2,828 في 2023. وبيّنت دراسة من Stanford لأدوات البحث القانوني التي تستخدم الاسترجاع أنها ما زالت تهلوس بنسبة تتراوح بين 17% و33% من الوقت. الاسترجاع يساعد، لكنه لا ينهي المشكلة.

كم كلّفت: ثلاث حالات

نيويورك، يونيو 2023. في قضية Mata v Avianca، قدّم محاميان مذكرة تتضمن قضايا لا وجود لها ولّدها ChatGPT، وفرضت المحكمة غرامة قدرها 5,000 دولار. كانت أول حالة تُنشر على نطاق واسع، وهي اليوم واحدة من أكثر من 2,200 قرار قضائي حول العالم تتعلق باستشهادات مختلقة بالذكاء الاصطناعي، تتبعها قاعدة بيانات عامة يديرها المحامي Damien Charlotin.

لندن، يونيو 2025. في قضيتي Ayinde v Haringey وAl-Haroun v Qatar National Bank، نظرت High Court (المحكمة العليا) في قضيتين معاً: ذكرت إحدى المذكرات خمس قضايا لا وجود لها، وذكرت الأخرى 45 مرجعاً كان 18 منها مختلقاً. وكتب رئيس King's Bench Division أن الأدوات التوليدية "غير قادرة على إجراء بحث قانوني موثوق" و"قد تستشهد بمصادر لا وجود لها"، وأن على المحامين واجباً مهنياً "للتحقق من دقة هذا البحث بالرجوع إلى مصادر موثوقة"، وأن عواقب التقصير فيه قد تشمل إجراءات ازدراء المحكمة والإحالة إلى الشرطة. ومنذ ذلك الحين أصدرت Solicitors Regulation Authority إشعار تحذير (17 أغسطس 2026) يسمّي "القضايا أو المراجع الوهمية أو الادعاءات التي تبدو واقعية" ويذكّر المحامين بأنهم يظلون مسؤولين عن المخرجات.

كانبيرا، أكتوبر 2025. سلّمت Deloitte Australia تقريراً إلى إحدى الوزارات بموجب عقد قيمته 440,000 دولار أسترالي. تضمن التقرير اقتباساً مختلقاً منسوباً إلى حكم قضائي ومراجع إلى أبحاث أكاديمية لا وجود لها. ونشرت الشركة نسخة مصححة في 3 أكتوبر 2025، وأفصحت للمرة الأولى عن استخدام نموذج Azure OpenAI، وردّت الدفعة الأخيرة البالغة نحو 98,000 دولار أسترالي. أنجز العمل شركة مهنية كبرى لديها عملية مراجعة، ومع ذلك مرّ الاختلاق، لأن أحداً لم يفتح المراجع.

لم يكن أي من هؤلاء هاوياً مهملاً. كانوا محترفين مشغولين عدّوا المخرجات الطلقة مخرجات مفحوصة. هذا هو الخطأ الذي ينبغي تجنبه، وتجنبه ممكن.

ما تقوله الشركات المطورة نفسها

تسرد وثائق Anthropic الخاصة بـ Claude وسائل التخفيف المعتادة، ومنها السماح للنموذج بقول "لا أعرف" وطلب الاقتباس منه قبل الإجابة وحصره في مستندات مُقدَّمة، ثم تضيف أنها "لا تقضي عليها تماماً. تحقق دائماً من المعلومات الحساسة". وتقول مقالة الدعم لديها عن الإجابات الخاطئة، المحدثة في مارس 2026، بوضوح إن Claude "قد ينتج أحياناً إجابات خاطئة أو مضللة" ولا ينبغي الاعتماد عليه بوصفه "مصدراً وحيداً للحقيقة". وتقول صفحة مساعدة OpenAI عن مدى صدق ChatGPT الأمر نفسه: يمكنه اختلاق الاستشهادات، وعليك أن تتحقق. وأشارت ICO (هيئة مفوض المعلومات في المملكة المتحدة)، في عملها عام 2024 حول الذكاء الاصطناعي التوليدي، إلى أن بيانات التدريب الدقيقة حتى "لن توقف" النماذج عن إنتاج عبارات كاذبة، وتكرر مراجعة FCA (هيئة السلوك المالي) في أكتوبر 2026 للذكاء الاصطناعي في الخدمات المالية أن الشركات "تظل مسؤولة عن نتائج المستهلكين" أياً كانت الأداة التي أنتجتها.

وبقراءتها معاً، تتسق رسالة من يبنون هذه الأدوات ومن ينظمونها: استخدموها، وافحصوها.

الفحوص السبعة التي تكشف الهلوسة

1. اطلب المصدر ثم افتحه

سيقدّم النموذج مرجعاً بكل رضا عند الطلب؛ والاختبار هو هل يفتح المرجع ويقول ما يزعم النموذج أنه يقوله. كان في تقرير Deloitte مراجع. لم يفتحها أحد. فإن كان الرابط ميتاً، أو البحث غير موجود، أو الصفحة تقول شيئاً مختلفاً، صارت الإجابة كلها موضع شك، لا ذلك السطر وحده.

2. تحقق من الأسماء والأرقام والتواريخ والاقتباسات واحداً واحداً

في هذه الفئات الأربع يتركز الاختلاق، لأنها أجزاء الجملة التي يصعب التنبؤ بها من السياق. والاقتباس أسهلها فحصاً: الصقه في محرك بحث بين علامتي تنصيص. وينبغي أن تقود الإحصائية إلى استطلاع له عينة وتاريخ، كما يسمّي هذا الدليل دراسة Royal College of Surgeons ومراجعها البالغة 1,249.

3. اسأل مرتين، أو اسأل نموذجاً ثانياً

الحقيقة التي تصمد أمام إعادة الصياغة أرجح أن تكون حقيقة. اسأل السؤال نفسه بصياغة مختلفة، أو الصقه في منتج ثانٍ (ChatGPT وClaude وGemini وMicrosoft Copilot وManus وMuse من Meta، كلها تتصرف بشكل مختلف مع الطلب نفسه). اتفاق نموذجين ليس دليلاً، لكن اختلافهما إشارة موثوقة إلى ضرورة الفحص.

4. أعطه المستند وقيّده به

أرقام لوحة الترتيب أعلاه هي أفضل الحالات، مع توفير المصدر؛ والاستدعاء من الذاكرة أسوأ. لذا قدّم المصدر. أرفق العقد أو الجدول أو اللائحة، واطلب من النموذج أن يجيب منه فقط وأن يقتبس السطر الذي استخدمه، ثم اقرأ الاقتباس. وإن عجز عن اقتباس سطر، فالإجابة لم تأتِ من المستند.

5. أذن له بقول "لا أعرف"

لأن التدريب يكافئ التخمين، عليك أن تغيّر نظام التقييم داخل الطلب. جملة "إن لم تكن متأكداً فقل ذلك وأخبرني بما ينبغي أن أتحقق منه" هي أنجع جملة في هذا الدليل؛ فهي المعادل المكتوب للنموذج الممتنع في جدول OpenAI، ولا تكلفك شيئاً.

6. أعد الحساب

النماذج اللغوية تتنبأ بالنص ولا تحسب ما لم تشغّل شيفرة. مجموع يختلف بسطر واحد، ونسبة مئوية من قاعدة خاطئة، وتاريخ يخطئ بسنة: تبدو كلها صحيحة لأن الجملة المحيطة بها صحيحة. اجمع العمود بنفسك، أو اطلب من وكيل ينفذ الحساب في جدول بيانات ويعرضه.

7. اعتبر المال والقانون والصحة والسمعة مسودة

لم ينقص المحامين في لندن ولا المستشارين في كانبيرا الذكاء؛ نقصتهم قاعدة. والقاعدة هي أن كل ما يصل إلى عميل أو جهة تنظيمية أو مُقرِض أو محكمة يبقى مسودة حتى يتحقق شخص معروف الاسم من الوقائع فيه. دوّن هذه القاعدة، وتمنحك سياسة الذكاء الاصطناعي في سياسة الذكاء الاصطناعي للأعمال الصغيرة: قالب مجاني النسخة ذات الصفحة الواحدة.

أين تقع الأعمال الصغيرة في الفخ غالباً

• عروض الأسعار والتقديرات. النموذج الذي تطلب منه "الأسعار المعتادة" يختلق أسعاراً معتادة. استخدم بطاقة أسعارك أو مصدراً مسعَّراً.
• الصياغة القانونية والضريبية. تتغير الحدود والتواريخ والغرامات كل أبريل؛ وقد تكون ذاكرة النموذج قديمة بعامين. راجع GOV.UK.
• تفاصيل الموردين والمنتجات. أرقام الطرازات والتوافق والمواصفات هي بالضبط النص الكثيف الصعب التنبؤ الذي يُختلق.
• التقييمات والشهادات. لا تدع النموذج يكتب تقييماً أو اقتباساً من عميل. فإضافة إلى كونها مختلقة، فالتقييمات المزيفة غير قانونية في المملكة المتحدة بموجب Digital Markets, Competition and Consumers Act 2024.
• ترجمة الأرقام. حين يترجم النموذج مستنداً قد تتبدل الأرقام. قارن كل رقم في النسخة المترجمة بالأصل.

كيف يغيّر وكيل الذكاء الاصطناعي المشكلة

يعطيك روبوت المحادثة إجابة ويترك الفحص لك. أما الوكيل فيستطيع أن يقوم ببعض الفحص ضمن المهمة نفسها، ولهذا تهم الآليات عند اختيار أحدهما.

• يعرض مصادره. الوكيل الذي يتصفح يعيد الصفحات التي قرأها، فيصبح الفحص 1 نقرة بدل بحث. Jobbit Research يرفق المصادر بكل نتيجة في التقرير الذي يكتبه.
• يعمل في متصفح يمكنك مشاهدته. حين يفتح الوكيل صفحة، ترى الصفحة. ويمكن تتبع الرقم الوارد في التقرير إلى الشاشة التي جاء منها.
• يعمل من مستنداتك. أرفق العقد أو الجدول في مشروع Jobbit فيجيب الوكيل من الملف مع اقتباس السطر، وهذا هو الفحص 4 بشكل افتراضي.
• يجري الحساب في جدول بيانات لا في النثر. اطلب توقعاً للتدفق النقدي فيبني الوكيل الجدول ويعرض المعادلات؛ فالحساب قابل للتكرار.
• يسأل قبل أن ينفق أو يرسل. الوكيل الذي يتوقف طلباً للموافقة قبل إرسال بريد إلكتروني يمنح الفحص 7 نقطة توقف مدمجة.
• يمكن أن يُطلب منه الامتناع. تعليمات المشروع مثل "قل متى لا تكون متأكداً واذكر ما ينبغي التحقق منه" تنطبق على كل محادثة، فيُضبط الفحص 5 مرة واحدة.

ChatGPT وClaude وGemini وMicrosoft Copilot وManus وMuse من Meta كلها تصوغ المسودات جيداً، ويتصفح عدد منها الآن ويستشهد. لكن ما لا يزيله أي منها هو الفحص الأخير على يد إنسان، وكذلك Jobbit. ما تضيفه Jobbit هو شبكة بشرية: فحين تكون المهمة عقد إيجار أو إقراراً ضريبياً أو مطالبة طبية، يستطيع الوكيل إسناد الفحص إلى متخصص موثوق داخل الطلب نفسه بدلاً منك في الحادية عشرة ليلاً.

خطتك لهذا الأسبوع

• الاثنين: اكتب القاعدة الواحدة. "كل ما يصل إلى عميل أو HMRC أو بنك أو محكمة يبقى مسودة حتى يتحقق شخص معروف الاسم من الوقائع فيه." ضعها في سياسة الذكاء الاصطناعي لديك وفي تعليمات مشاريعك.
• الثلاثاء: أضف جملة الامتناع. ضع "إن لم تكن متأكداً فقل ذلك وأخبرني بما أتحقق منه" في التعليمات الدائمة لكل أداة تستخدمها.
• الأربعاء: نفّذ الفحص 1 على مخرجات الأسبوع الماضي. خذ آخر ثلاثة مستندات كتبها الذكاء الاصطناعي واستخدمتها، وافتح كل مرجع فيها. وعُدّ ما يفشل منها.
• الخميس: انقل مهمة واحدة إلى الوضع المؤرَّض. اختر المهمة التي تكلف أخطاؤها أكثر، وأرفق المستندات الحقيقية، واشترط اقتباس الأسطر.
• الجمعة: قرر ما لا يخرج أبداً دون فحص. ضع القائمة (الأسعار، الصياغة القانونية، الادعاءات الصحية، اقتباسات العملاء) وشاركها مع كل من يستخدم الذكاء الاصطناعي في عملك.

اقرأ بعد ذلك

• هل استخدام الذكاء الاصطناعي آمن؟ دليل بسيط عن بياناتك وأموالك والاحتيالات التي ينبغي الحذر منها
• 12 خطأ يرتكبه المبتدئون مع وكلاء الذكاء الاصطناعي، والحل السريع لكل منها
• كيف يعمل وكلاء الذكاء الاصطناعي؟ الحلقة ذات الخطوات الخمس خلف كل مهمة، بشرح مبسط

الأسئلة الشائعة

لماذا يختلق الذكاء الاصطناعي المعلومات؟

لأن النموذج اللغوي يولّد الكلمات التالية الأكثر احتمالاً بدل التحقق من الحقائق، ولأن الاختبارات المستخدمة في تدريب النماذج وترتيبها تكافئ التخمين الواثق أكثر من الاعتراف بعدم اليقين. وقد وصف باحثو OpenAI أنفسهم النتيجة عام 2025 بأنها "أكاذيب مقنعة وواثقة أكثر من اللازم". الطلاقة والدقة تنتجهما العملية نفسها، ولهذا تُقرأ الإجابة الخاطئة تماماً كالصحيحة.

ما هي هلوسة الذكاء الاصطناعي؟

إجابة طليقة ومقنعة لكنها خاطئة: قضية مختلقة، أو إحصائية لم ينتجها أي استطلاع، أو اقتباس لم يقله أحد، أو منتج لا وجود له. ليست عطلاً عابراً؛ إنها السلوك الطبيعي لنموذج سُئل عمّا لا يعرفه.

كم مرة يختلق ChatGPT المعلومات؟

يعتمد ذلك على المهمة. ففي اختبار تأريض عام قُرئ في أكتوبر 2026، اختلقت النماذج الرائجة مادة في نحو 4% إلى 15% من ملخصات المستندات حتى مع توفير المصدر؛ ووجدت دراسات الاستشهادات في الجراحة والقانون معدلات اختلاق من 17% إلى 34% لأسوأ النماذج أداءً. والافتراض الآمن هو "بما يكفي لأن تفحص كل اسم ورقم وتاريخ واقتباس".

هل يمكن إيقاف هلوسة الذكاء الاصطناعي تماماً؟

لا. توفير المستند المصدر وطلب الاقتباسات والسماح بقول "لا أعرف" واستخدام وكيل يعرض مصادره، كلها تخفض المعدل، وتقول وثائق Anthropic نفسها إن هذه الإجراءات "لا تقضي عليها تماماً". والفحص الأخير لكل ما يهم يتولاه إنسان.

هل غُرّم أحد بسبب هلوسة الذكاء الاصطناعي؟

نعم. فرضت محكمة في نيويورك غرامة قدرها 5,000 دولار عام 2023 بسبب قضايا مزيفة في مذكرة؛ وحذّرت High Court في لندن في يونيو 2025 من أن الاستشهادات المختلقة قد تؤدي إلى إجراءات ازدراء المحكمة والإحالة إلى الشرطة؛ وردّت Deloitte Australia الدفعة الأخيرة من عقد حكومي بقيمة 440,000 دولار أسترالي في أكتوبر 2025 بعد اكتشاف مراجع مختلقة في تقريرها.

هل الوكيل أكثر موثوقية من روبوت المحادثة؟

الوكيل الذي يتصفح ويذكر مصادره ويعمل من مستنداتك يجعل الفحوص أسرع والأخطاء أسهل تتبعاً، لكنه يظل بحاجة إلى شخص يوقّع على كل ما يمس المال أو القانون أو الصحة. وكيل Jobbit يعرض متصفحه ومصادره أثناء عمله، ويستطيع تمرير الفحص الأخير إلى متخصص موثوق حين تتطلب المهمة ذلك.