
لماذا يُهلوِس الذكاء الاصطناعي؟
محامٍ يقدّم للمحكمة قضايا لا وجود لها، وشركة طيران تدفع ثمن وعدٍ أطلقه روبوتها. ما «هلوسة» الذكاء الاصطناعي؟ ولماذا يخطئ النموذج بثقة الخبير؟ وكيف تكتشفها وتحمي نفسك منها؟
في مارس من عام 2023 قدَّم محامٍ أمريكي إلى محكمة في نيويورك مذكرة يستشهد فيها بست قضايا سابقة، بأسمائها وأرقامها وما قاله القضاة فيها. بحث محامو الطرف الآخر عن تلك القضايا فلم يجدوا لها أثرًا؛ فقد كانت كلها من تأليف ChatGPT. والأغرب أن المحامي سأل البرنامج يومها: هل هذه القضايا حقيقية؟ فأجابه بثقة: نعم. وانتهت القصة بغرامة مالية فرضتها المحكمة، وبحرج تناقلته الصحف.
وفي كندا، مطلع عام 2024، ألزمت هيئة قضائية شركة طيران بتعويض مسافر؛ لأن روبوت المحادثة في موقعها أخبره بسياسة لاسترداد قيمة تذاكر العزاء تخالف سياسة الشركة الفعلية، ولم تقبل الهيئة حجَّة الشركة بأن الروبوت مسؤول عن كلامه.
هذا ما يسميه أهل الاختصاص «الهلوسة»: أن يُعطيك النموذج إجابة متماسكة، سليمة اللغة، حسنة الترتيب، لكنها خاطئة أو مُختلَقة من أساسها. قد تكون رقما لا مصدر له، أو كتابا لم يُؤلَّف، أو رابطا لا يُفتح، أو مادة لا وجود لها في النظام الذي تسأل عنه، أو خلطا بين رجلين تشابه اسماهما. وأخطر ما فيها أنها لا تأتيك بنبرة المتردِّد، بل بنبرة الخبير الذي لا يشك في كلامه.
ولفهم ذلك ينبغي أن نعرف كيف يعمل النموذج أصلًا؛ فهو لا يفتح موسوعة حين تسأله، ولا يراجع قاعدة بيانات، إنما يتوقع الكلمة التالية الأرجح بناء على ما تعلمه من كمٍ هائل من النصوص. فإن سألته عما يعرفه جاءت الكلمة الأرجح صحيحة في الغالب، وإن سألته عما لا يعرفه لم يتوقف، بل أكمل بما يشبه الإجابة الصحيحة. وقد قال السلف رحمهم الله: «لا أدري؛ نصفُ العلم»، لكن هذه النماذج لم تُدرّب على هذا، فهي تعلمت أن تجيب لا أن تعتذر.
غير أن تحميل الآلة وحدها المسؤولية فيه ظلم لها؛ فكثير من الهلوسة نصنعه نحن بطريقة سؤالنا واستعمالنا. وأول ذلك سوء "البرومبت"، أي الطلب الذي نكتبه للنموذج. حين تكتب طلبا غامضا بلا سياق فأنت تترك له الفراغ ليملأه بالتخمين. وحين تسأله: «ما نص المادة الخامسة والأربعين من نظام كذا؟» دون أن تُرفق النظام، فأنت تطلب منه أن يستحضر نصا حرفيا قد لا يكون رآه قط، فيصوغ لك نصا يُشبه لغة الأنظمة ويقنعك. والأسوأ أن يُبنى السؤال على افتراض خاطئ، كأن تسأل عن أسباب قرار لم يصدر، فيتطوع النموذج بشرح أسبابه. والقاعدة هنا بسيطة: كلما أعطيته سياقا ومصدرا قلّت حاجته إلى الاختراع.
ويليه إهمال الإعدادات. ففي منصات المطورين وبعض أدوات الذكاء الاصطناعي خيار يسمى «درجة الحرارة» (Temperature)، وهو يتحكم في مقدار المغامرة عند اختيار الكلمات؛ فإذا ارتفع صار النموذج أكثر إبداعا وأقل انضباطا، وإذا انخفض صار أكثر تحفظا والتزاما بالأرجح. ومن يكتب تقريرا ماليا بإعدادات كاتب القصص فلا يلومن إلا نفسه. ومن الإعدادات أيضا التعليمات الدائمة التي تضعها للنموذج في حسابك أو مشروعك، وسطر واحد فيها مثل: «إذا لم تكن متأكدًا فقل لا أعرف، ولا تذكر مصدرا لم تتحقق منه» يغيِّر سلوكه أكثر مما يظن كثيرون.
ثم اختيار النموذج الخطأ للمهمة. فالنماذج ليست سواء: منها السريع الخفيف الذي يكفي لصياغة رسالة أو تلخيص فقرة، ومنها القوي الذي يتأنَّى ويراجع نفسه قبل أن يجيب، فيما يعرف بأوضاع التفكير أو الاستدلال. ومن يسأل عن معلومة دقيقة في نموذج مجاني سريع، دون أن يفعّل البحث في الإنترنت، ثم يعجب من خطئه، فهو كمن يسأل عن دوائه أول من يلقاه في الطريق. ويتضح ذلك أكثر في الأحداث الجديدة؛ فلكل نموذج تاريخ تقف عنده معرفته، وما جاء بعده لا يعرفه إلا إذا بحث عنه، فإن لم يُتَح له البحث حدثك عن الحاضر بأخبار الماضي، أو اخترع حاضرا يظنه صحيحا.
ويبقى سبب قلما ينتبه له الناس، وهو ضعف ربط النموذج بالأدوات. فالنموذج المعزول لا يملك إلا ذاكرته، أما الموصول بملفاتك ومستنداتك وقواعد بيانات مؤسستك، عبر الموصِّلات أو بروتوكول MCP أو أنظمة الاسترجاع المعروفة بـRAG، فيُجيب مما أمامه لا مما يتذكره. والفرق بينهما كالفرق بين طالب يختبر والكتاب مغلق، وآخر يُختبر والكتاب مفتوح بين يديه. ومثل ذلك الحسابات؛ فالنموذج حين يجمع ويقسم في ذهنه قد يُخطئ في رقم بسيط، أما حين تتاح له أداة تشغيل الأكواد فإنه يحسب فعلا ولا يقدِّر.
وهناك أسباب أصغر لكنها حاضرة: محادثة تطول حتى يختلط أولها بآخرها فينسى النموذج ما اتُّفق عليه في البداية، ومستخدم يلحُّ على رأيه حتى يوافقه النموذج مجاملة وهو مخطئ؛ فهذه النماذج تميل إلى إرضاء من يحاورها، وإصرارك قد يُقنعها بما لا يصح.
والعلامات التي تكشف الهلوسة ليست خفِية على من يتنبه لها: دقة مبالغ فيها في سؤال لا يحتملها، وأرقام بلا مصدر، وروابط لا تفتح، وأسماء كتب ومؤلفين لا تجد لهم أثرا حين تبحث عنهم. وعلاجها في أكثره بيد المستخدم: أن يسأل بوضوح ويعطي السياق، وأن يرفق المصدر بدل أن يطلب من النموذج تذكُّره، وأن يختار النموذج المناسب ويفعِّل البحث حين يحتاجه، وأن يربطه بملفاته وأدواته، وأن يبدأ محادثة جديدة إذا طالت القديمة، وأن يسأله صراحة: ما الذي لست متأكدا منه في إجابتك؟ ثم يتحقق بنفسه قبل أن ينقل كلامه أو يبني عليه قرارا.
ومع هذا كله، فالهلوسة ليست شرا خالصا؛ فالخاصية نفسها التي تجعل النموذج يخترع مرجعا وهميا هي التي تجعله يقترح فكرة لم تخطر لك، أو يكتب قصة، أو يقترح اسما لمشروعك. والمشكلة أن نطلب منه الخيال في موضع الحقيقة، أو نطلب الحقيقة ثم نتركه يتخيل. ذلك المحامي في نيويورك لم تخذله الآلة وحدها؛ خذله أنه سألها: «هل أنت متأكدة؟» ثم اكتفى بجوابها، ولم يفتح مصدرا واحدًا.
عن الكاتب
عبدالله محمد العُمري
كاتب ومفكر
مقالات تهدف لنشر الوعي والمعرفة في مجالات متعددة.
اقرأ أيضاً
عرض المقالات
بالأرقام.. الذكاء الاصطناعي يطيح بأكثر من 192 ألف وظيفة
قرابة 192 ألف وظيفة أُلغيت في أمريكا وحدها بسبب الذكاء الاصطناعي منذ 2023، أكثر من 120 ألفًا منها في 2026.. قراءة في الأرقام وتقارير صندوق النقد والمنتدى الاقتصادي العالمي، وما تعنيه لمستقبل الوظائف والمهارات.

لماذا نخجل من التصريح باستخدام الذكاء الاصطناعي في أعمالنا؟
لماذا يتردد بعض الموظفين في الإفصاح عن استخدامهم للذكاء الاصطناعي؟ قراءة في ظاهرة «الخجل من الذكاء الاصطناعي»، ودعوة لتقييم العمل بجودة مخرجاته وفهم صاحبه له، لا بصعوبة إنجازه.

تعلّم الذكاء الاصطناعي قبل أن تتسع الفجوة
تعلّم الذكاء الاصطناعي لم يعد مهارة إضافية، بل أصبح عاملاً مهماً في سرعة الإنجاز والمنافسة في سوق العمل.