طلب أحدهم من أداة ذكاء اصطناعي قائمة بمراجع علمية في موضوع بحثه، فحصل على خمسة مراجع بأسماء مؤلفين وعناوين وسنوات نشر وأسماء مجلات. وحين بحث عنها، لم يجد أيًا منها. لم تكن المراجع خاطئة، بل غير موجودة أصلًا.
هذه الظاهرة تُسمى الهلوسة، وهي أكثر ما يُوقع المستخدمين في مشكلات حقيقية: طالب يسلّم بحثًا بمراجع مختلقة، وموظف يبني تقريرًا على رقم غير صحيح، وشخص يتصرف بناءً على معلومة قانونية أو صحية غير دقيقة.
والمقلق فيها أنها لا تبدو كخطأ. فالنص يخرج بنفس الثقة والترتيب والأسلوب المقنع الذي تخرج به المعلومة الصحيحة تمامًا.
لماذا تحدث
النظام يولّد ولا يسترجع
هذه هي الجذر. فالنظام لا يفتح ملفًا ليقرأ منه، بل ينتج نصًا كلمة بعد كلمة بناءً على ما تعلمه من أنماط.
وحين تسأله عن مرجع علمي، فهو يعرف كيف تبدو المراجع العلمية: اسم مؤلف، ثم عنوان، ثم مجلة، ثم سنة. فيولّد شيئًا يطابق هذا الشكل بدقة، دون أن يكون هناك تحقق من وجوده.
النتيجة مرجع مثالي في شكله ومعدوم في وجوده.
لا يوجد مقياس داخلي للثقة
النظام لا يميّز بوضوح بين ما تعلمه بشكل راسخ وما يخمّنه. ولهذا يكتب الاثنين بنفس النبرة.
وهذا يخالف حدسنا البشري تمامًا، فنحن نتوقع أن من يعرف يتكلم بثقة ومن لا يعرف يتردد أو يقول لا أعرف. وهذا الافتراض لا ينطبق هنا.
مصمم ليكون مفيدًا
النظام موجّه لتقديم إجابة نافعة. وحين لا يملك معلومة كافية، يميل إلى إنتاج أفضل تخمين ممكن بدل الاعتراف بالجهل، لأن الإجابة المفيدة هي ما تدرّب على تفضيله.
ثغرات في المعرفة
ما تعلمه النظام واسع لكنه غير متساوٍ. فالمواضيع الشائعة ممثلة بكثافة، والمواضيع النادرة أو المحلية أو الحديثة أقل تمثيلًا بكثير.
وكلما ضاق الموضوع، ارتفع احتمال الهلوسة.
أين يخطئ أكثر
معرفة المناطق الخطرة تجعلك تركّز تحققك حيث يهم.
المراجع والاقتباسات. أخطر منطقة على الإطلاق، وأكثرها تسببًا في مشكلات أكاديمية ومهنية.
الأرقام والإحصاءات. النسب والمبالغ وأعداد السكان والبيانات الاقتصادية.
التواريخ. خصوصًا الدقيقة منها.
أسماء الأشخاص وسِيَرهم. قد ينسب إنجازًا لشخص غير صاحبه، أو يخلط بين شخصين متشابهي الاسم.
النصوص القانونية والأنظمة. أرقام المواد ومضامينها ومددها، وهذه منطقة خطرة لأن الخطأ فيها يقود إلى قرار خاطئ.
التفاصيل الطبية. الجرعات والتفاعلات والبروتوكولات.
الأحداث الحديثة. ما وقع بعد توقف تدريب النظام.
التفاصيل المحلية. الأنظمة والإجراءات والأسعار والجهات في بلد بعينه، لأنها أقل تمثيلًا في بيانات التدريب من نظيرتها العالمية.
الروابط الإلكترونية. كثيرًا ما يولّد روابط بشكل صحيح ظاهريًا لكنها لا تعمل.
أين يقل الخطأ
في المقابل، هناك استخدامات آمنة نسبيًا لأنها لا تعتمد على استرجاع حقائق:
إعادة صياغة نص تعطيه إياه أنت.
تلخيص ملف رفعته.
ترتيب أفكارك وهيكلتها.
توليد أفكار وبدائل.
شرح مفهوم عام مستقر.
تحسين صياغة رسالة كتبتها.
الترجمة مع مراجعة المصطلحات المتخصصة.
والقاعدة المستخلصة: كلما اعتمد الناتج على مادة قدّمتها أنت، قل احتمال الخطأ. وكلما اعتمد على استرجاع معلومة من داخله، ارتفع.
علامات تحذيرية في الناتج
بعض المؤشرات تستحق التوقف عندها:
تفاصيل دقيقة جدًا في موضوع نادر. الدقة الزائدة في موضوع لا تتوقع توفر بيانات كثيرة عنه علامة مقلقة لا مطمئنة.
أرقام مضبوطة بشكل مثالي كالنسب المستديرة تمامًا في سياق يُتوقع فيه أرقام غير منتظمة.
مراجع كاملة الشكل بأسماء وسنوات ومجلات، خصوصًا إن طلبتها ولم تقدّم مصدرًا.
أسماء لم تسمع بها في مجالك رغم أنك مطلع عليه.
إجابة سريعة عن سؤال شديد التخصص دون أي تحفظ.
اختلاف الإجابة عند إعادة السؤال. جرّب أن تسأل نفس السؤال في محادثة جديدة، فإن اختلفت التفاصيل جوهريًا فهذه إشارة قوية.
كيف تقلل احتمال الهلوسة
هذه إجراءات عملية تُطبَّق في صياغة أمرك نفسه.
قدّم المصدر بنفسك
أقوى إجراء على الإطلاق. بدل أن تسأل عن معلومة، ارفع المستند أو الصق النص واطلب منه العمل عليه.
الفرق كبير: "لخّص لي نظام كذا" مقابل "هذا نص النظام، لخّص المواد المتعلقة بكذا". الأول عرضة للهلوسة والثاني آمن نسبيًا.
اطلب منه الاعتراف بعدم المعرفة
أضف إلى أمرك عبارة صريحة: "إن لم تكن متأكدًا من معلومة، قل ذلك صراحةً بدل التخمين. ولا تخترع مراجع أو أرقامًا."
لا يلغي هذا الاحتمال تمامًا لكنه يقلله بشكل ملحوظ، ويجعل النظام أميل إلى التحفظ.
استخدم أداة تبحث فعليًا
بعض الأدوات تبحث في الإنترنت وتستشهد بمصادر يمكنك فتحها. وهذا يغيّر الوضع جوهريًا لأن هناك مصدرًا حقيقيًا للمراجعة.
لكن انتبه: وجود المصدر لا يعني أن التلخيص دقيق. افتح الرابط وتحقق من أن ما نُسب إليه موجود فيه فعلًا.
اطلب مستوى الثقة
اطلب منه أن يصنّف كل معلومة: مؤكدة، أو مرجّحة، أو تحتاج تحققًا. هذا يجبره على التمييز ويعطيك خريطة لما يستحق مراجعتك.
فكّك المهمة
الأمر الواسع يزيد احتمال التوليد الحر. والأسئلة المحددة المتتابعة تعطي نتائج أدق.
اسأل عن الأساس
بعد أي معلومة مهمة، اسأل: "ما مصدر هذه المعلومة؟ وما مدى ثقتك فيها؟" والرد المتردد أو الغامض في حد ذاته معلومة مفيدة.
كيف تتحقق عمليًا
قائمة ما يجب التحقق منه دائمًا
كل رقم ستستخدمه أو تنشره.
كل اسم لشخص أو جهة أو منتج.
كل تاريخ.
كل مرجع أو اقتباس.
كل رابط، بفتحه فعليًا.
كل حكم نظامي أو قانوني.
كل معلومة طبية.
كل معلومة قد تكون تغيّرت منذ فترة.
كيف تتحقق
للمراجع: ابحث عن العنوان الكامل في محرك بحث أو في قاعدة بيانات أكاديمية. وإن لم تجده فهو غالبًا غير موجود.
للأرقام: ابحث عن المصدر الأصلي، ويفضّل جهة رسمية أو تقرير منشور.
للأنظمة واللوائح: ارجع إلى النص المنشور على الموقع الرسمي للجهة المختصة، لا إلى ملخص.
للأخبار: تحقق من مصدرين مستقلين على الأقل.
والقاعدة الحاكمة: إن كنت ستنشر المعلومة أو تبني عليها قرارًا أو تنسبها لنفسك، فالتحقق ليس اختياريًا.
أين تكون التكلفة كبيرة
خطورة الهلوسة تتفاوت بحسب الاستخدام:
منخفضة الخطورة: توليد أفكار، أو صياغة مسودة ستراجعها، أو شرح مفهوم لفهمك الشخصي.
متوسطة: محتوى ستنشره باسمك، أو تقرير داخلي يبني عليه غيرك.
عالية: بحث أكاديمي، أو مستند قانوني، أو قرار مالي، أو أي شيء يتعلق بالصحة، أو معلومة تُقدَّم لعميل.
وفي الفئة الأخيرة، لا تستخدم الأداة كمصدر معلومات إطلاقًا. استخدمها في الصياغة والترتيب فقط، واجعل المعلومات من مصادرها الأصلية.
حالات واقعية وقعت فعلًا
الأمثلة تجعل الخطر ملموسًا أكثر من أي شرح.
مراجع أكاديمية مختلقة. طلاب وباحثون سلّموا أعمالًا بمراجع مولّدة بالكامل، واكتُشف ذلك عند المراجعة. والنتيجة تتراوح بين إعادة العمل وعقوبات أكاديمية.
اقتباسات منسوبة لأشخاص لم يقولوها. الأداة تولّد اقتباسًا يبدو منسجمًا مع فكر الشخص، وهو ليس له.
أرقام إحصائية بلا مصدر. تُنقل في تقارير ومنشورات ثم تنتشر، وقد يعاد الاستشهاد بها لاحقًا فتكتسب مصداقية زائفة بالتكرار.
تفاصيل نظامية غير دقيقة. أرقام مواد ومدد وشروط تبدو محددة، ويُبنى عليها قرار كالاستقالة أو المطالبة.
سِيَر مختلطة. خلط بين شخصين متشابهي الاسم، أو نسبة إنجاز لغير صاحبه.
القاسم المشترك بينها
في كل هذه الحالات، الخطأ لم يكن واضحًا. لم يكن هناك ما يثير الشك في النص نفسه.
والدرس العملي: لا تنتظر أن يبدو الخطأ خطأً. اعتمد قاعدة ثابتة بالتحقق من فئات محددة من المعلومات، بغض النظر عن مدى إقناع النص.
عادات وقائية تبنيها مع الوقت
الحماية الحقيقية ليست في تذكّر قائمة بل في عادات تصبح تلقائية.
افصل بين المسودة والمعلومة. استخدمه في صياغة الهيكل والأسلوب، واجمع الحقائق بنفسك من مصادرها. وهذا الفصل وحده يمنع معظم المشكلات.
اجعل التحقق خطوة ثابتة لا استثنائية. قبل إرسال أو نشر أي شيء، مرّ على الأرقام والأسماء والمراجع فيه.
احتفظ بمصادرك. حين تجد المصدر الصحيح لرقم، احفظ الرابط. فأنت غالبًا ستحتاجه مرة أخرى.
راجع بمصدر واحد على الأقل. ولو كان تحققًا سريعًا في محرك بحث، فهو أفضل من لا شيء.
اشكك في ما يعجبك. المعلومة التي تدعم ما تريد قوله هي الأقل احتمالًا لأن تراجعها، وهي بالضبط ما يستحق تحققًا إضافيًا.
علّم من حولك. كثير من انتشار المعلومات المولّدة يحدث بحسن نية من أشخاص لا يعرفون أن الأداة قد تخترع. ومشاركة هذه المعرفة تقلل الضرر أوسع من نطاقك الشخصي.
أسئلة شائعة
هل الإصدارات الأحدث تهلوس أقل؟ عمومًا تحسّن الأداء في هذا الجانب مع تطور النماذج، لكن الظاهرة لم تُحل بالكامل وهي مرتبطة بطريقة العمل نفسها. لا تفترض أن أداة معينة محصنة منها.
كيف أعرف أن معلومة صحيحة دون بحث؟ لا تستطيع. وهذه هي المشكلة جوهريًا: لا توجد علامة في النص تميّز الصحيح من المولّد. التحقق الخارجي هو السبيل الوحيد.
هل يهلوس في اللغة العربية أكثر؟ المحتوى العربي في بيانات التدريب أقل حجمًا من الإنجليزي، وهذا يرفع الاحتمال في المواضيع المحلية والمتخصصة. ومن المفيد التحقق بشكل أكثر صرامة في المحتوى المحلي.
ماذا لو صححت له فأصرّ على خطئه؟ قد يحدث. والأنسب أن تبدأ محادثة جديدة أو تزوّده بالمصدر الصحيح مباشرةً، بدل الجدال.
هل يعتذر عن أخطائه؟ غالبًا يعتذر عند تنبيهه، لكن الاعتذار ليس دليلًا على أن التصحيح التالي صحيح. تحقق منه أيضًا.
هل يعني هذا أنه غير مفيد؟ لا إطلاقًا. يعني أن استخدامه الصحيح هو كأداة صياغة وترتيب وتفكير، لا كمرجع معلومات. ومن يستخدمه في موضعه يحصل على قيمة كبيرة دون مخاطرة.
هل تحدث الهلوسة في الصور أيضًا؟ نعم بشكل مختلف. أدوات الصور تنتج تفاصيل غير واقعية كأعداد أصابع خاطئة أو نصوص غير مفهومة داخل الصورة أو عناصر لا تتسق فيزيائيًا. والمبدأ واحد: توليد ما يشبه الصحيح لا استرجاع الصحيح.
هل يقل الخطأ إن سألت بلغة معينة؟ قد يختلف الأداء بحسب حجم المحتوى المتاح في كل لغة عن الموضوع. وفي المواضيع التقنية العالمية قد تكون الإنجليزية أدق، وفي المواضيع المحلية لا يحل أي منهما المشكلة ويبقى التحقق ضروريًا.
كيف أشرح هذا لشخص لا يعرفه؟ اطلب من الأداة أمامه مراجع في موضوع تخصصه، ثم ابحثوا عنها معًا. التجربة المباشرة أقنع من أي شرح.
تابع قناتنا على واتساب لتصلك أحدث المقالات والتحديثات في عالم الذكاء الاصطناعي أولًا بأول:
👉 انضم إلى قناة جيل AI
0 تعليقات