الانتقال إلى المحتوى
واجهة محادثة مع مساعد ذكاء اصطناعي على شاشة حاسوب محمول، لتوضيح مفهوم هلوسة الذكاء الاصطناعي

ما هي هلوسة الذكاء الاصطناعي وكيف تحدث

Matheus Bertelli · Pexels

هلوسة الذكاء الاصطناعي (AI Hallucination) هي توليد معلومات خاطئة أو غير مسندة كما لو كانت صحيحة. فقد يقدم النموذج عنوان دراسة غير موجودة أو يضع رقمًا لا تدعمه البيانات. كما يمكن أن يخطئ في تلخيص وثيقة موجودة أمامه.

كيف تحدث هلوسة الذكاء الاصطناعي؟

تتعلم النماذج اللغوية أنماط اللغة من بيانات التدريب، ثم تتنبأ بالرموز التالية في النص وفق السياق. لذلك، لا يضمن إنتاج جملة سليمة لغويًا أن تتوافق مع الواقع. وتصف OpenAI في بحثها عن الهلوسة كيف تشجع بعض طرق تقييم النماذج التخمين بدل الاعتراف بعدم المعرفة.

كما قد يسبب نقص المعلومات أو الغموض في السؤال إجابة غير موثوقة. وفي المقابل، يساعد توفير وثيقة مرجعية أو أداة بحث مناسبة في تقليل الأخطاء، دون ضمان إزالتها.

أمثلة على الهلوسة

  • إسناد اقتباس إلى كتاب لا يحتوي عليه.
  • ذكر ميزة في تطبيق رغم عدم وجودها في إصداره الحالي.
  • إنشاء رابط بحث يبدو حقيقيًا لكنه لا يقود إلى مصدر صالح.
  • نقل قيمة عددية بصورة خاطئة من جدول حقيقي.

على سبيل المثال، قد يطلب المستخدم أسماء مراجع عن تقنية جديدة. وإذا اقترح النموذج مرجعًا بعنوان واقعي ومؤلفين معروفين، فلا يثبت ذلك وجود البحث. لذلك، ينبغي فتح المصدر والتحقق من عنوانه ومؤلفيه.

ما الفرق بين الهلوسة والمعلومات القديمة؟

قد يصف النموذج إصدارًا سابقًا من برنامج وصفًا صحيحًا، لكن الإجابة لا تلائم سؤالًا عن الإصدار الحالي. أما الهلوسة فقد تتضمن اختلاق ميزة لم توجد أصلًا. وهذا الفرق يساعد في اختيار طريقة التصحيح: الرجوع إلى التوثيق الحديث أو التحقق من أصل الادعاء.

كيف يمكن تقليل الأخطاء؟

  • حدد السؤال والسياق، واطلب الفصل بين الحقائق والتقديرات.
  • أرفق المراجع المصرح بمشاركتها واطلب الاستشهاد بمواضع محددة.
  • افتح الروابط والمستندات بنفسك وتأكد من أنها تدعم الادعاء.
  • استخدم آلة حاسبة أو جدول بيانات لإعادة الحساب بصورة مستقلة.

بالإضافة إلى ذلك، يمكن استخدام أدوات البحث عند الحاجة إلى بيانات حديثة، كما يوضح دليل التحقق من صحة إجابات جوجل بالذكاء الاصطناعي. ومع ذلك، قد يقرأ النموذج المصدر قراءة خاطئة حتى عندما يستشهد به.

تظل المراجعة البشرية ضرورية في القرارات المالية والطبية والقانونية. لذلك، يجب ألا تتحول الثقة في أسلوب الإجابة إلى ثقة مطلقة في محتواها.

المصادر

  1. Why language models hallucinateOpenAI
  2. Does ChatGPT tell the truth?OpenAI
  3. Reduce hallucinationsAnthropic
شارك هذا المقال

التعليقات 0

شارك رأيك أو أضف معلومة مفيدة إلى النقاش.

لا توجد تعليقات بعد. يمكنك بدء النقاش.

أضف تعليقًا

نرحّب بالمشاركة المفيدة والمحترمة. الحقول التي تحمل * مطلوبة.