هلاوس الذكاء الاصطناعي: ما أسبابها؟ وهل يمكن التغلب عليها؟

وكانت بي بي سي من بين الهيئات التي تقدمت بشكوى لأبل، بعد أن تضمنت تلك الخدمة نبأ يحمل شعار بي بي سي ويفيد بأن لويجي مانيوني المتهم بقتل براين تومسون، المدير التنفيذي لشركة التأمين الصحي الأمريكية يونايتيد هِلثكير، قتل نفسه رميا بالرصاص – وهو أمر لم يحدث.

وفي عام 2023، استخدم محاميان موكَلان من قبل رجل لإقامة دعوى قضائية ضد إحدى شركات الطيران الأمريكية، تطبيق تشات جي بي تي لإعداد مستند يستشهد بسوابق قانونية مماثلة حكم فيها للمدعي. لكن روبوت الذكاء الاصطناعي اختلق قضايا لا وجود لها، وأنتج وثيقة تحتوي على أحكام وهمية، وانتهى الأمر بأن أمر القاضي الفدرالي الذي كان ينظر في القضية بتوقيع غرامة على المحاميين قدرها 5000 دولار.

ما حدث في الحالات الثلاث كان نتيجة لما بات يعرف بـ AI hallucinations أو”هلاوس” الذكاء الاصطناعي .

فما هي تلك الهلاوس؟ وما أشكالها وأسباب حدوثها؟ وهل هناك طريقة لرصدها والتغلب عليها؟

يقول البروفيسور توماس نوفوتني، مدير مجموعة أبحاث الذكاء الاصطناعي والأستاذ بقسم هندسة علوم الأعصاب والمعلوماتية بجامعة ساسِكس البريطانية، إن حالات هذيان أو هلوسة نظم الذكاء الاصطناعي تحدث عندما تنتج تلك النظم مخرجات (outputs) لا تستند إلى الحقيقة، وعادة ما تناقض الواقع.

لكن نوفوتني يفضل وصفا آخر لها: “كما يقول زميلي البروفيسور أنيل سيث، من الأحرى أن نسميها اختلاقات وليس هلاوس، لأن المصطلح الأخير يوحي بأن نظم الذكاء الاصطناعي قادرة على الإدراك أو حتى الوعي. هذه “الهلاوس” تحدث في جميع نظم الذكاء الاصطناعي التوليدي، بما في ذلك النماذج اللغوية الكبيرة ومولدات الصور”.

ورغم أن الهلاوس ليست حكرا على ما يعرف بالنماذج اللغوية الكبيرة (مثل تشات جي بي تي وجيميناي وديبسيك)، لكن خبير الذكاء الاصطناعي بمدينة سان فرانسيسكو الأمريكية محمد الجندي يقول إن “ما يجعلها تمثل إشكالية في نماذج اللغة الكبيرة على وجه الخصوص هو قدرتها على أن تبدو مقنعة، وهو ما يجعل من الصعب على المستخدمين التمييز بين الحقيقة والخيال”.

قد تتخذ هلاوس أو اختلاقات الذكاء الاصطناعي أشكالا عديدة أبرزها:

لفهم كيفية حدوث تلك الهلاوس، ينبغي معرفة كيفية عمل نظم الذكاء الاصطناعي التوليدي.

يقول البروفيسور نوفوتني إن تلك الهلاوس، أو الاختلاقات، هي أثر جانبي للمبدأ التشغيلي للذكاء الاصطناعي التوليدي. ويشرح أن تلك النظم “تستخدم خوارزمية لتوليد المخرجات من خلال أخذ عينات من توزيعات احتمالية تم إنشاؤها من مجموعات كبيرة من الأمثلة. على سبيل المثال، يتم “تدريب” نموذج لغوي كبير على التنبؤ بالكلمات المفقودة في نصوص موجودة مسبقًا، عن طريق تقدير احتمال ظهور أي كلمة، بناءً على وجود جميع الكلمات الأخرى”.

ويضيف نوفوتني أنه “غالبًا ما يؤدي ذلك إلى شيء صحيح أو ذي معنى. ومع ذلك، فإن الخوارزمية تعتمد في جوهرها على شكل من أشكال التخمين، ولذلك قد تنتج أيضًا عبارات غير صحيحة أو حتى محض هراء”.

ويقول محمد الجندي إن “النماذج اللغوية الكبيرة لا تعرف الحقائق، بل تولد اللغة بناء على الأنماط الموجودة في بيانات تدريبها. إذا لم يكن النموذج يستند إلى مصدر للحقائق (مثل قاعدة بيانات أو وثائق منتقاة بعناية)، فإنه قد يولد معلومات غير صحيحة بكل ثقة”.

وفضلا عن ذلك، قد تتعرض نماذج اللغة الكبيرة لما يعرف بـ prompt injection attacks “هجمات حقن الأوامر”، ما يتسبب بشكل غير مباشر في حدوث الهلاوس. فهي نوع من الهجمات السيبرانية يتم خلالها إدخال بيانات أو أوامر خبيثة لتلك النماذج للحصول على بيانات حساسة أو جعلها تعطي معلومات غير صحيحة أو مضللة للمستخدمين. وتستفيد تلك الهجمات من ميزة أساسية لنظم الذكاء الاصطناعي، ألا وهي القدرة على الاستجابة لتعليمات المستخدمين، وتشكل مصدر قلق كبير، لا سيما في المجالات الحساسة مثل الأمن السيبراني وتقنيات الأسلحة المستقلة.

عادة ما يصف الخبراء طريقة عمل الذكاء الاصطناعي، ولا سيما النماذج التي تعتمد على تقنية التعلم العميق، بأنها تشبه “الصندوق الأسود”، كناية عن كون عمليات اتخاذها للقرارات غير شفافة وصعبة التفسير. ويتسبب ذلك بدوره في العديد من التحديات للخبراء عند محاولتهم تصحيح الهلاوس أو منعها، لأنه من الصعب التوصل إلى جذورها.

يقول البروفيسور نوفوتني إنه تم إحراز الكثير من التقدم باتجاه التخلص من تلك الهلاوس. لكن “إزالتها بشكل كامل قد تتطلب نهجاً مختلفا” يتمثل في تغيير المبدأ الأساسي لعملها الذي يعتمد على التنبؤ. ويضيف: “لكن من ناحية أخرى، إذا تم إزالة طريقة أخذ عينات عشوائية، فإن الذكاء الاصطناعي التوليدي سيعود ببساطة إلى تقليد بيانات تدريبه، كما لو كان مجرد محرك بحث بسيط”.

الحل الآخر، كما يقول نوفوتني، هو “نظم منفصلة لتدقيق الحقائق، والتي لا نعرف حتى الآن كيفية بنائها بطريقة فعالة”.

يتفق معه الجندي في الرأي، حيث يقول إن القضاء على الهلاوس بشكل تام “سيحتاج إلى اختراقات كبيرة في كيفية عرض النماذج للمعرفة والتفكير فيها بشكل منطقي، ونحن لم نصل إلى هذا بعد. ومع ذلك، هناك تقدم حقيقي يحدث في الوقت الحالي، لا سيما في تقنيات مثل التوليد المعزز بالاسترجاع (RAG)، والتعلم المعزز بملاحظات البشر (RLHF)، وأطر التقييم الأكثر دقة. لكن القضاء عليها تماما سيحتاج إلى تطورات جذرية في بنية الذكاء الاصطناعي نفسها”.

هلاوس الذكاء الاصطناعي قد تعود بضرر كبير على المؤسسات والشركات التي يزداد استخدامها لتقنياته طوال الوقت بغرض تحسين الخدمات أو المنتجات أو توفير النفقات. إذ قد تؤدي إلى اتخاذ قرارات غير صائبة، أو تكبد خسائر مادية، أو التعرض لخطر الملاحقة القضائية، أو الإضرار بسمعتها. ومن ثم تبرز أهمية التغلب على تلك الهلاوس.

“الطريقة المثلى لتخفيف آثار هلاوس الذكاء الاصطناعي هي منعها من البداية”، وفقاً لموقع شركة التكنولوجيا العملاقة آي بي إم، الذي ينصح باتباع خطوات من بينها استخدام بيانات تدريب عالية الجودة تتسم بالتنوع والتوازن، وتحديد هدف النموذج، واختبار النظام وتحسينه باستمرار والاعتماد على الإشراف والمراجعة البشرية لتصحيح أي أخطاء.

يقول الجندي، وهو المدير التنفيذي والمؤسس المشارك لشركة Kolena (“كولينا”) لنظم الذكاء الاصطناعي، إن التغلب على الهلاوس هو جزء حيوي من العمل الذي تقوم به شركته. ويضيف: “قمنا بدمج فحوصات لجودة الذكاء الاصطناعي في منصتنا بشكل مباشر. لا يقتصر دور برامج الذكاء الاصطناعي لدينا على استخراج المعلومات من المستندات المعقدة، مثل التقارير المالية وتقارير الامتثال والعقود، بل يشمل أيضًا تقديم تفسيرات منطقية، ومراجع، ودرجات ثقة لكل قيمة مستخرجة. يتيح ذلك للمستخدمين التحقق بسرعة من النتائج، وفهم كيفية استخراجها، واتخاذ الإجراءات اللازمة عند الحاجة. كما نتيح التحسين المستمر من خلال السماح للمستخدمين بتصحيح الأخطاء مرة واحدة، وتطبيق هذا التصحيح على مستوى النظام بأكمله”.

ويضيف الجندي أن المنصة تسعى إلى وضع معايير للجودة على مستوى الصناعة من خلال استضافة مؤتمر جودة الذكاء الاصطناعي “AIQCON” الذي “يلتقي فيه الخبراء لوضع أطر قوية لتقييم وضمان موثوقية الذكاء الاصطناعي”.

لكن ماذا عن الأشخاص العاديين الذين يستخدمون روبوتات الدردشة للاستفسار عن معلومة ما أو مساعدتهم في دراستهم أو عملهم؟ هل هناك وسيلة سهلة ومضمونة تمكنهم من اكتشاف الهلاوس؟

الإجابة هي لا، وفقاً للبروفيسور نوفوتني، الذي يقول إن “ما يزيد الطين بلة هو أن هذه الهلاوس في أغلب الأحيان تتعلق بحقائق ليست من المعرفة العامة أو مدعومة بالمنطق. على سبيل المثال: من الفنان الذي رسم لوحة ما في عام ما؟ ليس هناك الكثير من المنطق الذي يمكن تطبيقه للتحقق مما إذا كانت الإجابة صحيحة أم لا دون الاعتماد على مصادر أخرى للمعلومات. في النهاية، يبقى البحث عن مصادر معلومات موثوقة هو الخيار القابل للتطبيق، مع مراعاة التحفظات بشأن أي مصادر للمعلومات، وما إذا كان يمكن بالفعل الوثوق بها أم لا”.

لا شك أن هلاوس أو اختلاقات الذكاء الاصطناعي تشكل تحديا كبيرا. وريثما تتحقق اختراقات جذرية تؤدي إلى تفادي تلك الهلاوس، يبدو أنه سيتعين على الشركات الاستثمار في المزيد من إجراءات تحسين الجودة.

وعلى الأفراد تبني تفكير نقدي واستشارة المراجع الموثوقة، وذلك لضمان أن يظل الذكاء الاصطناعي أداة قيمة وليس مصدرا للمشكلات أو المعلومات المغلوطة.