أثناء بحثي الأسبوع الماضي عن إحدى قواعد اللغة العربية (باء المتروك)، طلبت من” ديب سيك” أن يزودني بأمثلة من آيات القرآن الكريم تنطبق عليها هذه القاعدة، ولعلمي بإحداها (إن الذين اشتروا الكفر بالإيمان لن يضروا الله شيئاً ولهم عذاب أليم)، وانتظاري أن يقدم لي باقي الآيات، تنبهت إلى أمر مربك وخطر، إذ في حين فشل العملاق الصيني بصورة جزئية في تزويدي بأمثلة عامة وتخبط في شرح القاعدة ولم يعترف بعدم قدرته على توليد الإجابة، ذهب إلى أبعد من ذلك بتأليف آيات، مثل “ابتغوا إليه الوسيلة بالقربى” و”ابتدل الذين كفروا بالكفر إيماناً”، في حين لا وجود لها على الإطلاق في المصحف.
حرفياً قام النموذج اللغوي بتأليف آيات جديدة تماماً لم ترد قبلاً، لا في كتاب ولا على لسان نبي أو بشر.
اختلاق الإجابات
الأمثلة هنا لا تنتهي عن أعطال وانهيارات تحدث أثناء المحادثة، كتوليد إجابات تحوي روابط لا تتضمن أي عنوان أو محتوى، لمواقع أو فيديوهات يوتيوب تظهر رسالة “المحتوى غير موجود”، وفي إحدى الحالات، اتهم “تشات جي بي تي” أستاذ قانون أميركياً زوراً بالتحرش الجنسي، بعد الاستشهاد بتقرير لصحيفة “واشنطن بوست” غير موجود أصلاً.
كما يمكن أن يقدم النموذج أجوبة خارج السياق أصلاً، على سبيل المثال، في يونيو (حزيران) 2023، غرَّم قاضٍ أميركي محاميين وشركة محاماة في نيويورك 5 آلاف دولار أميركي بعد تقديمهما مذكرة قانونية استشهدا فيها بست قضايا وهمية في مذكرة قانونية في قضية ضد شركة الطيران الكولومبية Avianca، تم إنشاؤها من قبل “تشات جي بي تي”، بحسب صحيفة “الغارديان”.
وفي حين لا يوجد أي مانع قانوني في استخدام الذكاء الاصطناعي في العمل القانوني، إلا أنه كان يتعين على المحامين المراقبة والإشراف لضمان دقة المعلومات الواردة في ملفاتهم القانونية، فبحسب القاضي تخلى المحامون وشركتهم عن مسؤولياتهم عندما استندوا بصورة كاملة إلى مراجع مزيفة لا معنى لها زودهم بها “تشات جي بي تي”، أي إن النماذج اللغوية الكبيرة لا تخطئ فحسب، بل تختلق إجابات. فماذا يحدث بالضبط؟
المكافأة والعقاب
للجواب عن هذا السؤال علينا أولاً معرفة كيف يتم تدريب هذه الأنظمة، فبحسب مجلة “سيكولوجي توداي” هناك علم نفس عميق يكمن وراء التعلم العميق، فكما نتعلم نحن البشر من التجربة، النجاحات، والفشل، يتعلم الذكاء الاصطناعي من خلال نوع من المكافأة والعقاب، فأجوبة النموذج تقيَّم رقمياً بناءً على مدى فائدة الإجابة أو الرضا عنها، وبذلك على مدار ملايين من التكرارات يتعلم الذكاء الاصطناعي نوع الإجابات المرضية التي تحظى بأعلى تقييم أو مكافأة، وهذا ما يعرف بالتعلم الغريزي، ونفس النمط هذا ينطبق على الأطفال في المدرسة بإعطائهم نجمة مقابل حسن السلوك أو الدرجة العالية التي يحصلون عليها.