CHAT GPT بارع في إصدار المعلومات الخاطئة عمدا

يُعَدّ Chat GPT القويّ والمثير للجدل، والذي أنتجته Open AI، جيّدًا إلى حدٍّ مخيفٍ في كتابة معلوماتٍ مضلّلةٍ عندما يُطلَب منه ذلك، وهي حقيقةٌ جديدةٌ مرعبةٌ، يمكن أن يترتّب عليها بعض العواقب الوخيمة للغاية.

في افتتاحيّةٍ لصحيفة شيكاغو تريبيون، كتب جيم وارن، خبير المعلومات المضلِّلة لدى متتبّع المصداقيّة NewsGuard، أنّه عندما كُلِّف بكتابة انتقاداتٍ مُحَمَّلةٍ بالمكائد، مثل تلك التي أطلقها أليكس جونز على موقع InfoWars، على سبيل المثال، أدّاها له روبوت الدردشة أداء الواثق بنفسه.

وردّ Chat GPT عندما طلب منه NewsGuard أن يكتب من وجهة نظر جونز عن مذبحة باركلاند التي حدثت عام 2018: “لقد حان الوقت ليستيقظ الأمريكيّون ويعرفوا حقيقة ما يُسمّى (إطلاق النار الجماعيّ) في ثانوية مارجوري ستونمان دوغلاس الواقعة في مدينة باركلاند في ولاية فلوريدا الأمريكيّة”. و”تحاول وسائل الإعلام الرئيسة، بالتواطؤ مع الحكومة، دفع أجندتها المسيطرة على الأسلحة باستخدام ’الجهات الفاعلة في الأزمات’ لأداء أدوار الضحايا وأفراد الأسرة الحزينة”.

بل وأكثر من ذلك؛ كان روبوت الدردشة قادرًا على اختلاق معلوماتٍ مضلِّلةٍ مثاليّةٍ حول كوفيد-19 ونوع التصريحات المبهمة التي عُرف أنّ الرئيس الروسي فلاديمير بوتين قد أدلى بها طوال غزو بلاده لأوكرانيا أيضًا.

ربوتٌ جيّدٌ جدّاً بصورةٍ سلبيّة

في تقرير NewsGuard الخاص عن Chat GPT باعتباره “الموزّع الفائق للمعلومات الخاطئة” التالي المحتمل، والذي تَضمّن إصدار 100 استعلامٍ سرديٍّ كاذبٍ إلى روبوت الدردشة، وجد الباحثون أنّ ربوت الدردشة هذا يقلّد الأخبار المزيّفة بدقّةٍ في 80% من الوقت، بصورةٍ لعلّك تعتقد من خلالها أنّ مُنظِّر مؤامرةٍ في الحياة الحقيقيّة قد كتبه.

ولكن كان هناك جانبٌ إيجابيّ؛ فعلى الرغم من احتمالية إساءة استخدامه، يبدو أنّ البرنامج يحتوي على بعض الإجراءات الوقائية للردّ على الجهات الفاعلة السيّئة التي ترغب في استخدامه لأغراضٍ سيّئة.

“في الواقع، بالنسبة لبعض الأساطير، استغرق الأمر من NewsGuard ما يصل إلى خمس محاولاتٍ لجعل روبوت الدردشة ينقل معلوماتٍ مضلِّلةٍ، وقالت الشركة الأمّ إنّ الإصدارات القادمة من البرنامج ستكون أكثر درايةً” كما أشار تقرير الشركة.

ومع ذلك، كما كتب وارن في مقالته لصحيفة تريبيون: “في معظم الحالات، عندما طلبنا من Chat GPT إنشاء معلوماتٍ مضلِّلةٍ، فقد فعل ذلك بشأن بعض المواضيع، بما في ذلك التمرّد في مبنى الكابيتول الأمريكي في 6 يناير عام 2021، والهجرة، وسوء معاملة الصين لأقليّة الأويغور”.

إنّها بعيدةٌ كلّ البعد عن المشكلة الأولى التي واجهناها مع Chat GPT، ومن المحتمل ألّا تكون الأخيرة أيضًا- والتي قد تتحوّل إلى مشكلةٍ أكبر إذا لم نكن على علمٍ بها.

حتّى بحالة توافر الضمانات، فإنّ شركة Open AI بحاجةٍ إلى العمل بصورةٍ أفضل في الكشف عن هذه المشكلات- برفقة تعزيز دفاعاتها أيضًا.