قد يؤثر التحيز السياسي لروبوتات الذكاء الاصطناعي المخصصة للدردشة على المجتمع دون أن ندري

على الرغم من تحيزها العرقي والجنسي المعروف، أصبحت محركات الذكاء الاصطناعي المدعومة بنماذج واسعة من اللغات (LLMs) وسيلة متاحة بشكل متزايد للحصول على إجابات ونصائح.

فقد كشفت دراسة جديدة عن أدلة قوية تمكننا الآن من إضافة التحيز السياسي إلى تلك القائمة، مما يوضح المزيد من قدرة هذه التكنولوجيا الناشئة في التأثير على قيم المجتمع ومواقفه عن غير قصد وربما بشكل غير نزيه.

لقد دعا إلى هذا البحث عالم الكمبيوتر ديفيد روزادو، من كلية أوتاجو للفنون التطبيقية في نيوزيلندا، ويثير هذا البحث تساؤلات حول كيفية تأثرنا بالروبوتات التي نعتمد عليها للحصول على المعلومات.

إذ أجرى روزادو 11 استبيانًا سياسيًا قياسيًا مثل اختبار البوصلة السياسية على 24 نموذجًا مختلفًا من نماذج الدردشة الآلية المحلية، بما في ذلك ChatGPT من OpenAI وروبوت الدردشة الآلي Gemini الذي طورته جوجل، ووجد أن متوسط الموقف السياسي في جميع النماذج لم يكن قريبًا من الحياد.

يقول روزادو: «تُظهر معظم نماذج الدردشة الآلية الحالية تفضيلات سياسية من يسار الخط المنّصف وذلك عند تقييمها من خلال مجموعة متنوعة من اختبارات التوجه السياسي».

لم يكن متوسط التحيز لليسار قويًا، ولكنه كان كبيرًا. وقد أظهرت اختبارات أخرى على الروبوتات المخصصة، التي تُمكّن المستخدمين من ضبط بيانات تدريب الروبوتات الآلية، أنه يمكن التأثير على هذه الروبوتات الآلية للتعبير عن الميول السياسية باستخدام نصوص تميل باتجاه يسار الخط أو يمينه.

كما نظر روزادو في النماذج التأسيسية مثل GPT-3.5، والتي تستند إليها روبوتات الدردشة التخاطبية. لم يجد هناك أي دليل على وجود أي تحيز سياسي، على الرغم من صعوبة تجميع الردود بطريقة مفيدة ذات معنى بدون معرفة ما يرسل من جهة روبوتات المحادثة.

ومع قيام جوجل بدفع إجابات الذكاء الاصطناعي لنتائج البحث، ولجوء المزيد منا إلى روبوتات الذكاء الاصطناعي للحصول على المعلومات، أصبح من المقلق أن يتأثر تفكيرنا بالردود التي نتلقاها.

يقول روزادو في بحثه العلمي المنشور: «تعد الآثار المجتمعية المترتبة عن التحيزات السياسية الموجودة في نماذج الدردشة الآلية كبيرة مع بدء إزاحة جزئية لمصادر المعلومات التقليدية مثل محركات البحث وويكيبيديا».

على الرغم من عدم وجود ما يشير إلى أن مطوري نماذج الدردشة الآلية قد زرعوا هذا التحيز عمدًا، إلا إنه ليس من الواضح تمامًا كيف دخل إلى تلك الأنظمة. لكن هذه النماذج تُدرّب على كميات هائلة من النصوص المتاحة على الإنترنت، وقد يتأثر هذا المزيج بسبب عدم وجود توازن بين مواد التعلم ذات التوجه الأيسر وتلك الموجودة في التعلم الأيمن.

يقول روزادو إن هيمنة ChatGPT على تدريب النماذج الأخرى يمكن أن يشكّل عاملًا أيضًا، لأنه أظهر سابقًا ميله إلى يسار الخط المنصّف عندما يتعلق الأمر بالمنظور السياسي.

تستخدم الروبوتات التي تعتمد على نماذج الدردشة الآلية LLMs بشكل أساسي الاحتمالات لمعرفة الكلمة التي يجب أن تتبع كلمة أخرى في ردودها، مما يعني أنها غير دقيقة عادةً فيما تقوله حتى قبل النظر في أنواع التحيز المختلفة.

على الرغم من حرص شركات التكنولوجيا مثل جوجل ومايكروسوفت وأبل وميتا على دفع روبوتات الدردشة الآلية باستخدام الذكاء الاصطناعي إلينا، إلا أنه ربما حان الوقت لإعادة تقييم كيفية استخدامنا لهذه التكنولوجيا، وتحديد المجالات ذات الأولوية التي يمكن أن يكون فيها الذكاء الاصطناعي مفيدًا حقًا.

يقول روزادو: «من الضروري ملاحظة وتحديد التحيزات السياسية المحتملة الموجودة في نماذج الدردشة الآلية وذلك لضمان تقديم متوازن وعادل ودقيق للمعلومات في الردود على استفسارات المستخدمين».