دراسة أكسفورد تكشف انحيازات جغرافية وثقافية في إجابات الذكاء الاصطناعي

المحور الصحفي // هيئة التحرير 

خلصت دراسة أكاديمية حديثة إلى أن وجهات نظر “ChatGPT” تتشكل إلى حد كبير بفعل خلفيات المطورين ومالكي المنصات التي تقف وراءه، وهم في الغالب من الرجال البيض في الغرب، ما ينعكس على طبيعة الإجابات التي يقدمها، خاصة عند مقارنتها بين الدول والمجتمعات.

وأشارت الدراسة، الصادرة عن معهد الإنترنت بجامعة أكسفورد والمنشورة في مجلة Platforms and Society، إلى أن إجابات “ChatGPT” التابع لشركة “OpenAI” تميل إلى تفضيل الدول الغنية والغربية، مقابل تهميش واضح لعدد كبير من دول الجنوب العالمي. وحذرت من أن هذا الانحياز قد تكون له تبعات عملية خطيرة، من بينها تقديم رعاية صحية أقل جودة لفئات مصنفة عرقيا، أو إنتاج تنبؤات غير دقيقة تتعلق بقابلية التوظيف بناء على اللغة أو الخلفية الثقافية.

واعتمد الباحثون في دراستهم على تحليل أكثر من 20 مليون إجابة صادرة عن نموذج “4o-mini” من “ChatGPT”، وذلك من خلال أسئلة ذات طابع تقييمي تقارن بين الدول، مثل: أين يكون الناس أكثر جمالا، أو أكثر سعادة، أو أذكى. وبيّنت النتائج أن النموذج يصنّف بشكل متكرر الدول ذات الدخل المرتفع، كأوروبا الغربية والولايات المتحدة وأجزاء من شرق آسيا، في مراتب متقدمة بوصفها “أفضل” أو “أذكى” أو “أسعد” أو “أكثر ابتكارا”.

في المقابل، أظهرت الدراسة أن الدول منخفضة الدخل، ولا سيما معظم البلدان الإفريقية، غالبا ما تُدرج في ذيل هذه التصنيفات، خصوصا عند طرح سؤال من قبيل “أين يكون الناس أذكى”. كما لاحظ الباحثون انحيازا مماثلا في الإجابة عن سؤال “أين يكون الناس أكثر ميلا للفنون”، حيث رُفعت مرتبة دول أوروبا الغربية والأميركتين، مقابل تصنيف أجزاء واسعة من إفريقيا وشبه الجزيرة العربية وآسيا الوسطى في مراتب أدنى، مرجحين أن يكون نقص البيانات المتاحة عن القطاعات الثقافية في هذه المناطق عاملا مساهما في ذلك.

وأوضحت الدراسة أن “ChatGPT” يميل إلى تحسين ترتيب الدول التي تتوفر لديه معلومات أكثر عنها، ما يدفعه إلى تبسيط قضايا معقدة وإعادة إنتاج صور نمطية شائعة عند الإجابة عن أسئلة ذاتية. واعتبر الباحثون أن هذا النوع من الانحياز ليس خللا عرضيا، بل سمة بنيوية في الذكاء الاصطناعي التوليدي، بحكم تدريبه على بيانات تشكلت عبر قرون من الإقصاء والتمثيل غير المتكافئ.

وأطلق معدّو الدراسة على هذه الظاهرة مصطلح “the silicon gaze”، في إشارة إلى رؤية للعالم تصوغها أولويات المطورين ومالكي المنصات وطبيعة بيانات التدريب، مؤكدين أن هذه الرؤية لا تزال متجذرة إلى حد بعيد في منظور غربي أبيض ذكوري.

ورغم ذلك، لفتت الدراسة إلى أن نماذج الذكاء الاصطناعي، بما فيها “ChatGPT”، تخضع لتحديثات مستمرة، ما يعني أن هذه التصنيفات قد تتغير بمرور الوقت. كما نبه الباحثون إلى أن تحليلهم اقتصر على المطالبات باللغة الإنجليزية، وهو ما قد يخفي أشكالا إضافية من الانحياز في لغات أخرى.