عندما يصبح الكود عنصرياً: كيف تحوّل الذكاء الاصطناعي إلى مرآة لأسوأ ما فينا

اعتقدت هنادي أنها أبدعت في المقابلة. خمسة عشر عاماً من الخبرة في تطوير التطبيقات المصرفية، شهادة من الجامعة الأمريكية في بيروت، ومحفظة أعمال تضم مشاريع مع أكبر البنوك في الخليج. ومع ذلك، وصل بريد الرفض الإلكتروني وهي لا تزال في مترو دبي. “بعد دراسة متأنية”، جاء في الرسالة، “حدد نظام الفرز المدعوم بالذكاء الاصطناعي أنك لست مناسبة لهذا المنصب.”

المفاجأة؟ اكتشفت هنادي لاحقاً من خلال زميل في الشركة أن خوارزمية التوظيف الخاصة بهم تعلمت تفضيل المرشحين الذين تخرجوا من جامعات أمريكية أو بريطانية محددة. لم يكن الأمر متعلقاً بجودة التعليم بل لأن بيانات التدريب عكست تحيز المدراء السابقين الذين وظفوا خريجي جامعاتهم. اخترعت الآلة بهدوء تمييزًا تعليميًا، ولفته بلغة البيانات الموضوعية.

مرحباً بكم في عالم تحيز التعلم الآلي، حيث تتشابك التحيزات التقنية مع التعقيدات الثقافية واللغوية والاجتماعية.

مسابقة التعرف على الأنماط الكبرى

تخيل التعلم الآلي كطالب نجيب يدرس في مدرسة دولية في جدة. تُريه صورًا لأشخاص يرتدون الثوب والغترة، فيتعلم أن هذا هو “الزي الرسمي”. لكن عندما ينتقل إلى المغرب ويرى الجلابة، أو إلى نيجيريا ويرى الأجبادا، يصبح مرتبكًا. لقد تعلم نمطًا واحدًا فقط من الملابس.

هذا هو تحيز العينة في سياقنا الإقليمي. عندما دربت شركة تكنولوجيا مالية كبرى في الولايات المتحدة نظامها لتقييم الجدارة الائتمانية، استخدمت بيانات من عملاء في نيويورك وسان فرانسيسكو فقط. النتيجة؟ رُفضت طلبات القروض من المقيمين في وست فرجينيا وأيوا الريفية بمعدلات أعلى، ليس لأنهم أقل جدارة ائتمانية، بل لأن أنماط إنفاقهم وتوظيفهم لم تتطابق مع “النموذج المثالي” المستمد من المدن الكبرى الساحلية.

حلقة التغذية الراجعة من الجحيم

دعنا نزور حي خيالي نسميه “المستقبل”. نشرت الشرطة نظامًا للتنبؤ بالجرائم لاحظ ارتفاعًا طفيفًا في البلاغات من هذا الحي. أرسلوا المزيد من الدوريات، مما أدى إلى المزيد من المخالفات المرورية والغرامات البسيطة. في الشهر التالي، “تعلمت” الخوارزمية أن “المستقبل” منطقة عالية الخطورة، فأرسلت المزيد من الدوريات.

في الواقع، نرى هذا يحدث في أحياء شعبية عديدة حول العالم مثل هيلبرو في جوهانسبرغ. الخوارزمية تخلق واقعًا يعزز نفسه، محولة الأحياء الفقيرة إلى مناطق مراقبة دائمة.

مشكلة اللغة والثقافة

في منطقتنا، يأخذ التحيز الخوارزمي أبعادًا إضافية. تخيل نظام ذكاء اصطناعي لفحص السير الذاتية مدرب بشكل أساسي على نصوص إنجليزية. عندما يواجه سيرة ذاتية مكتوبة بالعربية الفصحى أو حتى بلهجة محلية، قد يخطئ في تقييم المهارات.

أحمد من الإسكندرية، مبرمج موهوب، كتب في سيرته أنه “مطور تطبيقات ويب”. لكن النظام المدرب على مصطلحات إنجليزية بحث عن “Full Stack Developer” و”Web Developer”، ففشل في التعرف على خبرته.

التحيز في الخدمات المالية

في كينيا، ثورة M-Pesa غيرت المشهد المالي. لكن عندما تستخدم البنوك الخوارزميات لتقييم الجدارة الائتمانية بناءً على سجل M-Pesa، تظهر تحيزات جديدة. النساء اللواتي يستخدمن M-Pesa بشكل أساسي للمعاملات الصغيرة والتحويلات العائلية يُصنفن كـ”مخاطر أعلى” مقارنة بالرجال الذين يستخدمونه للأعمال التجارية.

الصحة والتعليم في عصر الخوارزميات

في فرنسا، طبقت المستشفيات نظام ذكاء اصطناعي للكشف المبكر عن الأمراض الجلدية. لكن النظام المدرب على صور لبشرة بيضاء فشل في تشخيص سرطان الجلد لدى المرضى من أصول أفريقية أو آسيوية. امرأة من أصل سنغالي في باريس اضطرت لزيارة خمسة أطباء قبل أن يكتشف أحدهم يدويًا ما فشلت الخوارزمية في رؤيته.

في ألمانيا، نظام القبول الجامعي الرقمي “Hochschulstart” واجه انتقادات حادة عندما اكتشف أن خوارزميته تعطي أفضلية تلقائية للطلاب الذين درسوا اللاتينية أو اليونانية القديمة، مواد تُدرَّس بشكل أساسي في المدارس الثانوية النخبوية. الطلاب من خلفيات مهاجرة، الذين غالبًا ما يدرسون التركية أو العربية كلغة ثانية، وجدوا أنفسهم في مرتبة أدنى رغم تفوقهم الأكاديمي.

كسر الحلقة: حلول إقليمية

الخبر السار أن المنطقة بدأت تستيقظ لهذه التحديات:

البيانات المحلية: في الأردن، مبادرات لجمع بيانات تدريب متنوعة تشمل اللهجات المختلفة والخلفيات الاجتماعية. في رواندا، جهود لبناء مجموعات بيانات تعكس التنوع العرقي واللغوي.

التدقيق الثقافي: في الإمارات، بدأت هيئة تنظيم الاتصالات في وضع معايير لفحص التحيز في أنظمة الذكاء الاصطناعي، مع التركيز على السياق الثقافي المحلي.

التعليم والتوعية: جامعات مثل الجامعة الأمريكية في القاهرة وجامعة محمد بن زايد للذكاء الاصطناعي تدمج أخلاقيات الذكاء الاصطناعي في مناهجها، مع التركيز على التحديات الإقليمية.

النظرة المستقبلية

مع سعي دول المنطقة لتحقيق رؤاها الرقمية  من رؤية السعودية 2030 إلى أجندا أفريقيا 2063  يصبح التعامل مع تحيز الخوارزميات أمرًا حيويًا. نحتاج إلى:

• أنظمة ذكاء اصطناعي متعددة اللغات تفهم العربية بلهجاتها وعشرات اللغات الأخرى في منطقتنا, مثل “علام” في السعودية.
• بيانات تدريب تعكس تنوعنا من البدو في الصحراء إلى سكان المدن الكبرى، من الصيادين في الإسكندرية إلى رعاة الماشية في كينيا.
• أطر تنظيمية تحترم خصوصيتنا الثقافية دون التضحية بالعدالة والشفافية.

في النهاية، عادت هنادي لتؤسس شركتها الناشئة لتطوير أدوات ذكاء اصطناعي “عادلة ثقافيًا”. مهمتها؟ التأكد من أن الخوارزميات التي نبنيها تعكس أفضل ما فينا، وليس أسوأ تحيزاتنا.

التحدي أمامنا ليس مجرد استيراد حلول من الغرب، بل بناء أنظمة ذكاء اصطناعي تفهم وتحترم تعقيدات منطقتنا. من تنوعنا اللغوي الغني إلى نسيجنا الاجتماعي المعقد، نحتاج خوارزميات تتعلم ليس فقط من بياناتنا، بل من قيمنا وتطلعاتنا.