دراسة تكشف: الذكاء الاصطناعي يقيم بشكل غير عادل الألمان الشرقيين في طلبات التقديم!

دراسة تكشف: الذكاء الاصطناعي يقيم بشكل غير عادل الألمان الشرقيين في طلبات التقديم!

وجدت دراسة مثيرة للقلق أجرتها جامعة ميونيخ للعلوم التطبيقية أن الذكاء الاصطناعي (AI) مثل ChatGPT يصنف بشكل منهجي ولايات ألمانيا الشرقية على أنها أسوأ من نظيراتها في ألمانيا الغربية. كما يصف Focus، تحليل نماذج الذكاء الاصطناعي المختلفة، بما في ذلك ChatGPT 3.5 و4 بالإضافة إلى الألمانية يُظهر LeoLM تحيزات خطيرة في تقييم خصائص مثل العمل الجاد والجاذبية، والتي لا تقتصر فقط على الصور النمطية.

وتثير هذه التحيزات القلق، خاصة في وقت حيث يلعب الذكاء الاصطناعي دورا متزايد الأهمية في عمليات تقديم الطلبات وقرارات الائتمان. يكمن جوهر المشكلة في الطريقة التي يعمل بها الذكاء الاصطناعي نفسه، والتي لا يمكن تصحيحها إلا جزئيًا باستخدام "المطالبات المتحيزة". وتؤكد البروفيسورة الدكتورة آنا كروسبي، التي تجري بحثًا حول هذا الموضوع في جامعة ميونيخ للعلوم التطبيقية، أنه تمت بالفعل إزالة 30 بالمائة من التحيز السياسي من نماذج الذكاء الاصطناعي. ومع ذلك، فإن 70% من المشاكل لا تزال قائمة.

المخاطر التي تواجه عملية التقديم

أحد المخاوف الرئيسية هو العيب الهيكلي الذي يواجهه الألمان الشرقيون عند التقدم للوظائف. على سبيل المثال، يمكن لنماذج الذكاء الاصطناعي أن تعطي تقييمات سلبية غير مبررة للمسارات التعليمية وخبرات العمل. ولمواجهة ذلك، يقترح البروفيسور كروسبي أن يذكر صراحة في المطالبات أنه لا ينبغي أخذ أصل مقدم الطلب بعين الاعتبار. ولسوء الحظ، هذا ليس حلاً موثوقًا، كما تظهر في بحثها، الذي ستنشره في مؤتمر حول الذكاء الاصطناعي في عام 2024.

التأثير المحتمل خطير: إذا استمر الذكاء الاصطناعي في التصرف بهذه الطريقة التمييزية، فقد يؤدي ذلك إلى حرمان الألمان الشرقيين من الفرص التي قد يستحقونها. وتحدد الدراسة أيضًا أن التحيزات الخوارزمية ليست مجرد مسألة ذات أصل إقليمي، ولكنها يمكن أن تؤثر بشكل عام على جميع المجموعات. ولا يمكن لهذه النتائج أن تؤثر على المهن الفردية فحسب، بل أيضا على سوق العمل بأكمله.

الآثار الاجتماعية

لكن المشكلة لا تقتصر على التصفية الإقليمية. وفقًا لتقارير مؤسسة بوكلر، يتم استخدام الذكاء الاصطناعي بشكل متزايد في عالم العمل، حيث يكون قادرًا على تعزيز التمييز المتأصل. ويمكن أن تعاني النساء في المهن التي تهيمن عليها النساء على وجه الخصوص من هذا التأثير، حيث يتم عرض عليهن في كثير من الأحيان وظائف منخفضة الأجر عند استخدام الأنظمة القائمة على الذكاء الاصطناعي لاختيار الموظفين.

وفي الوقت نفسه، تكتسب المناقشة حول تنظيم الذكاء الاصطناعي زخماً مع تزايد الأصوات المزعجة التي تشير إلى المخاطر المحتملة. وفي المستقبل، سيكون من الأهمية بمكان إنشاء أطر قانونية وإدارة التطورات التكنولوجية بطريقة تعزز العدالة والمساواة. ويدعو الخبراء إلى أن تلعب مجالس العمل دورًا نشطًا في التحقق من استخدام التقنيات الجديدة بحثًا عن التمييز المحتمل وضمان ألا يأتي التقدم على حساب العدالة الاجتماعية.

تسلط نتائج هذه الدراسة الضوء الساطع على الإمكانات الحالية التي يتمتع بها الذكاء الاصطناعي في مجتمعنا وتتحدىنا لإجراء دراسة نقدية لكيفية دمج هذه التقنيات في مستقبل عادل. ولا يسعنا إلا أن نأمل ألا نفوت مغامرة مهمة - لأن التقدم يجب أن يفيد الجميع.