Studie deckt auf: KI bewertet Ostdeutsche in Bewerbungen unfair!

Studie deckt auf: KI bewertet Ostdeutsche in Bewerbungen unfair!

In einer alarmierenden Studie der Hochschule München wurde herausgefunden, dass Künstliche Intelligenz (KI) wie ChatGPT ostdeutsche Bundesländer systematisch schlechter bewertet als ihre westdeutschen Pendants. Wie Focus beschreibt, zeigt die Analyse von unterschiedlichen KI-Modellen, darunter ChatGPT 3.5 und 4 sowie das deutsche LeoLM, gravierende Vorurteile in der Bewertung von Eigenschaften wie Fleiß und Attraktivität, die sich nicht nur auf Stereotype beschränken.

Diese Verzerrungen sind besorgniserregend, besonders in einem Zeitraum, in dem KI eine zunehmend entscheidende Rolle bei Bewerbungsverfahren und Kreditentscheidungen spielt. Der Kern des Problems liegt in der Funktionsweise der KI selbst, die durch „Debiasing Prompts“ lediglich ansatzweise korrigiert werden kann. Prof. Dr. Anna Kruspe, die an der Hochschule München Forschungsarbeiten über diese Thematik durchführt, betont, dass bereits 30 Prozent der politischen Voreingenommenheit aus den KI-Modellen entfernt wurden. Dennoch bestehen 70 Prozent der Probleme fort.

Risiken für Bewerbungsverfahren

Ein zentrales Anliegen ist die strukturelle Benachteiligung von Ostdeutschen bei Bewerbungen. KI-Modelle könnten zum Beispiel ungerechtfertigt negative Bewertungen von Bildungswegen und Arbeitserfahrungen abgeben. Um dem entgegenzuwirken, schlägt Prof. Kruspe vor, in den Prompts explizit zu erwähnen, dass die Herkunft der Bewerbenden nicht berücksichtigt werden soll. Leider ist dies jedoch keine verlässliche Lösung, wie sie im Rahmen ihrer Forschung zeigt, die sie im Jahr 2024 auf einer Konferenz zur Künstlichen Intelligenz veröffentlichen wird.

Die potenziellen Auswirkungen sind gravierend: Sollte die KI weiterhin so diskriminierend agieren, könnte dies dazu führen, dass Ostdeutschen Chancen verwehrt bleiben, die ihnen vielleicht zustehen. Die Studie identifiziert auch, dass algorithmische Vorurteile nicht nur eine Frage regionaler Herkunft betreffen, sondern generell alle Gruppen beeinflussen können. Diese Erkenntnisse könnten nicht nur die individuelle Karriere betreffen, sondern auch den gesamten Arbeitsmarkt.

Gesellschaftliche Implikationen

Doch nicht nur die regionale Filterung ist ein Problem. Wie die Böckler-Stiftung berichtet, wird KI zunehmend in der Arbeitswelt eingesetzt, wo sie in der Lage ist, tief verwurzelte Diskriminierungen zu verstärken. Insbesondere Frauen in frauendominierten Berufen könnten unter diesem Effekt leiden, da sie häufig schlechter bezahlte Jobs angeboten bekommen, wenn KI-basierte Systeme zur Personalauswahl eingesetzt werden.

Die Diskussion über die Regulierung von KI gewinnt unterdessen immer mehr an Fahrt, da immer mehr Stimmen alarmierend auf die potenziellen Gefahren hinweisen. In der Zukunft wird es entscheidend sein, sowohl rechtliche Rahmenbedingungen zu schaffen als auch die technologischen Entwicklungen so zu steuern, dass Gerechtigkeit und Gleichstellung gefördert werden. Experten plädieren dafür, dass Betriebsräte eine aktive Rolle dabei spielen, den Einsatz neuer Technologien auf mögliche Diskriminierung zu überprüfen und sicherzustellen, dass Fortschritt nicht auf Kosten von gesellschaftlicher Gerechtigkeit geht.

Die Ergebnisse dieser Studie werfen ein grelles Licht auf das aktuelle Potenzial, das Künstliche Intelligenz in unserer Gesellschaft hat, und fordern uns auf, kritisch zu hinterfragen, wie wir diese Technologien in eine gerechte Zukunft integrieren. Es bleibt zu hoffen, dass wir da nicht ein wichtiges Abenteuer verpassen – denn der Fortschritt sollte allen zugutekommen.