Studie avslöjar: AI utvärderar orättvist östtyskar i ansökningar!

Studie avslöjar: AI utvärderar orättvist östtyskar i ansökningar!

En alarmerande studie från Münchens yrkeshögskola fann att artificiell intelligens (AI) som ChatGPT systematiskt bedömer östtyska stater sämre än deras västtyska motsvarigheter. Som Focus beskriver, analysen av olika. PT-modeller, inklusive 5.GAI och tyska PT-modeller. LeoLM, visar allvarliga fördomar i utvärderingen av egenskaper som hårt arbete och attraktivitet, som inte bara är begränsade till stereotyper.

Dessa fördomar är oroande, särskilt i en tid då AI spelar en allt viktigare roll i ansökningsprocesser och kreditbeslut. Kärnan i problemet ligger i hur AI själv fungerar, vilket bara delvis kan korrigeras med hjälp av "nedsättande uppmaningar". Prof. Dr. Anna Kruspe, som forskar om detta ämne vid Münchens yrkeshögskola, betonar att 30 procent av den politiska fördomen redan har tagits bort från AI-modellerna. 70 procent av problemen kvarstår dock.

Risker för ansökningsprocessen

En central fråga är den strukturella nackdelen som östtyskar möter när de söker jobb. Exempelvis skulle AI-modeller kunna ge omotiverade negativa bedömningar av utbildningsvägar och arbetserfarenheter. För att motverka detta föreslår prof. Kruspe att man uttryckligen nämner i uppmaningarna att den sökandes ursprung inte ska beaktas. Tyvärr är detta ingen tillförlitlig lösning, vilket hon visar i sin forskning som hon kommer att publicera på en konferens om artificiell intelligens 2024.

Den potentiella påverkan är allvarlig: Om AI fortsätter att agera på ett sådant diskriminerande sätt kan detta leda till att östtyskar nekas möjligheter som de kan ha rätt till. Studien identifierar också att algoritmiska fördomar inte bara är en fråga om regionalt ursprung, utan kan generellt påverka alla grupper. Dessa fynd kan inte bara påverka enskilda karriärer, utan också hela arbetsmarknaden.

Sociala konsekvenser

Men det är inte bara regional filtrering som är ett problem. Som Böckler Foundation rapporterar används AI alltmer i arbetsvärlden, där det kan förstärka djupt rotad diskriminering. Särskilt kvinnor i kvinnodominerade yrken skulle kunna drabbas av denna effekt, eftersom de ofta erbjuds lägre betalda jobb när AI-baserade system används för personalurval.

Samtidigt tar diskussionen om att reglera AI fart när fler och fler alarmerande röster pekar på de potentiella farorna. I framtiden kommer det att vara avgörande att både skapa rättsliga ramar och hantera den tekniska utvecklingen på ett sätt som främjar rättvisa och jämlikhet. Experter förespråkar att företagsråd spelar en aktiv roll för att kontrollera användningen av ny teknik för eventuell diskriminering och se till att framsteg inte sker på bekostnad av social rättvisa.

Resultaten av denna studie belyser den nuvarande potentialen som artificiell intelligens har i vårt samhälle och utmanar oss att kritiskt granska hur vi integrerar dessa teknologier i en rättvis framtid. Vi kan bara hoppas att vi inte missar ett viktigt äventyr – för framsteg borde gynna alla.