Studie avslører: AI vurderer østtyskere urettferdig i søknader!

Studie avslører: AI vurderer østtyskere urettferdig i søknader!

En alarmerende studie fra München University of Applied Sciences fant at kunstig intelligens (AI) som ChatGPT systematisk vurderer østtyske stater dårligere enn deres vesttyske kolleger. Som Focus beskriver, er analysen av forskjellige AI modeller, inkludert ChatGPT 3.5 og 4 samt tyske LeoLM, alvorlige fordommer i evalueringen av egenskaper som hardt arbeid og attraktivitet, som ikke bare er begrenset til stereotypier.

Disse skjevhetene er bekymringsfulle, spesielt i en tid da AI spiller en stadig mer kritisk rolle i søknadsprosesser og kredittbeslutninger. Kjernen av problemet ligger i måten AI i seg selv fungerer på, som bare delvis kan korrigeres ved hjelp av "debiasing prompts". Prof. Dr. Anna Kruspe, som forsker på dette emnet ved München University of Applied Sciences, understreker at 30 prosent av politisk skjevhet allerede er fjernet fra AI-modellene. 70 prosent av problemene vedvarer imidlertid.

Risikoer for søknadsprosessen

En sentral bekymring er den strukturelle ulempen som østtyskere møter når de søker jobb. For eksempel vil AI-modeller kunne gi uberettigede negative vurderinger av utdanningsveier og arbeidserfaringer. For å motvirke dette foreslår prof. Kruspe å nevne eksplisitt i ledeteksten at søkerens opprinnelse ikke skal tas i betraktning. Dette er dessverre ikke en pålitelig løsning, som hun viser i sin forskning, som hun vil publisere på en konferanse om kunstig intelligens i 2024.

Den potensielle påvirkningen er alvorlig: Hvis AI fortsetter å opptre på en slik diskriminerende måte, kan dette føre til at østtyskere blir nektet muligheter de kan ha rett til. Studien identifiserer også at algoritmiske skjevheter ikke bare er et spørsmål om regional opprinnelse, men kan generelt påvirke alle grupper. Disse funnene kan ikke bare påvirke individuelle karrierer, men også hele arbeidsmarkedet.

Sosiale implikasjoner

Men det er ikke bare regional filtrering som er et problem. Som Böckler Foundation rapporterer, blir AI i økende grad brukt i arbeidsverdenen, hvor den er i stand til å forsterke dypt forankret diskriminering. Særlig kvinner i kvinnedominerte yrker kan lide av denne effekten, da de ofte tilbys lavere betalte jobber når AI-baserte systemer brukes til personellutvelgelse.

I mellomtiden tar diskusjonen om regulering av AI fart ettersom flere og flere alarmerende stemmer påpeker de potensielle farene. I fremtiden vil det være avgjørende både å skape juridiske rammer og styre den teknologiske utviklingen på en måte som fremmer rettferdighet og likeverd. Eksperter tar til orde for at bedriftsutvalg spiller en aktiv rolle i å kontrollere bruken av ny teknologi for mulig diskriminering og sikre at fremgang ikke går på bekostning av sosial rettferdighet.

Resultatene av denne studien kaster lys over det nåværende potensialet som kunstig intelligens har i samfunnet vårt og utfordrer oss til kritisk å undersøke hvordan vi integrerer disse teknologiene i en rettferdig fremtid. Vi får håpe at vi ikke går glipp av et viktig eventyr – for fremgang bør komme alle til gode.