Onderzoek onthult: AI beoordeelt Oost-Duitsers oneerlijk in sollicitaties!

Onderzoek onthult: AI beoordeelt Oost-Duitsers oneerlijk in sollicitaties!

Uit een alarmerend onderzoek van de Universiteit voor Toegepaste Wetenschappen van München blijkt dat kunstmatige intelligentie (AI) zoals ChatGPT de Oost-Duitse staten systematisch slechter beoordeelt dan hun West-Duitse tegenhangers. Zoals Focus beschrijft, beschrijft de analyse van verschillende AI-modellen, waaronder ChatGPT 3.5 en 4, evenals de Duitse LeoLM, toont ernstige vooroordelen bij de evaluatie van kenmerken zoals hard werken en aantrekkelijkheid, die niet alleen beperkt blijven tot stereotypen.

Deze vooroordelen zijn zorgwekkend, vooral in een tijd waarin AI een steeds crucialere rol speelt in aanvraagprocessen en kredietbeslissingen. De kern van het probleem ligt in de manier waarop de AI zelf werkt, die slechts gedeeltelijk kan worden gecorrigeerd met behulp van ‘debiasing prompts’. Prof. dr. Anna Kruspe, die onderzoek doet naar dit onderwerp aan de Universiteit van München, benadrukt dat 30 procent van de politieke vooroordelen al uit de AI-modellen is verwijderd. Maar 70 procent van de problemen blijft bestaan.

Risico's voor het sollicitatieproces

Een centrale zorg is de structurele achterstand waarmee Oost-Duitsers worden geconfronteerd bij het solliciteren naar een baan. AI-modellen kunnen bijvoorbeeld ongerechtvaardigde negatieve beoordelingen geven van opleidingstrajecten en werkervaringen. Om dit tegen te gaan stelt prof. Kruspe voor om in de aanwijzingen expliciet te vermelden dat er geen rekening mag worden gehouden met de afkomst van de verzoeker. Helaas is dit geen betrouwbare oplossing, zo laat ze zien in haar onderzoek, dat ze in 2024 op een conferentie over kunstmatige intelligentie zal publiceren.

De potentiële impact is ernstig: als de AI zich op een dergelijke discriminerende manier blijft gedragen, kan dit ertoe leiden dat Oost-Duitsers kansen worden ontzegd waar zij mogelijk recht op hebben. De studie identificeert ook dat algoritmische vooroordelen niet alleen een kwestie van regionale oorsprong zijn, maar in het algemeen alle groepen kunnen beïnvloeden. Deze bevindingen kunnen niet alleen van invloed zijn op individuele loopbanen, maar ook op de gehele arbeidsmarkt.

Sociale implicaties

Maar het is niet alleen de regionale filtering die een probleem is. Zoals de Böckler Foundation meldt, wordt AI steeds vaker gebruikt in de arbeidswereld, waar het diepgewortelde discriminatie kan versterken. Vooral vrouwen in door vrouwen gedomineerde beroepen zouden onder dit effect kunnen lijden, omdat hun vaak lagerbetaalde banen worden aangeboden wanneer op AI gebaseerde systemen worden gebruikt voor personeelsselectie.

Ondertussen wint de discussie over het reguleren van AI aan kracht nu steeds meer alarmerende stemmen wijzen op de potentiële gevaren. In de toekomst zal het van cruciaal belang zijn om zowel wettelijke kaders te creëren als de technologische ontwikkelingen te beheren op een manier die rechtvaardigheid en gelijkheid bevordert. Deskundigen pleiten ervoor dat ondernemingsraden een actieve rol spelen bij het controleren van het gebruik van nieuwe technologieën op mogelijke discriminatie en ervoor zorgen dat vooruitgang niet ten koste gaat van de sociale rechtvaardigheid.

De resultaten van dit onderzoek werpen een helder licht op het huidige potentieel dat kunstmatige intelligentie heeft in onze samenleving en dagen ons uit om kritisch te onderzoeken hoe we deze technologieën integreren in een rechtvaardige toekomst. We kunnen alleen maar hopen dat we geen belangrijk avontuur missen, want vooruitgang zou iedereen ten goede moeten komen.