Študija razkriva: AI nepravično ocenjuje Vzhodne Nemce v prijavah!

Študija razkriva: AI nepravično ocenjuje Vzhodne Nemce v prijavah!

Zaskrbljujoča študija Univerze uporabnih znanosti v Münchnu je pokazala, da umetna inteligenca (AI), kot je ChatGPT, vzhodnonemške države sistematično ocenjuje slabše od njihovih zahodnonemških držav. Kot opisuje Focus, analiza različnih AI modeli, vključno s ChatGPT 3.5 in 4 ter nemškim LeoLM, resne predsodke pri vrednotenju lastnosti, kot sta delavnost in privlačnost, ki pa niso omejeni le na stereotipe.

Te pristranskosti so zaskrbljujoče, zlasti v času, ko ima umetna inteligenca vse bolj kritično vlogo pri prijavnih postopkih in kreditnih odločitvah. Jedro problema je v načinu delovanja same umetne inteligence, ki ga je mogoče le delno popraviti z uporabo "pozivov za razbremenitev". Prof. dr. Anna Kruspe, ki izvaja raziskave na to temo na Univerzi uporabnih znanosti v Münchnu, poudarja, da je bilo 30 odstotkov politične pristranskosti že odstranjenih iz modelov AI. Vendar pa 70 odstotkov težav ostaja.

Tveganja za postopek prijave

Osrednja skrb je strukturna pomanjkljivost, s katero se srečujejo Vzhodni Nemci, ko se prijavljajo na delovna mesta. Na primer, modeli umetne inteligence bi lahko dali neupravičeno negativne ocene izobraževalnih poti in delovnih izkušenj. Da bi se temu izognili, prof. Kruspe predlaga, da se v pozivih izrecno navede, da se izvor prosilca ne sme upoštevati. Žal to ni zanesljiva rešitev, kot kaže v svoji raziskavi, ki jo bo objavila na konferenci o umetni inteligenci leta 2024.

Potencialni vpliv je resen: če bo umetna inteligenca še naprej delovala na tako diskriminatoren način, bi to lahko povzročilo, da bi Vzhodni Nemci izgubili priložnosti, do katerih so morda upravičeni. Študija tudi ugotavlja, da algoritemske pristranskosti niso samo stvar regionalnega izvora, ampak lahko na splošno vplivajo na vse skupine. Te ugotovitve ne morejo vplivati ​​le na kariero posameznika, ampak tudi na celoten trg dela.

Družbene posledice

Težava pa ni le v regionalnem filtriranju. Kot poroča Fundacija Böckler, se umetna inteligenca vse pogosteje uporablja v svetu dela, kjer je sposobna okrepiti globoko zakoreninjeno diskriminacijo. Zlasti ženske v poklicih, v katerih prevladujejo ženske, bi lahko trpele zaradi tega učinka, saj se jim pogosto ponudijo slabše plačana delovna mesta, če se za izbor osebja uporabljajo sistemi, ki temeljijo na umetni inteligenci.

Medtem pa razprava o regulaciji umetne inteligence dobiva zagon, saj vse več zaskrbljujočih glasov opozarja na morebitne nevarnosti. V prihodnosti bo ključno ustvariti pravne okvire in upravljati tehnološki razvoj na način, ki spodbuja pravičnost in enakost. Strokovnjaki se zavzemajo za aktivno vlogo svetov delavcev pri preverjanju morebitne diskriminacije uporabe novih tehnologij in zagotavljanju, da napredek ne gre na račun socialne pravičnosti.

Rezultati te študije osvetljujejo trenutni potencial, ki ga ima umetna inteligenca v naši družbi, in nas izzivajo, da kritično preučimo, kako te tehnologije integriramo v pravično prihodnost. Le upamo lahko, da ne bomo zamudili pomembne dogodivščine – kajti napredek naj bi koristil vsem.