Uuringust selgub: AI hindab ebaõiglaselt idasakslasi rakendustes!

Uuringust selgub: AI hindab ebaõiglaselt idasakslasi rakendustes!

Müncheni rakendusteaduste ülikooli murettekitavas uuringus leiti, et tehisintellekt (AI) nagu ChatGPT hindab süstemaatiliselt Ida -Saksamaa riike halvemaks kui nende Lääne -Saksamaa kolleegid. As [Focus] (https://www.focus.de/wissen/sachsen-anhalt-am-sam-schlimmsten-chatgpt-wert-ostdet-ostdeutsche-ab_c06f2194-737-4FA5-AA824-CE06F4D39393939393 ChatGpt 3.5 ja 4, aga ka Saksa Leolm, tõsised eelarvamused selliste omaduste nagu raske töö ja atraktiivsuse hindamisel, mis ei piirdu ainult stereotüüpidega.

Need eelarvamused puudutavad, eriti ajal, mil AI mängib taotlusprotsessides ja krediidiotsustes üha kriitilisemat rolli. Probleemi tuum seisneb AI ise toimimisviisis, mida saab ainult osaliselt parandada, kasutades „debiasing juhiseid”. Prof dr Anna Kruspe, kes viib läbi Müncheni rakendusteaduste ülikoolis selleteemalisi uuringuid, rõhutab, et AI mudelitest on juba eemaldatud 30 protsenti poliitilistest eelarvamustest. 70 protsenti probleemidest püsib siiski.

Taotlusprotsessi riskid

Keskne mure on struktuuriline ebasoodne olukord, millega idasakslased töökohtadele kandideerimisel silmitsi seisavad. Näiteks võiksid AI mudelid anda õigustamatuid negatiivseid hinnanguid haridusteede ja töökogemuste kohta. Selle vastu võitlemiseks soovitab prof Kruspe selgesõnaliselt mainida, et taotleja päritolu ei tohiks arvestada. Kahjuks pole see usaldusväärne lahendus, nagu ta oma uurimistöös näitab, mille ta avaldab 2024. aastal tehisintellekti teemal.

Võimalik mõju on tõsine: kui AI tegutseb jätkuvalt sellisel diskrimineerival viisil, võib see põhjustada Idasakslaste võimalusi, millele neil võib olla õigus. Uuring tuvastab ka, et algoritmilised eelarvamused ei ole ainult piirkondliku päritolu küsimus, vaid võivad üldiselt mõjutada kõiki rühmi. Need leiud ei pruugi mõjutada mitte ainult individuaalset karjääri, vaid ka kogu tööturgu.

Sotsiaalsed tagajärjed

Kuid probleem pole ainult piirkondlik filtreerimine. Nagu Böckleri fond teatab, et AI-d kasutatakse üha enam töömaailmas, kus see on võimeline tugevdama sügavat diskrimineerimist. Eriti naiste domineerivate elukutsete naised võivad selle mõju all kannatada, kuna neile pakutakse sageli madalama palgaga töökohti, kui personali valimiseks kasutatakse AI-põhiseid süsteeme.

Samal ajal on arutelu AI reguleerimise üle hoog, kuna üha murettekitavamad hääled osutavad võimalikele ohtudele. Tulevikus on ülioluline luua nii õigusraamistikke kui ka tehnoloogilisi arenguid viisil, mis edendab õiglust ja võrdsust. Eksperdid propageerivad, et töönõukogud mängivad aktiivset rolli uute tehnoloogiate kasutamise kontrollimisel võimaliku diskrimineerimise jaoks ja tagades, et edusammud ei tulene sotsiaalse õigluse arvelt.

Selle uuringu tulemused paistavad ereda valguse praegusele potentsiaalile, mis tehisintellektil on meie ühiskonnas, ja kutsuvad meid üles kriitiliselt uurima, kuidas me need tehnoloogiad integreerime õiglasesse tulevikku. Me võime ainult loota, et me ei jäta olulist seiklust kasutamata - sest edusammudele peaks kõigile kasu olema.