Uuring näitab: AI hindab rakendustes ebaõiglaselt idasakslasi!

Uuring näitab: AI hindab rakendustes ebaõiglaselt idasakslasi!

Müncheni rakenduskõrgkooli murettekitav uuring näitas, et tehisintellekt (AI) nagu ChatGPT hindab Ida-Saksamaa riike süstemaatiliselt halvemini kui nende Lääne-Saksamaa kolleegid. Nagu Focus kirjeldab, kirjeldab Chat4 erinevate AI mudelite ja 5t-mudelite analüüs. nagu Saksa LeoLM, näitab tõsiseid eelarvamusi selliste omaduste, nagu töökus ja atraktiivsus, hindamisel, mis ei piirdu ainult stereotüüpidega.

Need eelarvamused on murettekitavad, eriti ajal, mil tehisintellekt mängib taotlemisprotsessides ja krediidiotsuste tegemisel üha kriitilisemat rolli. Probleemi tuum seisneb selles, kuidas AI ise töötab, mida saab ainult osaliselt parandada "kallutatavate viipade" abil. Prof dr Anna Kruspe, kes viib läbi selleteemalisi uuringuid Müncheni rakenduskõrgkoolis, rõhutab, et 30 protsenti poliitilisest eelarvamusest on AI-mudelitest juba eemaldatud. 70 protsenti probleemidest aga püsivad.

Taotlusprotsessiga seotud riskid

Keskseks murekohaks on struktuurne ebasoodne olukord, millega idasakslased tööle kandideerides kokku puutuvad. Näiteks võivad AI mudelid anda põhjendamatult negatiivseid hinnanguid haridusteele ja töökogemustele. Selle vastu võitlemiseks soovitab prof Kruspe viipades selgesõnaliselt mainida, et taotleja päritolu ei tohiks arvesse võtta. Kahjuks pole see usaldusväärne lahendus, nagu ta näitab oma uurimistöös, mille ta avaldab tehisintellekti käsitleval konverentsil 2024. aastal.

Võimalik mõju on tõsine: kui tehisintellekt jätkab sellisel diskrimineerival viisil tegutsemist, võib see kaasa tuua selle, et idasakslastel ei anta võimalusi, millele neil võib õigus olla. Uuring tuvastab ka, et algoritmilised eelarvamused ei ole ainult piirkondliku päritolu küsimus, vaid võivad üldiselt mõjutada kõiki rühmi. Need leiud võivad mõjutada mitte ainult individuaalset karjääri, vaid ka kogu tööturgu.

Sotsiaalsed tagajärjed

Kuid probleem pole ainult piirkondlik filtreerimine. Nagu Böckleri sihtasutus teatab, kasutatakse tehisintellekti üha enam töömaailmas, kus see on võimeline tugevdama sügavalt juurdunud diskrimineerimist. Eelkõige võivad selle mõju all kannatada naised, kes töötavad naissoost elukutsetes, kuna neile pakutakse sageli madalama palgaga töökohti, kui personalivalikuks kasutatakse tehisintellektil põhinevaid süsteeme.

Samal ajal on arutelu AI reguleerimise üle kogumas hoogu, kuna üha rohkem murettekitavaid hääli osutab võimalikele ohtudele. Tulevikus on ülioluline nii õigusraamistike loomine kui ka tehnoloogia arengu juhtimine viisil, mis edendab õiglust ja võrdsust. Eksperdid pooldavad, et töönõukogud mängiksid aktiivset rolli uute tehnoloogiate kasutamise kontrollimisel võimaliku diskrimineerimise suhtes ja tagamaks, et edasiminek ei toimuks sotsiaalse õigluse arvelt.

Selle uuringu tulemused näitavad eredat valgust tehisintellekti praegusele potentsiaalile meie ühiskonnas ja kutsuvad meid kriitiliselt uurima, kuidas integreerida need tehnoloogiad õiglasesse tulevikku. Jääb vaid loota, et tähtsat seiklust ilma ei jää – sest edusammudest peaks kasu saama kõigile.