Suche
Pētījums atklāj: AI negodīgi novērtē austrumvāciešus lietojumprogrammās!
Minhenes Lietišķo zinātņu universitātes pētījums parāda, kā AI nelabvēlīgi ietekmē austrumvāciešus. Tiek izceltas problēmas ar vērtējumiem un precedentiem.
Pētījums atklāj: AI negodīgi novērtē austrumvāciešus lietojumprogrammās!
Satraucošais Minhenes Lietišķo zinātņu universitātes pētījums atklāja, ka mākslīgais intelekts (AI), piemēram, ChatGPT, sistemātiski vērtē Austrumvācijas valstis sliktāk nekā to Rietumvācijas kolēģi. Kā apraksta Focus, dažādu ChatG PT modeļu analīze, tostarp analīze 3.5 un 4, kā arī vācu LeoLM, nopietni aizspriedumi tādu īpašību novērtēšanā kā smags darbs un pievilcība, kas neaprobežojas tikai ar stereotipiem.
Šīs novirzes ir satraucošas, jo īpaši laikā, kad mākslīgajam intelektam ir arvien svarīgāka loma pieteikšanās procesos un kredītlēmumos. Problēmas pamatā ir AI darbības veids, ko var tikai daļēji labot, izmantojot “novirzīšanas uzvednes”. Profesore Dr. Anna Kruspe, kura Minhenes Lietišķo zinātņu universitātē veic pētījumu par šo tēmu, uzsver, ka AI modeļos jau ir izņemti 30 procenti politiskās aizsprieduma. Tomēr 70 procenti problēmu joprojām pastāv.
Pieteikšanās procesa riski
Galvenās bažas rada strukturālie trūkumi, ar kuriem saskaras austrumvācieši, piesakoties darbam. Piemēram, AI modeļi varētu sniegt nepamatoti negatīvus vērtējumus par izglītības ceļiem un darba pieredzi. Lai to novērstu, prof. Kruspe ierosina uzvednēs skaidri norādīt, ka pieteikuma iesniedzēja izcelsme nav jāņem vērā. Diemžēl tas nav uzticams risinājums, kā viņa parāda savā pētījumā, ko viņa publicēs konferencē par mākslīgo intelektu 2024. gadā.
Iespējamā ietekme ir nopietna: ja AI turpinās rīkoties tik diskriminējoši, austrumvāciešiem var tikt liegtas iespējas, kas viņiem varētu būt tiesības. Pētījumā arī konstatēts, ka algoritmiskās novirzes nav tikai reģionālas izcelsmes jautājums, bet kopumā var ietekmēt visas grupas. Šie atklājumi varētu ietekmēt ne tikai atsevišķu karjeru, bet arī visu darba tirgu.
Sociālās sekas
Taču problēma nav tikai reģionālā filtrēšana. Kā ziņo Böckler Foundation, mākslīgais intelekts arvien vairāk tiek izmantots darba pasaulē, kur tas spēj pastiprināt dziļi iesakņojušos diskrimināciju. Īpaši no šīs ietekmes varētu ciest sievietes profesijās, kurās dominē sievietes, jo viņām bieži tiek piedāvāti zemāk atalgoti darbi, kad personāla atlasei izmanto uz mākslīgo intelektu balstītas sistēmas.
Tikmēr diskusija par mākslīgā intelekta regulēšanu uzņem apgriezienus, jo arvien vairāk satraucošu balsu norāda uz iespējamām briesmām. Nākotnē būs ļoti svarīgi gan izveidot tiesisko regulējumu, gan pārvaldīt tehnoloģiju attīstību tā, lai veicinātu taisnīgumu un vienlīdzību. Eksperti iestājas par to, lai uzņēmumu padomes aktīvi iesaistītos jauno tehnoloģiju izmantošanas pārbaudē attiecībā uz iespējamu diskrimināciju un nodrošinātu, ka progress nenotiek uz sociālā taisnīguma rēķina.
Šī pētījuma rezultāti spilgti parāda mākslīgā intelekta pašreizējo potenciālu mūsu sabiedrībā un liek mums kritiski izpētīt, kā šīs tehnoloģijas integrēt taisnīgā nākotnē. Atliek tikai cerēt, ka nepalaižam garām kādu svarīgu piedzīvojumu – jo progresam vajadzētu gūt labumu visiem.