Štúdia odhaľuje: AI nespravodlivo hodnotí východných Nemcov v aplikáciách!

Štúdia odhaľuje: AI nespravodlivo hodnotí východných Nemcov v aplikáciách!

Alarmujúca štúdia Mníchovskej univerzity aplikovaných vied zistila, že umelá inteligencia (AI) ako ChatGPT systematicky hodnotí východonemecké štáty horšie ako ich západonemecké náprotivky. Ako opisuje Focus, analýza rôznych modelov AI ChatGPT 3.5 a 4 ako aj nemecký LeoLM, vážne predsudky pri hodnotení vlastností ako pracovitosť a atraktivita, ktoré sa neobmedzujú len na stereotypy.

Tieto predsudky sú znepokojujúce, najmä v čase, keď AI hrá čoraz dôležitejšiu úlohu v aplikačných procesoch a úverových rozhodnutiach. Jadro problému spočíva v spôsobe, akým funguje samotná AI, čo je možné len čiastočne opraviť pomocou „výziev na debiasing“. Prof. Dr. Anna Kruspe, ktorá vedie výskum na túto tému na Mníchovskej univerzite aplikovaných vied, zdôrazňuje, že z modelov AI už bolo odstránených 30 percent politických predsudkov. 70 percent problémov však pretrváva.

Riziká pre proces podávania žiadostí

Hlavným problémom je štrukturálna nevýhoda, ktorej čelia východní Nemci pri uchádzaní sa o prácu. Napríklad modely AI by mohli poskytnúť neopodstatnené negatívne hodnotenia vzdelávacích ciest a pracovných skúseností. Aby sa tomu zabránilo, prof. Kruspe navrhuje vo výzvach výslovne uviesť, že pôvod žiadateľa by sa nemal brať do úvahy. Bohužiaľ to nie je spoľahlivé riešenie, ako ukazuje vo svojom výskume, ktorý zverejní na konferencii o umelej inteligencii v roku 2024.

Potenciálny dopad je vážny: Ak bude AI naďalej konať takýmto diskriminačným spôsobom, mohlo by to viesť k tomu, že východným Nemcom budú odopreté príležitosti, na ktoré by mohli mať nárok. Štúdia tiež uvádza, že algoritmické odchýlky nie sú len záležitosťou regionálneho pôvodu, ale môžu vo všeobecnosti ovplyvniť všetky skupiny. Tieto zistenia by mohli ovplyvniť nielen jednotlivé kariéry, ale aj celý trh práce.

Sociálne dôsledky

Problémom však nie je len regionálne filtrovanie. Ako uvádza Böckler Foundation, AI sa čoraz viac používa vo svete práce, kde je schopná posilniť hlboko zakorenenú diskrimináciu. Týmto efektom by mohli trpieť najmä ženy v profesiách, v ktorých dominujú ženy, keďže im často ponúkajú horšie platené miesta, keď sa systémy založené na AI používajú na výber personálu.

Diskusia o regulácii AI medzitým naberá na obrátkach, keďže čoraz viac alarmujúcich hlasov poukazuje na potenciálne nebezpečenstvá. V budúcnosti bude kľúčové vytvárať právne rámce a riadiť technologický rozvoj spôsobom, ktorý podporuje spravodlivosť a rovnosť. Odborníci sa zasadzujú za to, aby zamestnanecké rady zohrávali aktívnu úlohu pri kontrole používania nových technológií z hľadiska možnej diskriminácie a zabezpečovania toho, aby pokrok nešiel na úkor sociálnej spravodlivosti.

Výsledky tejto štúdie vrhajú jasné svetlo na súčasný potenciál, ktorý má umelá inteligencia v našej spoločnosti, a vyzývajú nás, aby sme kriticky preskúmali, ako integrujeme tieto technológie do spravodlivej budúcnosti. Ostáva nám len dúfať, že nám neunikne dôležité dobrodružstvo – pretože pokrok by mal byť prínosom pre každého.