A tanulmány feltárja: az AI igazságtalanul értékeli a keletnémeteket az alkalmazásokban!

A tanulmány feltárja: az AI igazságtalanul értékeli a keletnémeteket az alkalmazásokban!

A Müncheni Alkalmazott Tudományok Egyetemének riasztó tanulmánya megállapította, hogy a mesterséges intelligencia (MI), mint például a ChatGPT, szisztematikusan rosszabbra értékeli a keletnémet államokat, mint nyugatnémet társaik. Ahogy a Focus leírja, a különböző mesterséges intelligencia modellek elemzése A ChatGPT 3.5 és 4, valamint a német LeoLM komoly előítéleteket jelent az olyan jellemzők értékelésében, mint a kemény munka és a vonzerő, amelyek nem korlátozódnak a sztereotípiákra.

Ezek a torzítások aggasztóak, különösen akkor, amikor a mesterséges intelligencia egyre kritikusabb szerepet játszik a pályázati folyamatokban és a hitelezési döntésekben. A probléma lényege magában az AI működésében rejlik, amelyet csak részben lehet korrigálni „elfoghatatlan promptokkal”. Prof. Dr. Anna Kruspe, aki a Müncheni Alkalmazott Tudományok Egyetemén végez kutatásokat ebben a témában, hangsúlyozza, hogy a politikai elfogultság 30 százalékát már eltávolították az AI-modellekből. A problémák 70 százaléka azonban továbbra is fennáll.

A jelentkezési folyamat kockázatai

A központi aggodalomra ad okot az a strukturális hátrány, amellyel a keletnémetek szembesülnek állásjelentkezéskor. Például az AI-modellek indokolatlanul negatív értékelést adhatnak az oktatási utakról és a munkatapasztalatokról. Ennek ellensúlyozására Kruspe professzor azt javasolja, hogy a felszólításokban kifejezetten említsék meg, hogy a kérelmező származását nem szabad figyelembe venni. Sajnos ez nem megbízható megoldás, amint azt kutatásában is mutatja, amelyet 2024-ben egy mesterséges intelligenciával foglalkozó konferencián tesz közzé.

A lehetséges hatás súlyos: ha az AI továbbra is ilyen diszkriminatív módon jár el, az azt eredményezheti, hogy a keletnémetektől megtagadják azokat a lehetőségeket, amelyekre jogosultak lehetnek. A tanulmány azt is azonosítja, hogy az algoritmikus torzítások nem csak regionális eredetűek, hanem általában minden csoportot érinthetnek. Ezek a megállapítások nemcsak az egyéni karrierekre, hanem az egész munkaerőpiacra is hatással lehetnek.

Társadalmi vonatkozások

De nem csak a regionális szűréssel van probléma. A Böckler Alapítvány jelentése szerint a mesterséges intelligencia egyre gyakrabban használatos a munka világában, ahol képes megerősíteni a mélyen gyökerező diszkriminációt. Ez a hatás különösen a nők által uralt szakmákban dolgozó nőket érintheti, mivel gyakran kínálnak alacsonyabb fizetésű állásokat, amikor mesterséges intelligencia-alapú rendszereket alkalmaznak a személyzet kiválasztásához.

Eközben a mesterséges intelligencia szabályozásáról szóló vita egyre nagyobb lendületet kap, ahogy egyre több riasztó hang mutat rá a lehetséges veszélyekre. A jövőben kulcsfontosságú lesz a jogi keretek megteremtése és a technológiai fejlesztések olyan módon történő kezelése, amely előmozdítja az igazságosságot és az egyenlőséget. A szakértők azt szorgalmazzák, hogy az üzemi tanácsok aktív szerepet játsszanak az új technológiák használatának esetleges diszkriminációjának ellenőrzésében, és annak biztosításában, hogy a haladás ne menjen a társadalmi igazságosság rovására.

A tanulmány eredményei világosan megvilágítják a mesterséges intelligencia társadalmunkban rejlő jelenlegi potenciálját, és arra késztetnek bennünket, hogy kritikusan megvizsgáljuk, hogyan integráljuk ezeket a technológiákat egy igazságos jövőbe. Csak remélni tudjuk, hogy nem maradunk le egy fontos kalandról – mert a haladás mindenkinek hasznára válik.