Studiul dezvăluie: AI evaluează în mod nedrept est-germanii în aplicații!

Studiul dezvăluie: AI evaluează în mod nedrept est-germanii în aplicații!

Un studiu alarmant al Universității de Științe Aplicate din München a constatat că inteligența artificială (AI) precum ChatGPT evaluează sistematic statele est-germane mai rău decât omologii lor din Germania de Vest. După cum descrie Focus, AI, inclusiv analiza diferitelor modele ChatGPT 3.5 și 4, precum și LeoLM german, prejudecăți grave în evaluarea unor caracteristici precum munca grea și atractivitatea, care nu se limitează doar la stereotipuri.

Aceste părtiniri sunt îngrijorătoare, mai ales într-un moment în care AI joacă un rol din ce în ce mai critic în procesele de aplicare și deciziile de creditare. Miezul problemei constă în modul în care funcționează AI în sine, care poate fi corectat doar parțial folosind „indemnizații de debiasare”. Prof. Dr. Anna Kruspe, care efectuează cercetări pe această temă la Universitatea de Științe Aplicate din München, subliniază că 30% din părtinirile politice au fost deja eliminate din modelele AI. Cu toate acestea, 70 la sută din probleme persistă.

Riscuri pentru procesul de aplicare

O preocupare centrală este dezavantajul structural cu care se confruntă est-germanii atunci când aplică pentru locuri de muncă. De exemplu, modelele AI ar putea oferi evaluări negative nejustificate ale traseelor ​​educaționale și ale experiențelor de muncă. Pentru a contracara acest lucru, Prof. Kruspe sugerează să se menționeze în mod explicit în solicitări că originea solicitantului nu trebuie luată în considerare. Din păcate, aceasta nu este o soluție de încredere, așa cum arată ea în cercetarea sa, pe care o va publica la o conferință despre inteligența artificială în 2024.

Impactul potențial este grav: dacă AI continuă să acționeze într-o manieră atât de discriminatorie, acest lucru ar putea duce la refuzul est-germanilor de oportunități la care ar putea avea dreptul. Studiul identifică, de asemenea, că prejudecățile algoritmice nu sunt doar o chestiune de origine regională, ci pot afecta în general toate grupurile. Aceste constatări ar putea afecta nu numai carierele individuale, ci și întreaga piață a muncii.

Implicații sociale

Dar nu doar filtrarea regională este o problemă. După cum raportează Fundația Böckler, IA este din ce în ce mai folosită în lumea muncii, unde este capabilă să consolideze discriminarea adânc înrădăcinată. În special femeile din profesii dominate de femei ar putea suferi de acest efect, deoarece li se oferă adesea locuri de muncă mai puțin plătite atunci când sistemele bazate pe inteligență artificială sunt utilizate pentru selecția personalului.

Între timp, discuția despre reglementarea AI câștigă amploare, pe măsură ce voci din ce în ce mai alarmante subliniază potențialele pericole. În viitor, va fi crucial să se creeze cadre juridice și să se gestioneze evoluțiile tehnologice într-un mod care să promoveze justiția și egalitatea. Experții susțin că consiliile de întreprindere joacă un rol activ în verificarea utilizării noilor tehnologii pentru o eventuală discriminare și în asigurarea faptului că progresul nu va fi în detrimentul justiției sociale.

Rezultatele acestui studiu aruncă o lumină puternică asupra potențialului actual pe care îl are inteligența artificială în societatea noastră și ne provoacă să examinăm critic modul în care integrăm aceste tehnologii într-un viitor just. Nu putem decât să sperăm că nu pierdem o aventură importantă - pentru că progresul ar trebui să fie în beneficiul tuturor.