U kolovozu ove godine Tijelo za zaštitu podataka odbilo je korištenje planiranog algoritma austrijskog Zavoda za zapošljavanje (AMS) kojim je uprava htjela redizajnirati savjete za tražitelje posla. U ponedjeljak je Savezni upravni sud ukinuo ovu odluku nakon što se AMS žalio.
AMS putem algoritma želi procijeniti različite osobne podatke na temelju kojih se procjenjuju šanse za ponovni ulazak tražitelja posla na tržište rada. Osobni podatci podrazumijevaju dob, spol, mjesto prebivališta, prethodne poslove, obrazovanje, državljanstvo. Iz tih podataka bi program onda izračunao kolike su šanse za povratak na tržište rada.
Kritičari sustava govore kako je ovo plodno tlo za diskriminaciju. Sustav, primjerice, procjenjuje da su šanse žena nešto lošije od muškaraca te da strani državljani također dobivaju češće manje šanse nego austrijski državljane. Također, ovo bi moglo utjecati i na financijske pomoći AMS-a.
Tijelo za zaštitu podataka je opisalo ovaj postupak „nametljivim profiliranjem“, što treba shvatiti kao automatiziranu obradu podataka kako bi se na temelju toga izvršila određena procjena. Za ovakav postupak je potrebno izričito zakonsko odobrenje, AMS tvrdi da to već ima iz trenutnih zakona. Opća uredba o zaštiti podataka ne dozvoljava donositi važne odluke tijela ili pružatelja javnih usluga na temelju računalnog programa.
Sud je presudio u korist AMS-a, koji u svom pravilniku tvrdi kako algoritam služi samo za dodatne informacije konzultantima. To znači da zaposlenici AMS-a i dalje sami odlučuju što će učiniti s informacijama dobivenih od algoritma, a za Tijelo za zaštitu podataka je ovo nedovoljno.
Oni tvrde da savjetnici AMS-a imaju kratak period za odluku o tražitelju posla, zbog čega će većina jednostavno preuzeti predviđanje algoritma. Sud na ovo odgovora kako se ne može tek tako tvrditi ova izjava, zbog čega traže dokaze.
Konačna je odluka da AMS ovaj algoritam može koristiti već od 2021. godine, no iz AMS-a govore kako će još sačekati s primjenjivanjem istog. Treba provjeriti kvalitetu algoritma, budući da su dobiveni podatci o tražiteljima posla iz vremena pandemije definitivno utjecala na algoritam.
Antonio Šećerović
Foto: Ilustracija – AMS / Fotostudio B&G
