Ak sa napr. pri hľadaní kandidáta inzeruje pozícia a záujem kandidátov sa minimálne v 1. kole automatizovane spracováva pomocou ATS/AI, tak prevádzkovateľ (správce osobních údajů – pozn. red.) má určité povinnosti, ktoré ale nikto nedodržiava, a kandidát má určité práva, o kterých ale nikto nevie.
Aké sú to povinnosti a práva?
Prevádzkovateľ musí napr. o existencii ATS/AI dotknuté osoby (kandidátov) vopred informovať. Napr. hneď v tom inzeráte. To sa ale v reálnom živote nedeje, žiaľ.
Ak kandidátovi príde zamietavá odpoveď vygenerovaná pomocou ATS/AI, tak kandidát má právo sa proti tomuto rozhodnutiu ATS/AI odvolať a požadovať opätovné prehodnotenie človekom. O tom by ale kandidát musel najprv vedieť, že rozhodlo ATS/AI. Žiaľ, nevie to, lebo ho nikto o tom neinformoval.
Prevádzkovateľ musí tejto žiadosti vyhovieť a kandidátovi znovu poslať rozhodnutie prehodnotené človekom. To rozhodnutie prehodnotené človekom môže byť znovu záporné.
Ako na AI pri nábore zamestnancov?
V súvislosti s HR a AI máme niekoľko ďalších nepríjemností:
Z pohľadu Európskej komisie je použitie práve ATS, aj v súvislosti s AI, druhá najrizikovejšia spracovateľská operácia (zo 4 skupín). Prevádzkovatelia o tom ani nevedia, ale veselo s tým pracujú ďalej bez prijatých opatrení. Pritom požiadavky na opatrenia sú v takej či onakej forme už v ISO 27001, ISO 27701, v nariadení GDPR a aj v pripravovanom zákone o AI na úrovni EK (AI Act). Čiže je sa od čoho odraziť už mnoho rokov.
Nevieme ani poriadne, ako AI funguje, ale dávame jej už obrovský priestor na formovanie nášho života a púšťame si ju už priamo do súkromia a dôležitých oblastí života.
Chystaný zákon o AI na úrovni EK obsahuje mnohé kyber bezpečnostné zásady a povinnosti, ktoré nadväzujú na súčasné už existujúce opatrenia a normy, ale firmy to ignorujú. Interná GDPR agenda a procesy sú u nich len veľmi formálne a často aj s chybami.
O zavedení napr. ISO 27001 (kybernetická bezpečnosť) mnohé spoločnosti ani neuvažujú, pričom sa obidve normy (spolu s GDPR) výborne dopĺňajú. Vďaka AI teda môžeme s určitosťou očakávať, že nárast kyber útokov a ich úspešnosť bude enormná a my sa proti tomu nebudeme vedieť brániť. Pretože sa nevieme brániť ani teraz. A štatisticky už teraz vieme, že prvý na rane hackerov sú práve HR oddelenia, ktoré sú neuveriteľným a koncentrovaným zdrojom osobných údajov.
Vymkne sa AI z pod kontroly?
Nedokázali sme ustrážiť ani samotný Internet so všetkými jeho negatívami, ktoré už dynamicky ovplyvňujú zdravie, sociálne vzťahy, geopolitiku, kyber priestor, obchodno-dodávateľské vzťahy... Vymklo sa nám to z pod kontroly a skoro vždy riešime iba následky. Ako sa nám to má podariť potom s takým molochom ako je AI, keď už bude v našich životoch dominovať?
