21 kwietnia 2021 r. Komisja Europejska opublikowała propozycję rozporządzenia dot. Sztucznej Inteligencji (Artificial Intelligence Act).

Projekt jest odpowiedzią na obecność systemów wykorzystujących sztuczną inteligencję w coraz większej ilości dziedzin życia, w tym również w zatrudnieniu. Przepisy mają zapewnić wiarygodność stosowanych technologii oraz zagwarantować bezpieczeństwo i ochronę praw podstawowych obywateli i przedsiębiorstw, jednocześnie wzmacniając inwestycje i innowacje we wszystkich krajach Unii. 

Systemy wykorzystujące sztuczną inteligencję (SI) skategoryzowano według poziomu ryzyka. 

W zależności od poziomu ryzyka, które może generować system będzie on podlegał odrębnym wymogom przed dopuszczeniem go do obrotu.

Systemy wykorzystujące sztuczną inteligencję stosowane w zatrudnieniu, zarządzaniu pracownikami, stosowane do rekrutacji, monitorowania i procesów ocen pracowników Komisja Europejska zaklasyfikowała jako systemy wysokiego ryzyka. Systemy te mogą mieć bowiem znaczący wpływ nie tylko na sam fakt zatrudnienia, ale przede wszystkim na przyszłe perspektywy zawodowe pracowników.

Komisja podkreśliła w szczególności niebezpieczeństwo stosowania systemów wykorzystujących SI w procesach rekrutacyjnych oraz procesach ocen pracowników. W ocenie Komisji istnieje obawa, że systemy takie mogą utrwalać historyczne wzorce dyskryminacji (np. wobec kobiet, niektórych grup wiekowych, osób niepełnosprawnych czy też osób o określonym pochodzeniu rasowym lub etnicznym). Systemy stosujące sztuczną inteligencję wykorzystywane do monitorowania wydajności pracowników mogą mieć natomiast znaczący wpływ na prawo do ochrony danych tych osób oraz ich prawo do prywatności. 

Zaklasyfikowanie systemów wykorzystujących SI stosowanych w zatrudnieniu jako systemy wysokiego ryzyka oznacza, że systemy takie będą nie tylko poddawane dokładnej ocenie przed ich wprowadzeniem do obrotu, ale również nadzorowane przez cały cykl ich funkcjonowania na rynku. Dostawcy i użytkownicy systemów będą zgłaszać poważne incydenty oraz ich nieprawidłowe działanie.  

Przepisy, które mają obowiązywać dostawców i użytkowników systemów sztucznej inteligencji wysokiego ryzyka w ocenie Komisji doprowadzą do zminimalizowania ryzyka błędnych lub stronniczych decyzji, które mogą być podejmowane przez systemy sztucznej inteligencji w kluczowych obszarach, w tym w obszarze zatrudnienia. 

Więcej artykułów o prawie HR w newsletterze –  PRO HR Maj 2021.