AI Act może pchnąć branżę HR w stronę technologicznego regresu

Niedawne wejście w życie kluczowych przepisów unijnego AI Act przekształca operacyjny i prawny krajobraz branży HR. Systemy wykorzystywane do selekcji CV, oceny kandydatów oraz przewidywania awansów zostały oficjalnie zaklasyfikowane jako systemy wysokiego ryzyka. Wymogi dotyczące transparentności już weszły w życie, natomiast obowiązek audytowania danych oraz zapobiegania dyskryminacji algorytmicznej zacznie obowiązywać od grudnia 2027 roku. Nowe regulacje jednak w żaden sposób nie chronią firm przed kandydatami wykorzystującymi AI w procesach rekrutacji i mogą wywołać technologiczny regres w branży HR. Rozwiązaniem jest dobrze zaprojektowana architektura procesów, które w świadomy sposób łączą moc obliczeniową maszyn z ludzką empatią i zrozumieniem kontekstu – tzw. natural intelligence.

Iluzja nadzoru i pułapka zautomatyzowanej stronniczości

Zgodnie z wymogami AI Act, pracodawcy muszą zapewnić faktyczny nadzór człowieka nad systemami sztucznej inteligencji. Ma to ograniczyć ryzyko błędnych lub niesprawiedliwych decyzji podejmowanych przez algorytmy w procesie rekrutacji.

Wpływ algorytmów na ścieżkę zawodową kandydata często zaczyna się jeszcze przed wysłaniem aplikacji. Systemy mogą decydować o tym, komu wyświetli się dana oferta pracy, wyszukiwać potencjalnych kandydatów i tworzyć wstępne listy osób branych pod uwagę w rekrutacji. Obowiązki wynikające z AI Act nie kończą się w momencie zatrudnienia pracownika. Sztuczna inteligencja jest coraz częściej wykorzystywana także później, m.in. przy układaniu grafików, przydzielaniu zadań, ocenie pracy, przyznawaniu premii czy podejmowaniu decyzji o awansie. Warto jednak podkreślić, że nie każdy system AI stosowany w HR jest uznawany za system wysokiego ryzyka – znaczenie ma przede wszystkim to, czy jego wynik ma wpływ na decyzję dotyczącą pracownika lub kandydata.

Jeśli z bazy 1000 kandydatów algorytm wybiera 50, a zmęczony rekruter jedynie zatwierdza wygenerowaną shortlistę, nadzór staje się fikcją prawną. Oznacza to, że decyzję o wykluczeniu 950 osób podjęła w całości maszyna, co będzie niezgodne z prawem. W związku z tym nowe prawo ma wymagać od firm większej dbałości o jakość danych wykorzystywanych przez systemy, dokumentowanie ich działania oraz rzeczywisty nadzór człowieka nad podejmowanymi decyzjami. Nie wystarczy już, że pracownik HR formalnie zatwierdzi decyzję wygenerowaną przez algorytm – będzie musiał mieć możliwość jej zweryfikowania i zakwestionowania.

– Nadzór nad algorytmem nie może sprowadzać się do roli bezrefleksyjnego operatora myszki. Kiedy rekruter otrzymuje obszerne zestawienie aplikacji i pod wpływem presji czasu jedynie przybija pieczątkę pod wyborem maszyny, to ryzyko powielania ukrytych uprzedzeń drastycznie rośnie – wskazuje Natalia Myskova, Prezes Zarządu Smart Solutions HR. – Realna kontrola ma miejsce wyłącznie wtedy, gdy rekomendacja systemu traktowana jest jako wstępny etap pracy traktowany z dużą rezerwą. Człowiek musi dysponować czasem i kompetencjami, by zakwestionować kryteria selekcji i zweryfikować, dlaczego dany profil został z procesu wykluczony.

Nowe obowiązki uderzają w główny wskaźnik efektywności działów HR – czas pozyskania pracownika. Dotychczasowa praktyka premiowała tempo pracy i pozwalała na szybsze znalezienie odpowiedniego kandydata, bez konieczności wgłębiania się w kryteria wykorzystane przez system. Obecnie priorytetem staje się zrozumienie oprogramowania wykorzystywanego w procesach zatrudnienia. Nowe prawo nakłada na firmy obowiązek wdrażania narzędzi tworzących jasne uzasadnienia decyzji, wskazujących precyzyjnie, jakie parametry czy słowa kluczowe zadecydowały o ocenie kandydata.

– Odpowiedzią na presję biznesową jest hybrydowy model selekcji. O ile sztuczna inteligencja bezstronnie automatyzuje weryfikację twardych kompetencji, o tyle ocena dopasowania kulturowego powinna  opierać się na natural intelligence – mówi Myskova.

Asymetria prawa: przed czym AI Act nie chroni pracodawcy?

W nowych realiach sporym wyzwaniem dla procesów HR jest asymetria samego rozporządzenia. AI Act to mechanizm chroniący kandydata przed algorytmem pracodawcy, ale który jednocześnie w żaden sposób nie reguluje wykorzystania sztucznej inteligencji po stronie aplikujących.

– Nowe przepisy działają kierunkowo – tarcza ochronna osłania kandydata, ale pozostawia organizację bezbronną wobec fali syntetycznych, idealnych aplikacji wygenerowanych przez AI – zauważa Natalia Myskova. – Jako że rekrutacja została uznana za obszar wysokiego ryzyka, cały ciężar audytowania i transparentności spoczywa na firmie. Ta asymetria sprawia, że tradycyjna ocena dokumentów CV staje się wręcz niebezpieczna. Skuteczną obroną przed masowym spamem aplikacyjnym jest radykalny zwrot ku weryfikacji kompetencji na żywo, gdzie natural intelligence ponownie staje się filtrem, którego algorytm kandydata nie jest w stanie zmanipulować.

Kompetencje przyszłości: data i AI literacy

Wysokie kary za naruszenie AI Act wywołują w branży pokusę powrotu do manualnych procesów, zwłaszcza w obszarach miękkiego HR (analiza sentymentu, predykcja odejść pracowniczych). Odrzucenie zautomatyzowanej analityki to jednak utrata konkurencyjności.

. Dlatego kluczowa staje się nie rezygnacja z technologii, ale zrozumienie nowej struktury odpowiedzialności. To pracodawca występuje w roli podmiotu wdrażającego technologię i ponosi bezpośrednią odpowiedzialność przed kandydatem oraz organem nadzorczym za ewentualną dyskryminację. Dostawca oprogramowania odpowiada jedynie za techniczną zgodność systemu. Przyszłe umowy zawierane z partnerami technologicznymi muszą precyzyjnie regulować prawo do audytu przez pracodawcę oraz mechanizmy przechowywania historii działania systemuprzez wymagane przepisami sześć miesięcy.

Zmiana sposobu funkcjonowania branży HR nie oznacza konieczności zatrudniania specjalistów od etyki w AI. Odpowiedzią jest model, w którym wsparcie zewnętrznych kancelarii prawnych w zakresie audytu łączy się z rozwijaniem wewnętrznych, multidyscyplinarnych zespołów.

– Zamiast ulegać legislacyjnemu paraliżowi i cofać się do epoki analogowych procesów, organizacje muszą pozyskać nowe kompetencje. Działy HR nie muszą rekrutować etyków AI na pełen etat, ale specjaliści HR muszą bezwzględnie opanować umiejętności z zakresu data literacy – podsumowuje Natalia Myskova. – Muszą rozumieć architekturę danych na tyle, by zadawać dostawcom oprogramowania trudne pytania, interpretować ograniczenia technologii i świadomie decydować, w którym momencie algorytm musi oddać władzę w ręce człowieka.

W dłuższej perspektywie rynek oprogramowania dla branży HR czeka standaryzacja i wpisanie się w nurt „Compliance-by-Design” – tworzenia systemów, które są zgodne z regulacjami już od momentu ich zaprojektowania. Zwycięzcami nowej ery pozostaną te przedsiębiorstwa, które wykorzystają sztuczną inteligencję do eliminacji powtarzalnych procesów, odzyskując czas na budowę tego, co stanowi fundament HR – autentycznej, empatycznej relacji międzyludzkiej.