AI w rekrutacji i ocenie pracowników: cztery rzeczy do sprawdzenia

Program może pomagać przy rekrutacji i ocenie pracowników, ale decyzja o człowieku i odpowiedzialność za nią zostają w firmie. Zanim go włączysz, sprawdź cztery rzeczy: czy kryteria oceny są jasne, czy dane służą tylko temu celowi i są chronione, czy ktoś sprawdza błędy i nierówne traktowanie oraz czy człowiek realnie nadzoruje istotne decyzje. Jeśli którejś z tych rzeczy nie umiesz dziś pokazać, zacznij od niej, a nie od zakupu narzędzia.

Program nie przejmuje odpowiedzialności

Dziś, 9 listopada, na seminarium AIDIALOGUE w Warszawie Robert Barański z Lea Lab pokazał slajd o kadrach. Nosił tytuł „AI nie przejmuje odpowiedzialności” i miał cztery punkty: kryteria oceny muszą być jasne, dane zgodne z celem i chronione, błędy i nierówne traktowanie trzeba wyłapywać, a nad istotnymi decyzjami musi być realny nadzór człowieka. Ten tekst rozpisuje te cztery punkty na pytania, które firma może sobie zadać sama.

Dlaczego kadry wymagają osobnej rozmowy? Bo skutek dotyczy człowieka. Gdy program źle odczyta fakturę, księgowa to poprawi. Gdy źle oceni kandydata, kandydat po prostu nie dostanie odpowiedzi i nikt w firmie się o tym nie dowie. Gdy źle policzy premię, pracownik straci zaufanie do całego systemu. Pomyłka przy dokumencie kosztuje czas. Pomyłka przy człowieku kosztuje też zaufanie, a czasem kończy się sporem.

Kadry to także obszar, w którym przepisy są wyjątkowo konkretne. O tym niżej.

Cztery rzeczy do sprawdzenia

1. Czy kryteria oceny są jasne? Spróbuj zapisać jednym zdaniem, na jakiej podstawie program ustawia kandydatów w kolejności albo wylicza wynik pracownika. Jeśli nie umiesz, nie wyjaśnisz tego też kandydatowi, pracownikowi ani w sporze. Dobre kryterium da się sprawdzić i nie zależy od cech, które z pracą nie mają związku. U producenta z własnym sklepem internetowym punkty do premii powstają z czasu pracy: każde zadanie ma założony czas, a wykonanie szybciej daje więcej punktów. Kryterium jest proste i znane. Ta firma zaczęła jednak od danych o czasie pracy, którym ludzie ufają, a dopiero na nich zbudowała premie. Odwrotnie się nie da (cała historia).

2. Czy dane służą tylko temu celowi i są chronione? Do oceny kandydata na magazyniera potrzebne są jego uprawnienia i doświadczenie, a nie zdjęcie, wiek czy profil w mediach społecznościowych. RODO wymaga, żeby dane były ograniczone do tego, co niezbędne do celu. Zapytaj też, jak długo dane zostają w narzędziu, kto ma do nich dostęp i czy dostawca nie używa ich do własnych celów.

3. Kto wyłapuje błędy i nierówne traktowanie? Program uczony na decyzjach z przeszłości może je powtarzać, także te niesprawiedliwe. Dlatego co jakiś czas ktoś musi spojrzeć na wynik z boku: kto przechodzi dalej, kto odpada i czy nie odpadają częściej osoby z jakiejś grupy, na przykład kobiety albo osoby starsze. Od dostawcy warto dostać na piśmie, jak sprawdza swoje narzędzie pod tym kątem.

4. Czy człowiek realnie nadzoruje istotne decyzje? Realnie, czyli zna kryteria, ma czas spojrzeć na sprawę i ma prawo zmienić wynik programu. Osoba, która tylko klika „zatwierdź” przy liście ułożonej przez program, nie nadzoruje decyzji. Podpisuje ją.

Co znalazł brytyjski urząd ochrony danych

Brytyjski urząd ochrony danych (ICO) przeprowadził audyty u dostawców narzędzi AI do rekrutacji: takich, które wyszukują kandydatów, streszczają CV i przyznają im punkty. W listopadzie 2024 r. opisał, co znalazł. Wielka Brytania ma własną wersję RODO, więc te ustalenia dobrze pokazują, na co uważać także u nas.

Część narzędzi pozwalała rekruterom odfiltrować kandydatów według cech chronionych. Część odgadywała płeć i pochodzenie etniczne kandydata z jego imienia i nazwiska, zamiast o to zapytać. Część zbierała dużo więcej danych, niż było potrzeba, i przechowywała je bez końca. ICO zaleciło dostawcom stałe kontrole, które wyłapują możliwą dyskryminację, i informowanie każdego kandydata, co dzieje się z jego danymi.

Najważniejszy wniosek dla pracodawcy: te problemy siedziały w gotowych narzędziach, a nie w złej woli firm, które ich używały. Kupując narzędzie, kupujesz też jego ustawienia. Dlatego ICO opublikowało listę pytań, które firma powinna zadać przed zakupem. Wrócimy do niej w poniedziałkowych krokach.

Co mówią przepisy

To nie jest porada prawna. To mapa, z którą warto pójść do prawnika.

• RODO, art. 22. Człowiek ma prawo nie podlegać decyzji opartej wyłącznie na automatycznym przetwarzaniu, jeśli ta decyzja ma wobec niego skutki prawne albo podobnie istotnie na niego wpływa. Motyw 71 RODO podaje wprost przykład: elektroniczną rekrutację bez udziału człowieka.
• RODO, art. 15. Kandydat i pracownik mogą zapytać, jakie dane firma o nich ma. Mogą też zapytać, czy wobec nich działa zautomatyzowane podejmowanie decyzji i na jakiej zasadzie.
• AI Act. Systemy AI do rekrutacji, do decyzji o awansie i rozwiązaniu współpracy, do przydziału zadań i do oceny pracy unijne rozporządzenie zalicza do wysokiego ryzyka. Pracodawca, który ich używa, ma między innymi powierzyć nadzór osobie z odpowiednimi kompetencjami i uprawnieniami. Przed uruchomieniem takiego systemu musi też poinformować o nim pracowników i ich przedstawicieli. Osobno AI Act zakazuje używania w miejscu pracy systemów, które odczytują emocje ludzi, poza wyjątkami medycznymi i związanymi z bezpieczeństwem.

Przepisy AI Act wchodzą w życie etapami. Które obowiązki dotyczą już Waszej firmy, sprawdź z prawnikiem.

Jak to może wyglądać w jednej rekrutacji

Przykład poglądowy, nie opis konkretnego wdrożenia. Firma szuka kilku osób na magazyn i dostaje dużo zgłoszeń. Kierownik spisuje kryteria, a w ogłoszeniu firma informuje, że przy wstępnym przeglądzie pomaga program. Program porządkuje zgłoszenia według tych kryteriów. Kierownik czyta te z góry listy, ale przegląda też te, które program ocenił nisko, bo właśnie tam chowa się błąd. Kogo zaprosić na rozmowę, decyduje człowiek. Po rekrutacji ktoś sprawdza, kto odpadł i z jakiego powodu.

Kto co robi w rekrutacji z pomocą programu

Jedna rekrutacja

1. CzłowiekSpisuje kryteria i informuje kandydatów, że pomaga program
2. SystemPorządkuje zgłoszenia według spisanych kryteriów
3. CzłowiekPrzegląda też zgłoszenia ocenione nisko
4. CzłowiekDecyduje, kogo zaprosić na rozmowę
5. CzłowiekPo rekrutacji sprawdza, kto odpadł i dlaczego

Program oszczędza tu czas na pierwszym przeglądzie. Decyzja zostaje przy kierowniku.

Kiedy nie warto

Jeśli rekrutujecie rzadko i na kilka stanowisk, program do przesiewania CV niczego nie załatwi. Przeczytajcie zgłoszenia sami. To samo z oceną pracowników: jeśli nie macie danych, którym ludzie ufają, program oprze się na złych danych, tylko szybciej.

Jest też drugi powód, żeby się nie spieszyć. Na spotkaniu w Lewiatanie Łódź 17 września Leaware, partner wdrożeniowy Akademii, przestrzegał przed zaczynaniem od najtrudniejszego procesu. Kadry, gdzie skutek dotyczy człowieka, a przepisy są wymagające, rzadko są dobrym pierwszym procesem. Lepiej zacząć od dokumentów, na których firma nauczy się pracy z AI (jak wybrać pierwszy proces).

Co zrobić w poniedziałek

1. Sprawdź, gdzie w kadrach już działa jakiś program. System rekrutacyjny, portal z ogłoszeniami, grafik, wyliczanie premii. Czy coś z nich samo sortuje, odrzuca albo ocenia ludzi?
2. Dla każdego takiego miejsca zapisz kryterium jednym zdaniem. Jeśli się nie da, to pierwsza rzecz do wyjaśnienia z dostawcą.
3. Wskaż osobę, która może zmienić wynik programu, i upewnij się, że ma na to czas i wie, na co patrzy.
4. Zadaj dostawcy pytania z listy ICO. Czy zrobiono ocenę skutków dla ochrony danych? Na jakiej podstawie prawnej przetwarzane są dane? Kto jest administratorem danych, a kto tylko je przetwarza? Jak sprawdzono, że narzędzie nie dyskryminuje? Jak kandydaci dowiedzą się, co dzieje się z ich danymi? Jak ograniczono dane do niezbędnych?
5. Sprawdź, co wiedzą kandydaci i pracownicy. Czy ogłoszenie i informacja o danych mówią, że pomaga program?

Pytania i odpowiedzi

Czy program może sam odrzucić kandydata, który nie ma wymaganych uprawnień? Tu ostrożnie. Odrzucenie kandydatury to decyzja, która istotnie dotyczy człowieka, a RODO podaje rekrutację bez udziału człowieka jako przykład. Bezpieczniej, gdy program oznacza brak, a odrzuca człowiek. Szczegóły ustal z prawnikiem.

Dostawca mówi, że narzędzie jest zgodne z RODO. To wystarczy? Nie. Zgodność zależy też od tego, jak firma go używa: jakie dane wprowadza, jak długo je trzyma, kto zatwierdza decyzje. Audyty ICO pokazały, że problemy mogą siedzieć w samym narzędziu, więc pytaj o konkrety.

Czy mogę poprosić czat AI o ocenę CV albo nagrania rozmowy? Wklejasz wtedy dane osobowe kandydata do narzędzia, nad którym firma może nie mieć kontroli, a ocena nie ma jasnych kryteriów. To łamie dwa z czterech punktów naraz. Programy, które z nagrania odczytują emocje, AI Act w miejscu pracy zakazuje.

A ocena pracowników na podstawie danych z systemu, na przykład czasu pracy? Te same cztery pytania. Do tego jedno: czy ludzie ufają danym, z których powstaje ocena. Bez tego każda premia wyliczona przez program będzie podważana.

Dalej

Szerzej o sytuacji, w której program układa grafiki i przydziela zadania, piszemy w tekście Kto naprawdę układa grafik?. Jeśli chcesz przejść przez to we własnej firmie, umów przegląd potrzeb.