Human in the loop (HITL)
Human in the loop (HITL, po polsku „człowiek w pętli”) to zasada projektowania systemów AI i automatyzacji, w której człowiek bierze udział w każdym cyklu decyzji: sprawdza wynik modelu, zatwierdza go, poprawia albo odrzuca, zanim ten wywoła skutek. W procesach firmowych oznacza to zaplanowany punkt akceptacji, w którym odpowiedzialność za decyzję przejmuje konkretna, uprawniona osoba.
Co oznacza zasada human in the loop
Model AI nie podpisuje się pod decyzją - robi to człowiek. HITL rozdziela pracę: AI czyta dokument, klasyfikuje sprawę albo proponuje odpowiedź, a pracownik ocenia wynik i decyduje, co dalej. Pętla to cykl decyzyjny systemu, a człowiek jest jednym z jego ogniw. Jego poprawki często wracają do systemu - jako dane do dalszego uczenia modelu albo sygnał do zmiany reguł. Termin wywodzi się z automatyki i symulacji, a dziś dotyczy głównie AI: od etykietowania danych treningowych po akceptację wyników modelu językowego w procesie biznesowym.
Human in the loop, human on the loop i human in command
Unijna grupa ekspertów wysokiego szczebla ds. AI w wytycznych etycznych z 2019 r. opisała trzy poziomy nadzoru:
- Human in the loop - człowiek może ingerować w każdy cykl decyzji systemu. Najwięcej kontroli, najwięcej pracy - same wytyczne zaznaczają, że w wielu przypadkach nie jest to możliwe ani pożądane.
- Human on the loop - człowiek współprojektuje system i monitoruje go w działaniu. Nie zatwierdza każdego wyniku, ale widzi, co się dzieje, i reaguje na odchylenia.
- Human in command - człowiek nadzoruje działanie systemu jako całości, decyduje, kiedy i jak go użyć (także czy w ogóle), i może uchylić jego decyzję. W publikacjach pojawia się też określenie human in the lead o podobnym sensie.
W jednej firmie te poziomy współistnieją: faktury poniżej limitu idą ścieżką „on the loop”, a nietypowe albo drogie - „in the loop”.
Kiedy przepisy wymagają człowieka w procesie
Rozporządzenie UE o sztucznej inteligencji (AI Act) w art. 14 wymaga, by systemy AI wysokiego ryzyka dało się skutecznie nadzorować przez ludzi. Osoba nadzorująca ma rozumieć ograniczenia systemu, pamiętać o tzw. błędzie automatyzacji, czyli skłonności do bezrefleksyjnego ufania wynikowi, móc zignorować lub odwrócić wynik i zatrzymać system. Do wysokiego ryzyka należą m.in. systemy AI do rekrutacji i oceny pracowników. Dla takich samodzielnych systemów z załącznika III obowiązki stosuje się od 2 grudnia 2027 r. - termin przesunął tzw. AI Omnibus. RODO w art. 22 daje osobie prawo, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, jeśli wywołuje ona skutki prawne lub podobnie istotnie na nią wpływa. Gdy taka decyzja opiera się na umowie albo wyraźnej zgodzie, administrator musi zapewnić co najmniej prawo do interwencji człowieka, wyrażenia własnego stanowiska i zakwestionowania decyzji. Więcej o wymaganiach w kadrach w artykule EU AI Act w HR.
Human in the loop w obiegu dokumentów e-MSI
e-MSI osadza AI w procesach biznesowych na platformie JobRouter® tak, by rola człowieka była określona z góry. Proces ustala, kiedy AI zostaje uruchomiona, z jakich danych korzysta i kiedy potrzebna jest akceptacja człowieka. Gdy AI wykona zadanie, workflow sprawdza wynik według reguł: progu pewności, limitu kwotowego, zgodności z danymi źródłowymi, kompletności pól. Dalej uprawniony pracownik może zatwierdzić wynik, poprawić go, odrzucić rekomendację, poprosić o dodatkowe informacje albo skierować sprawę do wyjaśnienia. Po akceptacji dane mogą trafić do ERP lub systemu finansowo-księgowego. Podobnie działa anonimizacja dokumentów: system wskazuje dane do zaczernienia, a użytkownik akceptuje lub koryguje zakres w jedno- lub wielostopniowej weryfikacji.
Na co uważać przy projektowaniu HITL
- Akceptacja „na ślepo” - jeśli pracownik zatwierdza setki wyników dziennie, przestaje je czytać. Kieruj do człowieka tylko to, co wymaga oceny.
- Brak progu - bez reguły, kiedy wynik idzie do weryfikacji, albo sprawdza się wszystko, albo nic.
- Niejasna odpowiedzialność - punkt akceptacji musi mieć rolę i zastępstwo, a nie „ktoś z działu”.
- Poprawki bez śladu - decyzja człowieka i jej powód powinny trafić do historii sprawy.
- Brak informacji zwrotnej - powtarzające się korekty to sygnał, że trzeba zmienić regułę lub polecenie dla modelu.
Przykłady zastosowania
System odczytuje fakturę kosztową z KSeF i proponuje MPK. Przy niskiej pewności odczytu faktura trafia do księgowej, która poprawia przypisanie, zanim dane pójdą do systemu FK.
Urząd udostępnia umowę na wniosek o informację publiczną. AI zaznacza PESEL, adresy i nazwiska osób prywatnych do zaczernienia, a urzędnik akceptuje zakres albo dodaje pominięte dane, zanim kopia trafi do wnioskodawcy.
Model językowy streszcza pismo procesowe i proponuje termin na odpowiedź. Prawnik w kancelarii sprawdza streszczenie i termin, zanim sprawa trafi do kalendarza zespołu.
Narzędzie AI porządkuje zgłoszenia kandydatów. Rekrutacja to w AI Act obszar wysokiego ryzyka, więc firma ustala, że decyzję o zaproszeniu na rozmowę podejmuje rekruter, a nie algorytm.
AI klasyfikuje reklamacje i proponuje odpowiedź. Reklamacje poniżej ustalonej kwoty obsługuje automatycznie, a powyżej niej kieruje do kierownika działu do akceptacji.
Najczęstsze pytania
Co oznacza koncepcja human in the loop?
To zasada, w której człowiek uczestniczy w każdej decyzji systemu AI: sprawdza wynik, zatwierdza go, poprawia albo odrzuca, zanim wywoła skutek. Model wykonuje pracę analityczną, a odpowiedzialność za decyzję ponosi wyznaczona, uprawniona osoba. Jej poprawki mogą wracać do systemu i ulepszać kolejne wyniki.
Jak jest human in the loop po polsku?
Najczęściej „człowiek w pętli”. Spotyka się też opisowe tłumaczenia: „z udziałem człowieka” albo „człowiek w procesie decyzyjnym”. W dokumentach prawnych UE pojawia się pojęcie „nadzór ze strony człowieka”, szersze niż HITL, bo obejmuje także monitorowanie systemu i możliwość jego zatrzymania.
Jaka jest różnica między human in the loop a human on the loop?
W human in the loop człowiek może ingerować w każdą pojedynczą decyzję systemu. W human on the loop nie zatwierdza każdego wyniku, tylko nadzoruje działanie systemu i reaguje, gdy coś odbiega od normy. Pierwszy model daje więcej kontroli, drugi pozwala obsłużyć większą liczbę spraw.
Czy ChatGPT działa w modelu human in the loop?
Nie w rozumieniu procesów firmowych. ChatGPT pokazuje odpowiedź od razu, bez niczyjej akceptacji, a o jej użyciu decyduje sam użytkownik. Człowiek był natomiast w pętli podczas treningu: ludzie oceniali odpowiedzi modelu, a on uczył się na tych ocenach (metoda RLHF). W firmie HITL powstaje, gdy wynik modelu przed skutkiem zatwierdza wyznaczona osoba.
Czy AI Act wymaga human in the loop?
Nie dosłownie. Art. 14 wymaga, by systemy AI wysokiego ryzyka były skutecznie nadzorowane przez ludzi, w sposób współmierny do ryzyka. Człowiek musi móc zignorować lub odwrócić wynik i zatrzymać system. Nie każda decyzja musi być ręcznie zatwierdzana. Potwierdzenie wyniku przez co najmniej dwie osoby przepis wymaga tylko przy systemach zdalnej identyfikacji biometrycznej.
Czy human in the loop spowalnia automatyzację?
Tylko wtedy, gdy człowiek sprawdza wszystko. W dobrze zaprojektowanym procesie reguły przepuszczają automatycznie wyniki pewne i mieszczące się w limitach, a do pracownika trafiają wyjątki, niska pewność odczytu i decyzje o dużej wadze. Tak automatyzacja obsługuje większość spraw, a ryzyko zostaje pod kontrolą.
Powiązane hasła
Zobacz, jak wygląda to w systemach, które wdrażamy w polskich firmach.
