Human-in-the-loop
Human-in-the-loop to model pracy, w którym system automatyczny wykonuje zadanie, ale decyzja lub jej zatwierdzenie należy do człowieka. Stosuje się go tam, gdzie skutki błędu są istotne, a także tam, gdzie nadzór człowieka wynika z przepisów.
Warianty nadzoru
- Zatwierdzanie każdej decyzji przed jej skutkiem.
- Weryfikacja wyłącznie przypadków poniżej progu pewności.
- Kontrola próbki po fakcie, przy niskim ryzyku.
Nadzór, który działa
Nadzór jest realny tylko wtedy, gdy człowiek ma czas i dane, aby ocenić propozycję. Zatwierdzanie 500 pozycji dziennie jednym kliknięciem to nadzór wyłącznie na papierze — element istotny przy zastosowaniach objętych wymogami AI Act.
Przykłady zastosowania
Księgowa zatwierdza tylko te dekrety, które model oznaczył jako niepewne.
Decyzję o odrzuceniu kandydata podejmuje rekruter, a system jedynie porządkuje aplikacje.
Najczęstsze pytania
Czy human-in-the-loop spowalnia proces?
Tylko na wybranych etapach. Dobrze zaprojektowany model kieruje do człowieka wyłącznie przypadki wątpliwe.
Czy jest wymagany prawnie?
W niektórych zastosowaniach tak, zwłaszcza tam, gdzie decyzja istotnie wpływa na sytuację osoby.
Powiązane hasła
Zobacz, jak wygląda to w systemach, które wdrażamy w polskich firmach.
