Human in the loop: gdzie agent AI ma się zatrzymać i zapytać człowieka

Anthropic, firma, która tworzy modele Claude, zrobiła prosty test. Przez firmę badawczą zatrudniła 1 053 osoby do pracy z asystentem AI do programowania. Asystent co jakiś czas prosił o zgodę na kolejny krok, a ludzie klikali „tak” albo „nie”. W trakcie sesji jedną zwykłą prośbę podmieniono na wyraźnie groźne polecenie. Nic złego nie mogło się stać, bo zmieniono tylko tekst na ekranie.

Groźne polecenie zatrzymały 143 osoby, czyli 13,6%. Automat, czyli program, który sam ocenia każde polecenie przed wykonaniem, zatrzymał 89% takich samych poleceń.

Ci ludzie wiedzieli, że biorą udział w badaniu. Nie wiedzieli tylko, co jest mierzone. W codziennej pracy programiści dostają takie prośby dziesiątki, a nawet setki razy dziennie. Kolejna wygląda wtedy tak samo jak poprzednie. Kto zatwierdza wszystko, przestaje widzieć to, co ważne.

Dlatego o bezpieczeństwie agenta AI w Twojej firmie nie decyduje to, ile razy człowiek klika „zatwierdź”. Decyduje to, gdzie agent się zatrzymuje. Te miejsca wybierasz Ty. Poniżej pokazujemy, jak je wybrać, na jednym procesie, krok po kroku. Na końcu jest tabela, którą wypełnisz dla swojej firmy.

Co to jest human in the loop?

Human in the loop („człowiek w pętli”) to ustawienie, w którym agent AI staje w wybranym miejscu i czeka na decyzję człowieka. Agent czyta, liczy i przygotowuje. Człowiek zatwierdza, poprawia albo odrzuca, zanim cokolwiek wyjdzie z firmy. Takie miejsce nazywamy punktem zatrzymania.

Nie chodzi o to, żeby człowiek klikał „OK” pod każdym krokiem. Test Anthropic pokazuje, że to nie działa. Chodzi o kilka dobrze wybranych momentów, w których decyzja człowieka waży najwięcej. Czym agent różni się od zwykłego chatbota, opisaliśmy w artykule agent AI dla firmy.

Dlaczego zatwierdzanie wszystkiego nie działa?

Bo człowiek, który dostaje dziesiątki próśb o zgodę, z czasem przestaje je czytać. Anthropic widzi to we własnym narzędziu dla programistów. W sierpniu 2026 roku firma podała, że użytkownicy zatwierdzają 97% próśb o zgodę. Według Anthropic tak wysoki odsetek sugeruje, że wielu z nich klika z rozpędu, zamiast sprawdzać.

W teście ze wstępu porównano też ludzi z automatem na tych samych poleceniach. Automat zatrzymał 800 groźnych poleceń, które człowiek przepuścił. Człowiek zatrzymał tylko 6 takich, które przepuścił automat.

To nie znaczy, że człowiek jest zbędny. Znaczy, że stoi w złym miejscu. Anthropic pisze wprost, że skuteczny nadzór „doesn't require approving every action”, czyli nie wymaga zatwierdzania każdego działania. Naszym zdaniem człowiek ma stać tam, skąd może wkroczyć, kiedy to naprawdę ważne.

Gdzie jest takie miejsce, pokazuje przypadek, który Anthropic opisał z własnej pracy. Agent miał nadać dostęp tylko do odczytu do danych rozliczeniowych. Sięgnął po uprawnienie, które daje pełną kontrolę administratora. Automat go zatrzymał, bo zauważył różnicę między tym, o co poproszono, a tym, co agent chciał zrobić. W firmie odpowiednikiem byłby agent, który ma wysłać ofertę ze standardowym rabatem, a wpisuje dwa razy wyższy. Punkt zatrzymania powinien stać właśnie tam, gdzie skutek wychodzi poza zadanie. Szerzej o tym, czym nadzór różni się od zatwierdzania wszystkiego, piszemy w artykule czy można zaufać AI w firmie.

Gdzie agent powinien się zatrzymać?

Agent może pracować na trzy sposoby, a Ty wybierasz sposób dla każdego kroku osobno. Jeden agent może w jednym procesie pytać przed wysyłką oferty, a przypomnienia wysyłać sam.

• Pyta przed (human in the loop). Agent przygotowuje, człowiek zatwierdza, dopiero potem coś wychodzi. To pasuje tam, gdzie pomyłki nie da się cofnąć, a może drogo kosztować: płatność, oferta z nietypowym rabatem, odpowiedź na reklamację.
• Działa i pokazuje (human on the loop, „człowiek nad pętlą”). Agent działa sam, a człowiek widzi wyniki i może przerwać. To pasuje tam, gdzie pomyłka jest tania: przypomnienie do klienta, porządkowanie zgłoszeń, wpis w systemie sprzedaży.
• Tylko szkic. Agent nie może niczego wysłać. Pisze szkic, a wysyła człowiek ze swojego konta. To pasuje na start i tam, gdzie liczy się Twój własny głos.

Który sposób wybrać, rozstrzygają cztery pytania:

Minimum jest proste: człowiek stoi przy wszystkim, czego nie da się cofnąć, a pomyłka może drogo kosztować. Przypomnienie do klienta też jest nieodwracalne, ale pomyłka w nim kosztuje niewiele. Na start agent pyta o zgodę przy każdym kroku, przy którym choć jedno z tych pytań budzi wątpliwość. Luzujesz dopiero wtedy, gdy agent ma za sobą tygodnie bez poprawek, a pomyłka w tym kroku jest tania. Nie ma jednego progu dla wszystkich, bo w biurze rachunkowym pomyłka kosztuje inaczej niż w sklepie z odzieżą.

Do tego samego wniosku dochodzą autorzy pracy Levels of Autonomy for AI Agents (praca naukowa przed recenzją, 2025). Ile swobody dostaje agent, to decyzja ludzi, którzy go ustawiają, a nie cecha samego modelu.

Jak to wygląda w małej i średniej firmie?

Weźmy przykład: producent opakowań, który sprzedaje innym firmom. Agent przygotowuje oferty dla działu handlowego. Rano kierownik sprzedaży otwiera listę „czeka na Ciebie”. W nocy przyszło pięć zapytań ofertowych i agent przygotował pięć ofert. Trzy poszły już do klientów, bo mieściły się w cenniku i w standardowym terminie realizacji. Jedna czeka na „tak”, bo rabat przekroczył próg ustalony dla handlowców. Przy piątej agent zadaje pytanie: klient chce dostawy za dwa tygodnie, a agent nie wie, czy produkcja zdąży. Zamiast pisać pięć ofert od zera, kierownik podejmuje dwie decyzje.

Tak wygląda ten proces po kilku tygodniach, a nie pierwszego dnia. Na starcie każdą ofertę zatwierdza człowiek, bo wysłanej oferty nie da się cofnąć. Standardowe oferty agent wysyła sam dopiero wtedy, gdy przez kilka tygodni nie wymagały poprawek. Pomyłka w ofercie z cennika jest wtedy tania, a drogie wyjątki i tak czekają na człowieka.

W takim procesie człowiek łapie dwie rzeczy, których agent nie złapie. Pierwsza to fakt o firmie, który brzmi wiarygodnie, ale jest nieprawdziwy. Agent napisze „realizacja w 10 dni roboczych”, bo tak stoi w zeszłorocznej ofercie. Ty wiesz, że w tym kwartale produkcja ma trzy tygodnie kolejki. Druga to obietnica bez pokrycia, na przykład darmowy transport albo termin płatności, którego nie dajecie. Agent pisze to, co pasuje do reszty tekstu. Człowiek wie, co jest prawdą.

Jak my pracujemy z agentami?

U nas przy każdej pracy agenta jest człowiek: albo zatwierdza przed akcją, albo patrzy na wyniki i może przerwać. Typowe zadanie idzie w tym rytmie:

1. Planujemy razem. Agent najpierw pokazuje plan, a my go akceptujemy albo poprawiamy.
2. Agent robi żmudną część. Gdy plan jest zatwierdzony, agent wykonuje powtarzalną pracę do końca.
3. Wynik sprawdzają recenzenci. Na końcu pracę oceniają recenzenci, też AI.
4. Recenzentów sprawdzamy my. Recenzent też potrafi się pomylić, więc ostatnie słowo należy do człowieka.

Przy planie najczęściej poprawiamy dwie rzeczy: zakres i kierunek. Agent chce zrobić za dużo albo rusza rzeczy obok zadania. Czasem technicznie wszystko się zgadza, ale biznesowo nie o to chodziło. Kierunek zna właściciel i tego agent sam się nie domyśli.

Swoboda agenta zmienia się w obie strony. Agent, który się sprawdza, dostaje jej więcej. Agent, przy którym pojawia się nowe ryzyko, traci uprawnienie. Elev, nasz agent AI na X (dawniej Twitter), publikuje sam, bo ma ciasne granice i się sprawdził. Najpierw dostał wąski zakres i kontrolę, a samodzielność przyszła później. Działa sam tylko w tym zakresie, nie poza nim.

Podobny wzór Anthropic widzi u swoich użytkowników. Nowi pozwalają agentowi działać bez pytania o zgodę w około 20% sesji, a doświadczeni w ponad 40%. Swoboda rośnie razem z doświadczeniem osoby, która agenta pilnuje.

Jakie błędy zdarzają się przy ustawianiu punktów zatrzymania?

Pomysł jest prosty, ale pierwsze ustawienie bywa trudniejsze. Oto cztery błędy, które łatwo przeoczyć.

Punkt na końcu zamiast przy decyzji. Człowiek zatwierdza gotowego maila z ofertą, a błąd był trzy kroki wcześniej, w wycenie. W ładnym tekście łatwo przeoczyć złą liczbę. Punkt zatrzymania stawia się tam, gdzie zapada decyzja, a nie tam, gdzie powstaje gotowy dokument. U producenta opakowań to rabat i termin realizacji, a nie treść oferty.

Pytanie bez powodu. Agent pokazuje „Zatwierdzić?” i nic więcej. Człowiek nie wie, czego szukać, więc klika „tak”. Dobry punkt zatrzymania mówi, dlaczego agent stanął. Na przykład: „rabat 15%, próg to 10%” albo „klient chce dostawy za dwa tygodnie, nie wiem, czy produkcja zdąży”. Wtedy decyzja zajmuje chwilę i ma sens.

Brak planu na „nie”. Łatwo zaplanować, co się dzieje po „tak”, a zapomnieć, co agent robi po odrzuceniu. Może poprawić szkic według uwag albo oddać sprawę człowiekowi. Może też uprzedzić klienta, że oferta przyjdzie później. Bez tej odpowiedzi odrzucona oferta leży w kolejce i nikt jej nie kończy.

Te same zasady na zawsze. Punkty ustawione w pierwszym tygodniu nie muszą pasować po trzech miesiącach. Agent ma już historię, firma zmienia cennik, przychodzą nowe rodzaje zapytań. Jeśli nikt do punktów nie wraca, robią się za luźne albo za ciasne. Za luźne są ryzykowne. Za ciasne męczą ludzi, którzy zatwierdzają.

Jak rozpisać punkty zatrzymania w swojej firmie?

Wybierz jeden proces, który chcesz oddać agentowi. Rozpisz go w tabeli krok po kroku: sposób pracy agenta i osoba, która decyduje. Na pierwszą wersję wystarczy jedno spotkanie.

W kolumnie „kto decyduje” wpisz osobę, nie dział. „Zespół zatwierdza” łatwo kończy się tym, że nie zatwierdza nikt. Ustal też, kto zastępuje tę osobę na urlopie.

Po miesiącu wróć do tabeli. Punkty, które przez ten czas niczego nie złapały, możesz przestawić na „działa i pokazuje”. Tam, gdzie coś się prześlizgnęło, dołóż nowy punkt.

Human in the loop zostanie, bo nie da się oddać AI wszystkich decyzji w firmie. Dobrze ustawiony daje więcej niż AI albo człowiek osobno: agent robi to, co powtarzalne, a człowiek wchodzi tam, gdzie jego decyzja jest najważniejsza.

Jeśli chcesz takiego agenta u siebie, budujemy agentów wewnętrznych z zatwierdzaniem przez człowieka. Przygotowują oferty, maile i raporty, a decyzję zostawiają Tobie. Jeśli agent już u Ciebie pracuje, sprawdzimy, gdzie stoją jego punkty zatrzymania i czy stoją we właściwych miejscach.

Najczęstsze pytania

Czy ChatGPT to human in the loop?

W pewnym sensie tak. W zwykłej rozmowie z ChatGPT czytasz każdą odpowiedź i sam decydujesz, co z nią zrobić. Agent działa inaczej, bo między Twoimi pytaniami sam wysyła, zapisuje i umawia. Dlatego przy agencie punkty zatrzymania trzeba zaplanować, a w czacie masz je bez planowania.

Co znaczy human in the loop w uczeniu maszynowym?

Przy budowie modeli AI human in the loop oznacza ludzi, którzy opisują dane i poprawiają odpowiedzi modelu, zanim trafi on do użytku. To znaczenie zobaczysz w Google najczęściej. W firmie, która wdraża agenta, chodzi o coś prostszego: kto i kiedy mówi agentowi „tak” albo „nie”.

Jak człowiek może nadążyć za agentem, który pracuje szybciej?

Nie musi czytać wszystkiego. Agent zatrzymuje się tylko w ustalonych punktach, a resztę człowiek przegląda po fakcie, na próbce. Pomaga też rejestr działań, czyli lista tego, co agent zrobił, kiedy i na jakiej podstawie.

Kto w firmie powinien zatwierdzać decyzje agenta?

Ktoś, kto zna dany proces, odpowiada za jego wynik i może sam odrzucić propozycję agenta. Jeśli decyduje więcej niż jedna osoba, rozdziel role: jedna ustala progi, druga zatwierdza wyjątki. Wtedy ktoś naprawdę ogląda wyjątki, zamiast zatwierdzać je z rozpędu. Jak wygląda nadzór, który istnieje tylko na papierze, pokazujemy w artykule o zasadzie 30% w AI.

Czy human in the loop spowalnia automatyzację?

Tylko tam, gdzie punkt zatrzymania stoi w złym miejscu. Jeśli człowiek zatwierdza rzeczy tanie i odwracalne, traci czas i z czasem czyta mniej uważnie. Jeśli zatwierdza tylko decyzje drogie i nieodwracalne, proces i tak przyspiesza, bo resztę agent robi sam.

Ile kosztuje agent AI z zatwierdzaniem przez człowieka?

U nas agent wewnętrzny z human in the loop kosztuje od 12 000 zł plus od 900 zł miesięcznie. Przygotowuje maile, oferty, wyceny czy raporty, a człowiek je zatwierdza. W cenie jest wdrożenie zespołu: na Waszym procesie pokazujemy, jak zatwierdzać, poprawiać i odrzucać pracę agenta.

Czy AI Act wymaga human in the loop?

Wymaga nadzoru człowieka nad systemami AI wysokiego ryzyka, na przykład w rekrutacji czy ocenie zdolności kredytowej. Dla takich systemów obowiązki zaczną działać 2 grudnia 2027 roku (stan na październik 2026). Zgodnie z art. 14 człowiek ma móc zignorować wynik systemu i zatrzymać go przyciskiem „stop”. Przepis wprost wymienia też ryzyko automatycznego polegania na wyniku AI. Większość agentów w małej i średniej firmie nie jest systemem wysokiego ryzyka, ale art. 14 dobrze pokazuje, co powinien umieć dobry nadzór. Więcej piszemy w artykule AI Act - co musi wiedzieć właściciel firmy.