Kiedy AI zaczyna działać samodzielnie: co urząd musi ustalić, zanim wdroży agenta

Przez ostatnie lata AI w urzędach działała głównie jako asystent. Generowała tekst, odpowiadała na pytania, podpowiadała odpowiedzi. Człowiek i tak klikał "wyślij". Teraz coś się zmienia. Tzw. agentowe systemy AI potrafią już nie tylko doradzać, ale wykonywać: rezerwować terminy, wysyłać pisma, klasyfikować wnioski, a nawet inicjować kolejne kroki w sprawie. To przestaje być narzędzie, a zaczyna być aktor w procesie.

I tu zaczyna się naprawdę trudna część. Nie techniczna. Organizacyjna i prawna. Bo pytanie nie brzmi już "czy AI to potrafi?", tylko "czy AI ma prawo to zrobić bez zgody człowieka?"

Co to oznacza dla polskich urzędów i instytucji publicznych

Polskie prawo administracyjne opiera się na zasadzie, że za decyzję odpowiada urzędnik. KPA nie zna pojęcia "decyzja agenta AI". To nie jest problem do zignorowania. Zanim jakikolwiek system zacznie działać autonomicznie w imieniu urzędu, potrzebna jest odpowiedź na pytanie: kto jest prawnie odpowiedzialny, gdy coś pójdzie nie tak?

Praktycznie rzecz biorąc, każda instytucja wdrażająca agentowe AI powinna z góry zbudować coś w rodzaju macierzy uprawnień decyzyjnych. To nie jest żaden techniczny dokument. To lista odpowiedzi na pytania: które czynności agent może wykonać sam? Które wymagają akceptacji pracownika? Które muszą trafić do kierownika? Brzmi prosto. W praktyce takie ustalenia potrafią zająć tygodnie, bo zmuszają organizację do rozmowy o tym, jak naprawdę działają jej procesy.

Warto też spojrzeć na ryzyko od drugiej strony. Zbyt restrykcyjne podejście, gdzie każde działanie agenta wymaga zatwierdzenia przez człowieka, praktycznie zeruje korzyści z automatyzacji. Zbyt luźne granice prowadzą do sytuacji, w której AI wysyła pisma, o których nikt nie wie, albo odrzuca wnioski według kryteriów, których nikt nie zatwierdził. Złoty środek to nie kompromis, to precyzja. Trzeba wiedzieć dokładnie, w których miejscach procesu autonomia jest bezpieczna, a gdzie wymagana jest ludzka ocena.

• Zdefiniuj typy działań agenta: informacyjne, procesowe, decyzyjne. Każda kategoria wymaga innego poziomu nadzoru.
• Audytuj każdy krok. System agentowy musi logować swoje działania w sposób czytelny dla urzędnika, nie tylko dla programisty.
• Zaplanuj obsługę wyjątków — co się dzieje, gdy agent trafi na przypadek spoza swojego zakresu? Powinien zatrzymać się i eskalować, nie zgadywać.

Pionierzy wdrożeń AI w sektorze publicznym za granicą już odkryli, że największe trudności nie leżą w samej technologii. Leżą w tym, że organizacje nigdy wcześniej nie musiały formalnie określać, które decyzje są "małe" (może je podjąć AI) i które są "duże" (musi podjąć człowiek). AI wymusza tę rozmowę.

Dla polskich urzędów to szansa, żeby przy okazji wdrożenia agentowego AI uporządkować procesy decyzyjne, które od lat działały na zasadzie niepisanych zwyczajów. Jeśli zastanawiasz się, od czego zacząć taką analizę we własnej instytucji, zapraszamy na bezpłatny audyt — razem ocenimy, które obszary są gotowe na agentową automatyzację i gdzie potrzebne są najpierw zmiany organizacyjne.