Agentyczna AI wymyka się starym regulacjom — co to znaczy dla instytucji publicznych?

Przez ostatnie lata wdrożenia AI w sektorze finansowym i publicznym opierały się na modelu, w którym człowiek zatwierdza każdą istotną decyzję systemu. Agentyczna AI zmienia tę logikę: zamiast czekać na instrukcję, samodzielnie planuje działania, inicjuje procesy i realizuje zadania w łańcuchu kroków — często bez bezpośredniego udziału operatora. Systemy tego rodzaju zaczęły pojawiać się w płatnościach, operacjach rynkowych i cyberbezpieczeństwie. Regulatorzy w czołowych gospodarkach właśnie teraz dochodzą do wniosku, że obowiązujące przepisy po prostu nie były projektowane z myślą o AI, która działa autonomicznie. To nie jest kwestia doprecyzowania szczegółów — to fundamentalna luka w architekturze nadzoru.

Co to oznacza dla polskich urzędów i instytucji publicznych

Polska administracja publiczna stoi przed bardzo podobnym dylematem, co instytucje finansowe na Zachodzie — tylko że w warunkach, gdzie świadomość tego problemu jest jeszcze niższa, a presja czasu na wdrożenia AI bywa większa niż gotowość regulacyjna. Warto wyciągnąć z tego kilka konkretnych wniosków.

• Istniejące procedury nie obejmują autonomicznych agentów. Większość wewnętrznych regulaminów i instrukcji kancelaryjnych zakłada, że każda decyzja ma konkretnego autora po stronie człowieka. Jeśli urząd zacznie korzystać z agentów AI do obsługi wniosków, priorytetyzacji spraw czy automatycznego wysyłania korespondencji, pojawi się pytanie: kto formalnie odpowiada za działanie systemu i jak je udokumentować?
• Nadzór nie może być tylko punktowy. Dotychczasowe podejście „człowiek zatwierdza wynik" traci sens, gdy agent wykonuje dziesiątki kroków zanim dotrze do etapu wymagającego zatwierdzenia. Instytucje muszą przemyśleć, na którym etapie procesu nadzór jest faktycznie możliwy i sensowny — nie tylko formalny.
• Unia Europejska już reguluje, ale przepisy nie nadążają za tempem zmian. AI Act klasyfikuje systemy według ryzyka, jednak agentyczna AI to nowa kategoria, która w momencie pisania tych przepisów nie była jeszcze powszechna. Polskie instytucje powinny śledzić interpretacje i wytyczne, które będą pojawiać się w nadchodzących miesiącach — i nie zakładać, że ich obecne wdrożenia są automatycznie zgodne z przyszłą wykładnią.
• To dobry moment na audyt gotowości. Zanim urząd sięgnie po narzędzia klasy agentycznej, warto sprawdzić, czy ma wewnętrzne procedury, które dają się do nich zastosować: kto jest właścicielem procesu, jak rejestrowane są działania systemu, co się dzieje w przypadku błędu.

Regulatory rewizja zasad dla agentycznej AI to sygnał, że cały sektor publiczny — nie tylko finansowy — wchodzi w fazę, gdzie pytania o odpowiedzialność i nadzór będą zadawane coraz głośniej. Instytucje, które zadbają o ten aspekt z wyprzedzeniem, unikną problemów, które dziś widać wyraźnie na przykładach z innych krajów.

Jeśli chcesz wiedzieć, czy Twoja instytucja jest gotowa na wdrożenie autonomicznych narzędzi AI i jakie procedury warto mieć zanim to nastąpi, zapraszamy na bezpłatny audyt. Pomożemy ocenić ryzyko i zaproponować konkretne kroki.