Podatek od narzędzi: ukryty koszt agentów AI i jak go ograniczyć

Agenci AI działają inaczej niż zwykłe chatboty. Zamiast tylko odpowiadać, mogą wywoływać zewnętrzne narzędzia: przeszukiwać bazy danych, wysyłać formularze, pobierać dokumenty. Problem w tym, że przy każdym zapytaniu model dostaje w pakiecie opisy wszystkich narzędzi, do których teoretycznie ma dostęp. Nazwy, parametry, schematy danych. Nawet jeśli agent w danym momencie potrzebuje tylko jednego z nich. To wszystko kosztuje tokeny, a tokeny kosztują pieniądze. Branża zaczęła nazywać to "podatkiem od narzędzi" i coraz poważniej szuka na niego lekarstwa.

Jedno z podejść idzie w kierunku, który administratorzy IT znają doskonale: kontrola dostępu oparta na tożsamości. Zamiast dawać agentowi widok na całą skrzynkę narzędzi, pokazujesz mu tylko to, co faktycznie jest mu potrzebne w danym kontekście i dla danego użytkownika. Mniejsza lista narzędzi w prompcie, mniej tokenów, niższy rachunek. Proste w teorii, wymagające sensownej architektury w praktyce.

Co to oznacza dla polskich urzędów i instytucji publicznych

Większość polskich instytucji publicznych jest jeszcze przed wdrożeniem agentów AI na poważniejszą skalę. Ale właśnie dlatego warto wiedzieć o tym problemie teraz, a nie po fakcie. Budżety na AI są ograniczone, a koszty tokenów potrafią zaskoczyć nawet doświadczone zespoły IT.

Wyobraź sobie urząd, który wdraża agenta do obsługi spraw administracyjnych. Agent ma dostęp do systemu EZD, rejestru mieszkańców, bazy decyzji i kilku zewnętrznych API. Przy każdym zapytaniu obywatela model dostaje opisy wszystkich tych integracji, choć do odpowiedzi na konkretne pytanie potrzebuje może dwóch z nich. Przy kilku tysiącach zapytań miesięcznie koszty tokenów rosną bez wyraźnego powodu. A przecież nikt tego nie zaplanował.

• Zarządzanie dostępem to nie nowość. Urzędy od lat stosują role i uprawnienia w systemach informatycznych. Dobrze zaprojektowany agent AI powinien działać dokładnie tak samo: widzieć tylko te narzędzia, które są zgodne z rolą pytającego i kontekstem sprawy.
• Protokół MCP staje się standardem. Model Context Protocol to coraz częściej stosowana warstwa integracji między agentami AI a zewnętrznymi systemami. Wdrażając agentów, warto już teraz pytać dostawców o obsługę tego protokołu i możliwość ograniczania widoczności narzędzi.
• Koszty tokenów są stałym elementem budżetu AI. Nie jednorazowym. Rosną wraz z liczbą użytkowników i zapytań. Architektura, która od początku minimalizuje niepotrzebny "szum" w prompcie, po prostu tańsza w eksploatacji.

Jedno pytanie warto zadać każdemu dostawcy systemu agentowego: ile narzędzi widzi model przy każdym wywołaniu i czy ta lista jest dostosowana do kontekstu? Jeśli odpowiedź brzmi "wszystkie zawsze" albo rozmówca nie rozumie pytania, to sygnał ostrzegawczy.

Techniczne szczegóły architektury agentów AI są złożone, ale decyzja o tym, jak zaprojektować kontrolę dostępu, należy do decydentów już na etapie wyboru rozwiązania. Chętnie pomożemy ocenić oferty i wskazać, na co zwrócić uwagę. Umów się na bezpłatny audyt i sprawdźmy razem, jak planowane wdrożenie wypada pod kątem kosztów i bezpieczeństwa.