Kiedy AI musi się wytłumaczyć. Co explainable AI oznacza dla administracji publicznej

Przez lata największym problemem systemów sztucznej inteligencji było to, że nikt nie wiedział, dlaczego podjęły daną decyzję. Model wchodził, decyzja wychodziła, a co działo się w środku, pozostawało tajemnicą nawet dla twórców. Badania prowadzone ostatnio przez zespół łączący przemysł z akademią przyniosły konkretny przełom: system AI potrafi na bieżąco tłumaczyć, dlaczego autonomiczny pojazd zwalnia, skręca albo zatrzymuje się. Nie po fakcie, nie w raporcie, ale w czasie rzeczywistym. To zmienia reguły gry.

Wyjaśnialność AI (XAI, z ang. explainable artificial intelligence) to pojęcie, które w środowisku technologicznym funkcjonuje od lat. Jednak przeniesienie jej z teorii do praktyki, w systemie działającym pod presją czasu i odpowiedzialnym za ludzkie życie, to coś zupełnie innego. Jeśli da się to zrobić w autonomicznym samochodzie, da się to zrobić wszędzie.

Co to oznacza dla polskich urzędów i instytucji publicznych

Zacznijmy od prawa. Unijne rozporządzenie o AI nakłada na instytucje publiczne szereg obowiązków dotyczących systemów zaliczanych do kategorii wysokiego ryzyka. Urzędy pracy, systemy oceniające wnioski o świadczenia, narzędzia wspierające decyzje podatkowe czy pomoc społeczną. Wszystkie te obszary wymagają, żeby decyzja była możliwa do wyjaśnienia, zarówno przed sądem, jak i przed samym obywatelem. Kodeks postępowania administracyjnego od dawna to zresztą nakłada. AI tylko uwidoczniła, jak trudno ten wymóg spełnić w praktyce.

Problem polega na tym, że większość wdrożeń AI w administracji nadal opiera się na modelach działających jak czarna skrzynka. Wynik jest, uzasadnienie jest trudne lub niemożliwe do odtworzenia. Jeśli system sugeruje odmowę wniosku, urzędnik musi coś napisać w uzasadnieniu, ale co, jeśli sam nie wie, skąd pochodzi ta rekomendacja? To nie jest abstrakcyjny problem. To codzienność w kilku polskich urzędach, które zaczęły eksperymentować z automatyzacją.

Badania nad wyjaśnialnym AI w pojazdach autonomicznych to dobry sygnał, że kierunek jest wykonalny technicznie. Dla instytucji publicznych oznacza to konkretne wskazówki przy wyborze narzędzi:

• Pytaj o ślad decyzji. Każdy dostawca systemu AI powinien być w stanie pokazać, jakie czynniki wpłynęły na konkretną rekomendację, najlepiej z możliwością wygenerowania dokumentu dla obywatela.
• Nie kupuj czarnej skrzynki. Modele oparte wyłącznie na głębokiej sieci neuronowej, bez żadnego mechanizmu wyjaśniającego, są ryzykowne prawnie i organizacyjnie.
• Buduj rejestr systemów od początku. AI Act wymaga dokumentowania systemów wysokiego ryzyka. Łatwiej robić to od startu wdrożenia niż dwa lata po fakcie, gdy nikt nie pamięta, skąd wzięły się dane treningowe.

Nadchodzące dwa, trzy lata zweryfikują, które instytucje podeszły do AI poważnie, a które tylko "wdrożyły coś". Wyjaśnialność to nie funkcja, którą można dodać później. To fundament, bez którego cała budowla jest krucha.

Jeśli zastanawiasz się, jak ocenić obecne lub planowane wdrożenia AI w swojej instytucji pod kątem zgodności z AI Act i wymogiem wyjaśnialności, zapraszamy na bezpłatny audyt. Bez zobowiązań, z konkretnymi wnioskami.