Modele AI zapominają odpowiedzi, które znają. To zmienia sposób diagnozowania błędów

Kiedy model językowy podaje błędną odpowiedź, pierwsza myśl jest oczywista: czegoś nie wie. Dlatego sięgamy po większe modele, dokładamy dokumenty do baz wektorowych, budujemy rozbudowane systemy RAG. Tymczasem coraz więcej badań pokazuje, że obraz jest bardziej skomplikowany.

Duże modele językowe przechowują w swoich parametrach zdecydowanie więcej faktów, niż ujawniają podczas generowania odpowiedzi. Różnica między tym, co model "wie", a tym, co potrafi wypowiedzieć, bywa ogromna. Eksperymenty z czołowymi modelami wykazały, że enkodują one niemal całą testowaną wiedzę faktyczną. Problem leży gdzie indziej: w mechanizmie przywoływania tej wiedzy w trakcie generowania tekstu. Przez samo manipulowanie procesem wnioskowania, bez żadnych zewnętrznych źródeł, udało się odzyskać do 65% faktów, których model na pierwszy rzut oka "nie pamiętał".

To zmienia diagnozę. Błąd faktyczny to nie zawsze brak wiedzy. Często to błąd wyszukiwania w tym, co model już posiada.

Co to oznacza dla polskich urzędów i instytucji publicznych

Wdrożenia asystentów AI w administracji publicznej mierzą się z wyjątkowo wysokimi wymaganiami dotyczącymi poprawności. Chatbot obsługujący zapytania o przepisy, świadczenia czy procedury administracyjne musi odpowiadać precyzyjnie. Kiedy się myli, tracimy zaufanie obywateli i narażamy urząd na ryzyko.

Przez lata standardową odpowiedzią na błędy modeli było dokładanie danych: więcej dokumentów w bazie RAG, rozszerzenie kontekstu, droższy model. Nowe badania sugerują, że warto zmienić kolejność diagnostyki. Zanim zdecydujemy się na kosztowną rozbudowę infrastruktury, warto sprawdzić, czy problem nie leży w tym, jak pytamy model, a nie w tym, czego mu brakuje.

• Przemyślana konstrukcja promptów może wydobyć z modelu fakty, których ten "odmawiał" przy prostym pytaniu. To tańsze niż budowanie nowych warstw.
• Ewaluacja powinna mierzyć nie tylko poprawność odpowiedzi, ale też to, ile model potrafi odzyskać przy różnych formach pytania. Inaczej diagnozujemy problem i inaczej go naprawiamy.
• Decyzje o zakupie droższego modelu warto poprzedzić testami, czy obecny model już "wie", ale nie potrafi tego powiedzieć w danym kontekście.

Dla urzędów pracujących z ograniczonymi budżetami IT to ważna informacja. Nie każdy błąd AI wymaga wydatków. Czasem wymaga inżynierii promptów albo zmiany sposobu zadawania pytań przez użytkownika końcowego.

Nie oznacza to, że zewnętrzne bazy wiedzy tracą sens, zwłaszcza przy aktualnych danych prawnych, których model nie mógł widzieć podczas treningu. Ale zrozumienie natury błędu przed wdrożeniem kosztownego lekarstwa to dobra praktyka. Niezależnie od branży.

Jeśli chcesz lepiej zrozumieć, gdzie w twoim urzędzie AI się myli i dlaczego, zapraszamy na bezpłatny audyt. Wspólnie sprawdzimy, czy problem leży w wiedzy modelu, czy w sposobie jej wydobywania.