Gdy żaden model nie pasuje. Kiedy instytucja publiczna powinna zbudować własny

Przez ostatnie lata rynek AI działał według prostej logiki: duże firmy trenują wielkie modele ogólnego przeznaczenia, a wszyscy inni z nich korzystają. To nadal dobry punkt wyjścia. Tyle że obok tej logiki rośnie coraz szersza praktyka dopasowywania modeli do konkretnych dziedzin. Fine-tuning, czyli douczanie istniejącego modelu na własnych danych, stał się dostępny nie tylko dla korporacji z działami ML. Instytucje, które mają wystarczającą liczbę dobrej jakości dokumentów z konkretnej dziedziny, mogą dziś zbudować model, który rozumie ich język, strukturę pism i wewnętrzne procedury lepiej niż jakikolwiek model ogólny.

Nie chodzi tu o trenowanie modelu od zera. To kosztowne i rzadko uzasadnione. Chodzi o wzięcie modelu bazowego i nauczenie go specyfiki: terminologii prawnej konkretnej branży, lokalnych wzorów decyzji administracyjnych, stylu odpowiedzi na skargi obywatelskie albo sposobu klasyfikacji dokumentów, który ma sens tylko w tym jednym urzędzie.

Co to oznacza dla polskich urzędów i instytucji publicznych

Pierwsza i najważniejsza kwestia to dane. Fine-tuning nie działa z pustymi rękoma. Potrzeba kilkuset, lepiej kilku tysięcy przykładów: par pytanie-odpowiedź, dokumentów z etykietami, par oryginał-korekta. Wiele urzędów ma takie zasoby w szufladach, dosłownie i przenośnie: archiwa decyzji, zestawy odpowiedzi na skargi, bazy precedensów. Problemem nie jest brak materiału, tylko brak świadomości, że to zasób.

Drugi czynnik to RODO i suwerenność danych. Część instytucji nie może lub nie chce wysyłać dokumentów do zewnętrznych API. Własny model, uruchomiony lokalnie albo na serwerze w kontrolowanej infrastrukturze, rozwiązuje ten problem strukturalnie. Dane nie opuszczają organizacji w ogóle, bo nie ma takiej potrzeby.

Trzecia sprawa, często niedoceniana: jakość odpowiedzi na specjalistyczne pytania. Model ogólny odpowie na pytanie o tryb odwoławczy. Model douczony na orzeczeniach samorządowego kolegium odwoławczego z ostatnich pięciu lat odpowie inaczej. Dokładniej, w języku, który rozpozna każdy pracownik merytoryczny wydziału. Różnica jest mierzalna i widoczna dla użytkownika od pierwszego dnia.

• Co warto sprawdzić przed decyzją: czy mamy wystarczający zbiór danych (minimum kilkaset par, lepiej tysiące); czy mamy kogoś, kto potrafi ocenić jakość odpowiedzi modelu w tej dziedzinie; czy infrastruktura pozwala na lokalne uruchomienie modelu.
• Czego unikać: trenowania na byle czym. Model douczony na dokumentach niskiej jakości albo błędnie opisanych zachowuje się gorzej niż model bazowy. Garbage in, garbage out działa tu bezlitośnie.
• Gdzie to realnie ma sens w administracji: klasyfikacja i routing pism przychodzących, generowanie projektów decyzji w ściśle określonych kategoriach spraw, odpowiedzi na typowe zapytania obywatelskie w specyficznym języku danej instytucji.

Pełny model od zera to projekt na lata i miliony. Douczony model dziedzinowy to projekt na tygodnie i rozsądny budżet. Linia między nimi jest wyraźna, ale wiele instytucji jeszcze jej nie widzi, bo nikt im jej nie pokazał.

Jeśli zastanawiasz się, czy twoja instytucja ma dane i potrzeby, które uzasadniałyby własny model, umów się na bezpłatny audyt. Sprawdzimy to razem, bez zobowiązań.