Mały model, przewidywalny format. Co efektywne uczenie pod kątem struktury wyjścia zmienia w urzędowych potokach danych

Małe modele językowe mają jeden poważny problem praktyczny: nie zawsze trzymają się ustalonego formatu odpowiedzi. Model może świetnie rozumieć tekst, ale gdy potrzebujemy JSONa z określonymi polami albo XML-a zgodnego z konkretnym schematem, wynik bywa nieprzewidywalny. Klasyczne rozwiązanie to albo drogi duży model, albo rozbudowany walidator z wielokrotnym ponawianiem zapytania. Nowe podejście idzie inaczej. Zamiast tysięcy przykładów "wejście-wyjście", model uczy się przez nagrody: dostaje punkt, gdy jego odpowiedź jest poprawnie ustrukturyzowana, nie dostaje, gdy popełnia błąd formatu. Zastosowane do modelu liczącego 350 milionów parametrów, w zaledwie stu krokach treningu, daje coś konkretnego: model, który wcześniej co jakiś czas gubił nawias albo pomijał pole, zaczyna produkować poprawne struktury niemal za każdym razem.

Co to oznacza dla polskich urzędów i instytucji publicznych

Strukturyzowany wynik to nie techniczna ciekawostka. To warunek, który pozwala w ogóle włączyć AI do prawdziwego potoku przetwarzania danych. Urzędy pracują na formularzach, rejestrach i dokumentach z oczekiwaną strukturą. Jeśli moduł AI ma wyciągnąć datę wydania decyzji, numer sprawy i klasyfikację z treści pisma, a potem przekazać te dane do systemu EZD albo bazy SQL, musi zwrócić to w przyjętym formacie. Jeden błąd w JSONie i parser się wywraca, import nie przejdzie, sprawa utyka.

Dotychczas był to argument za dużymi komercyjnymi modelami. Albo za rozbudowanym kodem walidującym i kilkukrotnym ponowieniem zapytania. Oba wyjścia mają cenę: pierwsze finansową i zależność od zewnętrznego dostawcy, drugie latencję i skomplikowanie systemu. Mały model wyuczony pod kątem konkretnego formatu wyjściowego to trzecia droga. Działa na własnym serwerze, szybko, bez każdorazowego wywołania zewnętrznego API.

Sto kroków treningu to informacja praktyczna. Oznacza, że jeśli instytucja ma zebrane przykłady swoich dokumentów i zdefiniowany schemat wyjściowy (przy rejestrach czy formularzach urzędowych to norma), może przeprowadzić taki trening na własnych zasobach obliczeniowych, bez specjalistycznego klastra. Model mieści się w pamięci nawet skromniejszego serwera. Wyniki są powtarzalne i audytowalne.

• Ekstrakcja danych z pism i wniosków do systemów dziedzinowych bez ręcznego przepisywania
• Klasyfikacja dokumentów według własnej taksonomii instytucji, ze stałym formatem odpowiedzi
• Kontrola kompletności formularzy przed przekazaniem do dalszego obiegu
• Integracja z EZD i systemami rejestrowymi bez pośredniego walidatora

Zamiast brać gotowy duży model i liczyć, że "jakoś" wypełni schemat, instytucja wyuczy mały model na swoich przykładach z jawnym sygnałem, że poprawny format to dobry wynik. Efekt nie zależy od kolejnej aktualizacji zewnętrznego dostawcy. I pozostaje pod kontrolą wewnętrznego zespołu IT.

Jeśli chcesz sprawdzić, które etapy obiegu dokumentów w Twojej instytucji mogłyby korzystać z tego podejścia, zapraszamy na bezpłatny audyt.