Jeden model rozumie tekst, obraz i wiele języków naraz. Co nowe podejście do enkoderów zmienia w urzędowym obiegu dokumentów

Większość modeli AI, które dziś pracują w urzędach, ma wyspecjalizowane "zmysły": jeden rozumie tekst, inny analizuje obrazy, jeszcze inny radzi sobie z językiem innym niż angielski. Żeby przetworzyć dokument zawierający jednocześnie skan, tabelę i opis po polsku i ukraińsku, trzeba było łączyć kilka systemów w potok, a każde złącze to potencjalny błąd i strata informacji. Nowa generacja enkoderów budowanych jako multimodalne i wielojęzyczne od podstaw zmienia to założenie. Taki model nie "tłumaczy" obrazu na tekst przed analizą. On po prostu rozumie oba jednocześnie.

Co to oznacza dla polskich urzędów i instytucji publicznych

Polski urząd przetwarza dokumenty, które rzadko są "czyste". Wniosek o pomoc społeczną może zawierać skan faktury, zdjęcie lokalu, odręczną adnotację i dane wpisane ręcznie w tabelę. Do tej pory każdy z tych elementów wymagał osobnego modelu albo ręcznej interwencji. Enkoder, który natywnie rozumie tekst i obraz jako jedno, może przeanalizować taki dokument całościowo i wyciągnąć strukturę jednym przejściem.

Wielojęzyczność to osobny wymiar, ale równie ważny. Od kilku lat polskie urzędy obsługują coraz więcej spraw prowadzonych równolegle po polsku i ukraińsku. Dokumenty UE trafiają w kilku językach naraz. Enkoder trenowany na wielu językach jednocześnie, nie przez osobne ścieżki, lepiej radzi sobie z dokumentami mieszanymi i mniej się "gubi", gdy w jednym akapicie pojawiają się dwa języki.

Praktyczne konsekwencje dla instytucji publicznych są konkretne:

• Klasyfikacja i indeksowanie dokumentów przychodzących w różnych formatach może dziać się automatycznie, bez wstępnego dzielenia na "tekst" i "skan".
• Wyszukiwanie w archiwach z mieszaną zawartością staje się możliwe bez ręcznego tagowania każdego pliku.
• Obsługa cudzoziemców i przetwarzanie dokumentów w językach innych niż polski przestaje wymagać odrębnego modelu lub tłumaczenia przed analizą.
• Projekty unijne i sprawozdawczość oparte na dokumentach wielojęzycznych mogą być przetwarzane bez ręcznego sortowania po języku.

Warto też spojrzeć na to od strony infrastruktury. Jeden model zamiast kilku oznacza mniejszą liczbę zależności do utrzymania, prostszy potok przetwarzania i łatwiejsze audyty bezpieczeństwa. Dla instytucji, które muszą dokumentować każdą warstwę systemu, to argument nietrywialny.

Natywnie wielojęzyczne enkodery to też sygnał, że różnica między modelem "globalnym" a modelem "lokalnym" zaczyna się zacierać inaczej niż przez fine-tuning. Nie chodzi już o to, żeby nauczyć model polskiego. Chodzi o to, żeby od początku budować go tak, żeby rozumiał wiele języków i wiele formatów bez kompromisów.

Jeśli Twój urząd przetwarza dokumenty mieszane i zastanawiasz się, gdzie zaczyna się automatyzacja, a gdzie kończy obecna infrastruktura, warto to ocenić przed wyborem narzędzi. Zapraszamy na bezpłatny audyt.