AI bezpośrednio w przeglądarce, bez serwera. Co biblioteka kerneli WebGPU zmienia dla instytucji publicznych

Przez lata uruchomienie modelu AI wymagało serwera, często z kartą graficzną, albo wysłania danych do zewnętrznego API. Nowa biblioteka kerneli opublikowana przez HuggingFace odwraca ten schemat. Ponad 200 gotowych operacji GPU działa bezpośrednio w przeglądarce, przez WebGPU, czyli nowoczesny interfejs do akceleracji sprzętowej dostępny już w większości aktualnych przeglądarek. Przeglądarka staje się środowiskiem uruchomieniowym dla modeli AI, bez żadnego backendu po stronie serwera.

To nie jest eksperyment akademicki. Kernele obejmują operacje niezbędne do wnioskowania: kwantyzację, mnożenie macierzy, normalizację. Modele językowe, modele mowy i inne sieci neuronowe mogą je wykorzystać wprost, z poziomu JavaScriptu. GPU użytkownika, wbudowany w laptop czy stację roboczą, wykonuje całe obliczenia lokalnie.

Co to oznacza dla polskich urzędów i instytucji publicznych

Dane zostają na urządzeniu. To najpoważniejszy argument dla administracji. Przetwarzanie dokumentów, transkrypcja nagrań czy analiza formularzy w przeglądarce nie wymaga przesyłania treści na zewnętrzny serwer. Dla instytucji przetwarzających dane osobowe, dokumenty objęte klauzulą czy informacje medyczne to fundamentalna różnica. RODO nie zakazuje AI, ale wymaga kontroli nad tym, gdzie dane trafiają. Przeglądarka daje tę kontrolę bez skomplikowanej infrastruktury.

Zero instalacji po stronie użytkownika. Klasyczne lokalne modele wymagają instalacji środowiska, sterowników, często praw administracyjnych. WebGPU działa przez przeglądarkę, która w urzędzie już jest. Nowe narzędzie dla pracownika to adres URL, nie pakiet instalacyjny. Dla działów IT to prostszy deployment i mniej punktów podatności.

Granice są realne. Przeglądarki mają ograniczoną pamięć i WebGPU nie obsłuży każdego modelu. Duże modele językowe, które dają najlepsze wyniki przy złożonych zadaniach, nadal potrzebują serwera. Ale mniejsze modele do klasyfikacji dokumentów, prostej ekstrakcji danych czy wspomagania wypełniania formularzy, mieszczą się w tym środowisku już dziś. To nie zastępstwo dla całej infrastruktury AI, lecz nowe piętro dostępności.

• Wsparcie przy wypełnianiu formularzy bezpośrednio w portalu obywatelskim, bez backendu AI
• Lokalna analiza przesłanych skanów przed wysłaniem ich do systemu głównego
• Narzędzia dla pracowników działające w intranecie bez dostępu do chmury
• Prototypowanie funkcji AI w istniejących aplikacjach webowych bez zmiany architektury serwerowej

WebGPU jest już domyślnie włączone w Chrome, Edge i Firefox w aktualnych wersjach. Sprzęt biurowy kupowany w ostatnich kilku latach obsługuje go w większości przypadków. Bariera wejścia jest więc niższa niż przy klasycznej infrastrukturze GPU.

Kierunek jest wyraźny: AI przesuwa się bliżej użytkownika, nie tylko w sensie modeli on-device na telefonach, ale też zwykłej przeglądarki na biurowym komputerze. Instytucje, które dziś planują wdrożenia, powinny uwzględnić ten wariant przy projektowaniu narzędzi dla pracowników i obywateli. Jeśli chcecie sprawdzić, gdzie takie podejście pasuje do Waszej organizacji, zapraszamy na bezpłatny audyt.