Model AI z udokumentowaną historią. Co przejrzyste budowanie Granite 4.2 zmienia w zamówieniach publicznych
Większość dużych modeli językowych to czarne skrzynki pod względem składu danych treningowych. Wiadomo mniej więcej, że „uczono na tekście z internetu i książkach", ale na pytanie „skąd konkretnie?" producent zwykle milczy. IBM poszedł w innym kierunku przy budowie rodziny Granite 4.2: opublikował szczegółowe karty modelu, z których wynika, z jakich zbiorów danych korzystano, jakie filtry jakościowe i bezpieczeństwa zastosowano, co celowo wykluczono. Do tego modele wyszły na licencji Apache 2.0, więc można je wdrażać komercyjnie i w sektorze publicznym bez dodatkowych opłat licencyjnych. Różne rozmiary rodziny pozwalają wybrać wariant odpowiedni zarówno do serwera on-premise, jak i cięższych zadań w chmurze.
Co to oznacza dla polskich urzędów i instytucji publicznych
Zamówienia publiczne wymagają uzasadnienia wyboru. Każde wdrożenie AI w urzędzie przechodzi przez procedurę zakupową, a coraz częściej też przez ocenę ryzyka wymaganą unijnym AI Act. Komisja przetargowa albo departament prawny może zapytać: na czym ten model był uczony, czy w danych treningowych nie ma materiałów chronionych prawem autorskim lub danych osobowych? W przypadku Granite 4.2 masz na to pisemną odpowiedź producenta. Modele bez takiej dokumentacji stawiają zamawiającego w trudnej sytuacji, bo uzasadnienie sprowadza się do „producent nam nie powiedział".
AI Act i przejrzystość systemu AI. Rozporządzenie nakłada na dostawców systemów AI obowiązek dokumentowania modeli bazowych. Instytucja publiczna wdrażająca AI staje się podmiotem wdrażającym i musi mieć dostęp do dokumentacji technicznej. Tutaj sytuacja jest czytelna: dokumentacja istnieje, jest publiczna, można ją dołączyć do akt zamówienia. To nie eliminuje całej pracy compliance, ale skraca ją znacząco.
Praca bez chmury zewnętrznej. Modele z rodziny Granite 4.2 można uruchomić lokalnie. Dla urzędów, które przetwarzają dane wrażliwe, decyzje administracyjne czy dokumenty objęte tajemnicą, brak konieczności wysyłania zapytań do zewnętrznego serwera to argument praktyczny, nie tylko wizerunkowy. Zapytanie o decyzję podatkową albo o dane ewidencyjne nie wychodzi poza sieć wewnętrzną.
- Audyt danych treningowych dostępny publicznie, bez konieczności podpisywania NDA z producentem
- Licencja permisywna, która nie wyklucza zastosowań komercyjnych ani sektora publicznego
- Różne rozmiary modeli, od lekkich wariantów do większych, w zależności od infrastruktury instytucji
- Wielojęzyczność uwzględniona już na etapie budowy, nie jako późniejszy dodatek
Transparentność budowy modelu to coraz ważniejszy parametr przy wyborze AI dla administracji. Nie chodzi tylko o to, czy model działa dobrze. Chodzi o to, czy można go obronić przed komisją, audytorem i prawnikiem. Granite 4.2 nie jest jedynym otwartym modelem na rynku, ale podejście IBM do dokumentowania procesu budowy wyznacza standard, który warto brać pod uwagę przy tworzeniu wewnętrznych kryteriów oceny rozwiązań AI.
Jeśli Wasza instytucja stoi przed wyborem modelu AI do konkretnego zastosowania i chcecie ocenić opcje pod kątem compliance oraz możliwości lokalnego wdrożenia, zapraszamy na bezpłatny audyt.
Opracowanie: zespół redAi z wykorzystaniem narzędzi AI.
Więcej aktualności
- Model skompresowany do 4 bitów lepszy od oryginału. Co technika Quantization-Aware Healing zmienia dla instytucji publicznych
- AI, które rozumie pytanie za pytaniem. Co benchmark XYBench zmienia w pracy urzędu
- Gotowe klocki do symulacji robotów. Co ekosystem aktywów symulacyjnych zmienia w automatyzacji instytucji publicznych
- Własne dane, własne modele 3D. Co dostrajanie generatywnych modeli przestrzennych zmienia dla instytucji publicznych