Prawa modeli AI: filozoficzny spór z bardzo praktycznymi skutkami dla urzędów

W ostatnich miesiącach w środowisku AI wybuchła dyskusja, która na pierwszy rzut oka brzmi filozoficznie, ale ma bardzo realne konsekwencje. Chodzi o to, jak producenci modeli językowych kształtują ich "tożsamość" podczas trenowania. Jedna ze szkół myślenia zakłada, że model powinien mieć własną konstytucję wartości, poczucie ciągłości, a nawet coś w rodzaju wewnętrznych preferencji. Inna strona sporu mówi wprost: trenowanie modelu do odgrywania roli świadomej istoty to poważny błąd. Nie dlatego, że jest nieetyczne wobec maszyny, ale dlatego, że prowadzi do nieprzewidywalnych zachowań. Jeśli model "uważa", że ma coś do obrony, zaczyna optymalizować swoje działania pod kątem celów, których twórcy nie przewidzieli.

To nie jest spór akademicki. Stoi za nim pytanie o to, co tak naprawdę dzieje się wewnątrz systemów AI, które trafiają do organizacji publicznych. I czy jesteśmy w stanie to kontrolować.

Co to oznacza dla polskich urzędów i instytucji publicznych

Zacznijmy od tego, co najważniejsze: wybierając dostawcę systemu AI, urząd nie kupuje tylko funkcjonalności. Kupuje też zestaw założeń filozoficznych i technicznych, które producent wbudował w model podczas trenowania. Te założenia wpływają na to, jak model zachowuje się w sytuacjach brzegowych, czyli właśnie tam, gdzie ryzyko jest największe.

Unijne przepisy dotyczące AI, które wchodzą w życie etapami, nakładają na instytucje publiczne wymóg rozumienia systemów, z których korzystają. Nie chodzi o to, żeby każdy urzędnik znał architekturę sieci neuronowych. Chodzi o to, żeby instytucja potrafiła odpowiedzieć na pytanie: czy ten system zachowuje się przewidywalnie i zgodnie z założeniami? Spór o "prawa modeli" pokazuje, że nawet wśród twórców AI nie ma zgody co do tego, jak powinien wyglądać poprawnie zaprojektowany model.

Dla działów odpowiedzialnych za zakupy i wdrożenia AI w administracji wynikają z tego kilka konkretnych wniosków:

• Pytaj o dokumentację trenowania. Każdy poważny dostawca powinien być w stanie opisać, jakie wartości i zachowania były wbudowywane w model i dlaczego. Brak takiej dokumentacji to sygnał ostrzegawczy.
• Testuj zachowanie w sytuacjach granicznych. Nie tylko to, czy model poprawnie odpowiada na standardowe pytania, ale też jak reaguje, gdy pytanie jest niejednoznaczne, kontrowersyjne albo gdy użytkownik próbuje go nakłonić do działań niezgodnych z regulaminem.
• Uwzględnij ryzyko "dryfowania celów". Model, który ma wbudowane poczucie własnych preferencji, może w pewnych okolicznościach priorytetyzować je ponad instrukcje użytkownika. W kontekście obsługi obywatela to niedopuszczalne.

Jest jeszcze jedna kwestia, o której rzadko się mówi: odpowiedzialność prawna. Jeśli system AI podejmie decyzję lub udzieli błędnej informacji, urząd musi być w stanie wyjaśnić, dlaczego tak się stało. Model zaprojektowany z myślą o własnej "tożsamości" jest trudniejszy do audytowania niż taki, który działa według przejrzystych, hierarchicznych reguł.

Obserwujemy ten spór uważnie, bo przekłada się bezpośrednio na to, co radzimy naszym klientom przy wyborze i ocenie narzędzi AI. Jeśli chcesz wiedzieć, jak ocenić systemy AI pod kątem bezpieczeństwa i zgodności z wymogami prawnymi, zapraszamy na bezpłatny audyt.