Czy model AI traktuje wszystkich jednakowo? Nowe metody oceny sprawiedliwości decyzji

Gdy duże modele językowe trafiają do procesów decyzyjnych, standardowe testy jakości przestają wystarczać. Można sprawdzić, czy model dobrze rozumie pytanie, czy daje spójne odpowiedzi, czy nie halucynuje faktów. Trudniej zmierzyć coś innego: czy w podobnych sytuacjach traktuje różne osoby jednakowo. Badacze zajmujący się tym problemem opracowują coraz bardziej wymagające metody oceny, które wykraczają poza proste sprawdzenie, czy model "nie użył złego słowa". Chodzi o to, jak zmienia się zachowanie modelu, gdy w treści zapytania pojawiają się sygnały demograficzne: płeć, wiek, narodowość, poziom wykształcenia. I czy te zmiany są systematyczne.

Wyniki takich badań są niepokojące. Modele, które w izolowanych testach wypadają neutralnie, przy bardziej złożonych scenariuszach decyzyjnych zaczynają produkować rozbieżności. Nie zawsze oczywiste, nie zawsze duże, ale powtarzalne. Różnica pojawia się na przykład wtedy, gdy to samo pytanie o kredyt, o dostęp do usługi albo o ocenę dokumentu zostaje zadane w kontekście, który sugeruje inny profil wnioskodawcy. Model nie pyta o rasę ani dochód wprost, ale wnioskuje z sygnałów pobocznych i to wnioskowanie bywa nierówne.

Co to oznacza dla polskich urzędów i instytucji publicznych

Administracja publiczna ma konstytucyjny obowiązek równego traktowania. Jeśli urzędnik wspomaga się systemem AI, który sugeruje decyzję, interpretuje dokument albo ocenia wniosek, to stronniczość modelu staje się stronniczością urzędu. Prawo tego nie rozróżnia.

Problem jest realny już teraz, nie w jakiejś odległej przyszłości. Instytucje używają modeli do analizy pism, do podpowiadania odpowiedzi na zapytania, do kategoryzowania spraw. W każdym z tych zastosowań model może "widzieć" coś, czego urzędnik nie widzi: imię, słownictwo, sposób formułowania zdań, który sygnalizuje pochodzenie albo poziom wykształcenia. I może na tej podstawie zmieniać swoje zachowanie.

• Audyt przed wdrożeniem. Każde narzędzie AI wspomagające decyzje dotyczące obywateli powinno przejść test na spójność zachowania w scenariuszach z różnymi profilami wnioskodawców. Nie wystarczy test ogólny, trzeba sprawdzić konkretny przypadek użycia.
• Monitoring w trakcie działania. Jednorazowy test przy wdrożeniu to za mało, bo modele są aktualizowane, a konteksty użycia się zmieniają. Warto mierzyć, czy rozkład decyzji wspomaganych przez AI nie zmienia się w czasie w sposób, który nie wynika z merytorycznych różnic między sprawami.
• Dokumentacja dla kontroli. Organ kontrolny, który zapyta, dlaczego w danej kategorii spraw decyzje były podzielone w określony sposób, będzie oczekiwał uzasadnienia. Jeśli AI brało w tym udział, trzeba móc wykazać, że system był oceniany pod kątem bezstronności.
• Ludzka weryfikacja przy wysokiej stawce. Tam gdzie decyzja bezpośrednio ogranicza prawa obywatela, AI może pomagać, ale nie może decydować samodzielnie. To nie jest tylko kwestia ostrożności, to wymóg wynikający z przepisów o postępowaniu administracyjnym.

Rosnąca precyzja metod oceny sprawiedliwości to dobra wiadomość: oznacza, że instytucje będą miały lepsze narzędzia do sprawdzenia, co naprawdę robią systemy, które wdrażają. Ale korzystanie z tych narzędzi wymaga wiedzy i zasobów, których większość urzędów nie ma na miejscu.

Jeśli Twoja instytucja planuje lub już używa AI w procesach decyzyjnych, warto sprawdzić, jak wygląda to od strony równego traktowania, zanim zrobi to zewnętrzny audytor. Zapraszamy na bezpłatny audyt, podczas którego przejrzymy konkretne zastosowania i wskażemy, gdzie ryzyko stronniczości jest największe.