Jednak część algorytmów działa jak czarne skrzynki. Dostarczamy im dane, otrzymujemy wynik, ale nie wiemy, co się stało w środku.

- W przypadku wielu ludzkich decyzji też nie umiemy wyjaśnić, w jaki sposób zapadły. Ale od rozwiązań zautomatyzowanych oczekujemy większej przejrzystości. Tymczasem dziś często nie wiemy nawet, kto podjął decyzję w naszym przypadku. Może był to algorytm, może człowiek, a może jedno i drugie?

Jakiś czas temu Facebook zablokował moje konto. Gdy odwołałem się od tej decyzji, dowiedziałem się od pracownika firmy, że był to błąd systemu i blokada została zdjęta.

- Możliwość skutecznego odwołania się od decyzji algorytmu może być nawet ważniejsza od tego, w jaki sposób ta decyzja została podjęta. Ale trzeba też pamiętać, że gdy podejmowanie decyzji zostaje zautomatyzowane, to takich decyzji jest z reguły dużo więcej. Np. fotoradar wyłapuje więcej nieprawidłowości niż policjant, choćby dlatego, że działa całą dobę. Łatwo więc jest „zatkać” nasze procesy społeczne rosnącą ilością spraw. Wtedy może dojść do sytuacji, że gdy odwołamy się od decyzji jednego algorytmu, naszą sprawę ponownie rozpatrzy drugi...

I w ten sposób sprawa utknie w jakiejś komputerowej biurokracji.

- A to może być naprawdę poważny problem. Teraz automat może wskutek błędu nałożyć blokadę na konto na Facebooku. Jednak w niedalekiej przyszłości w taki sam sposób może zostać zablokowany czyjś elektroniczny dowód osobisty albo rachunek bankowy. W innych krajach algorytmy już dziś przyczyniają się do pogłębiania nierówności społecznych czy ubóstwa.

Co możemy zrobić, by zapobiec takiemu scenariuszowi?

- Największą szansę mamy w sektorze publicznym. Może on albo kupić gotowe algorytmy od międzynarodowych firm, albo zamówić je w polskich przedsiębiorstwach. Gdy zbudujemy rozwiązania na miejscu, można je lepiej zaprojektować. Idealnie byłoby, gdyby instytucje publiczne negocjowały ze startupami, żeby robiły rozwiązania na nasz rynek. To się udało na przykład w Estonii, która jest jednym z najbardziej „cyfrowych” państw na świecie.

My, jak piszecie w raporcie, jesteśmy tak zapóźnieni w tej dziedzinie, że jest to paradoksalnie naszą szansą.

- Możemy zbudować nowe, sprawiedliwe rozwiązania od podstaw. Trzeba tylko zacząć. Duże pole do popisu mają tu np. władze miast, które mogłyby zamawiać rozwiązania dopasowane do lokalnej specyfiki. Ale na razie nie widzę na to szans, nawet w metropoliach takich jak Warszawa, które podobno stawiają na cyfryzację. One już dziś zbierają mnóstwo danych, ale niewiele z nimi robią. A szkoda, bo byłaby to i szansa na lepsze zrozumienie procesów społecznych, i możliwość zwiększenia efektywności działania miasta, co jest bardzo ważne choćby w kontekście zmian klimatu.

Czy są jakieś gotowe wzorce za granicą, z których moglibyśmy skorzystać?

Wygląda na to, że inne kraje też są na wczesnym etapie rozwoju takich systemów. Uczestniczymy w europejskim projekcie fundacji AlgorithmWatch i widzimy, jak wiele rozwiązań jest nietrafionych. W Kopenhadze testowano system monitorowania aktywności w mediach społecznościowych osób korzystających z opieki społecznej. Szybko został skrytykowany i wyłączony. Podobnie było z mapami przestępczości, nad którymi przez trzy lata pracowano w Niemczech. Wzorce musimy więc wypracować sami.

Jakie instytucje powinny się tym zająć? Ministerstwo Cyfryzacji?

- Na pewno, zresztą ono już sporo zrobiło m.in. w kwestii otwartości danych publicznych. Fajny jest też rządowy program GovTech, który na razie głównie eksperymentuje z tym, jak dobrze zamawiać usługi dla sektora publicznego. Moim zdaniem duży potencjał ma Główny Urząd Statystyczny. Statystyka publiczna powstała przecież po to, by można było badać społeczeństwo i podejmować decyzje na podstawie zebranych informacji. GUS mógłby zająć się danymi zbieranymi w różnych miejscach i wykorzystać je w dobrych celach.

Raport „AlgoPolska – zautomatyzowane podejmowanie decyzji w służbie społeczeństwu” przygotowany przez ekspertów Fundacji Centrum Cyfrowe i Klubu Jagiellońskiego jest dostępny pod adresem www.centrumcyfrowe.pl/algopolska-raport/