Naszym życiem rządzą algorytmy. Zamieniają wielu z nas we współczesnych niewolników

Matematyka, która kiedyś była moim schronieniem, napędza wiele z problemów tego świata. Kryzys mieszkaniowy, upadek wielu ważnych instytucji, wzrost bezrobocia – wszystkie te zjawiska były rozkręcane i podsycane przez matematyków tworzących magiczne formułki. Dwadzieścia cztery godziny na dobę, przez siedem dni w tygodniu nowe techniki matematyczne przesiewają petabajty danych, z których wiele pochodzi z mediów społecznościowych i serwisów e-commerce.

Techniki te w coraz większym stopniu koncentrowały się nie na przepływach na globalnych rynkach finansowych, lecz na nas. Matematycy i statystycy śledzili nasze potrzeby, działania i siłę nabywczą. Oceniali naszą przyszłą i teraźniejszą wiarygodność i obliczali nasz potencjał jako studentów,
pracowników, kochanków czy przestępców. Była to ekonomia Big Data, która obiecywała spektakularne zyski.

Program komputerowy mógł w ciągu sekundy lub dwóch przetworzyć tysiące wniosków o pracę bądź kredyt i posegregować je w praktyczny sposób, umieszczając obiecujących kandydatów na szczycie listy. To nie tylko oszczędzało czas, lecz było również uznawane za obiektywne i sprawiedliwe. Bądź co bądź proces ten nie zakładał udziału pełnych uprzedzeń ludzi, lecz wyłącznie maszyn przetwarzających suche liczby. Około 2010 roku matematyka zadomowiła się w naszych sprawach, a opinia publiczna w znacznej mierze
pochwalała to zjawisko.

Ja jednak dostrzegałam problem. Zasilane matematyką aplikacje bazowały na wyborach dokonywanych przez omylne istoty ludzkie. Niektóre z tych decyzji były bez wątpienia podejmowane w najlepszej intencji. Niemniej jednak wiele z metod wpisywało w systemy oprogramowania ludzkie uprzedzenia, brak zrozumienia oraz stronniczość. Jak bogowie, modele matematyczne były nie do pojęcia, zaś sposób ich działania byli w stanie zgłębić jedynie najwyżsi kapłani – matematycy i programiści komputerowi. Rozstrzygnięcia dostarczane przez modele, nawet gdy były złe lub szkodliwe, nie podlegały dyskusji ani odwołaniu. Wymyśliłam nazwę dla takich szkodliwych odmian modeli: Broń Matematycznej Zagłady, w skrócie Beemzety.

 

NIEUCZĄCY SIĘ PROGRAM

Systemy statystyczne potrzebują informacji zwrotnej – czegoś, co im powie, że zboczyły z toru. Statystycy wykorzystują informacje o błędach po to, by sprawdzać swoje modele i modyfikować je tak, by stawały się inteligentniejsze. Gdyby amazon.com, w wyniku błędnej korelacji w swoich algorytmach, zaczął rekomendować podręczniki do pielęgnacji trawników nastoletnim dziewczynkom, liczba kliknięć spadłaby na łeb na szyję. W następstwie algorytm zostałby zmodyfikowany aż do uzyskania zadowalających efektów. Bez informacji zwrotnej machina statystyczna może w nieskończoność generować niepoprawne lub szkodliwe analizy, nigdy nie ucząc się na własnych błędach. Wiele z Beemzetów zachowuje się w taki właśnie sposób. Definiują własną rzeczywistość, a następnie wykorzystują ją do uzasadnienia generowanych wyników.

 

Taki typ modelowania ma charakter samoutrwalajaący, wysoce destruktywny – i jest niezwykle powszechny. Przykładowo pracodawcy coraz powszechniej wykorzystują historię kredytową kandydatów do pracy przy ocenie potencjalnych pracowników. W myśl tego rozumowania ci, którzy terminowo spłacają swoje rachunki, prawdopodobnie będą także punktualnie zjawiać się w pracy i przestrzegać ustalonych zasad. Prawda jest jednak taka, że wiele odpowiedzialnych osób i wielu dobrych pracowników ma problemy finansowe, które obniżają ich wiarygodność kredytową. Przekonanie, że kiepska historia kredytowa współgra z niską wydajnością w pracy, sprawia, że osoby z niską pozycją w rankingu mają mniejsze szanse na znalezienie pracy. I dalej: bezrobocie spycha takie osoby w kierunku ubóstwa, co dodatkowo pogarsza ich punktację, sprawiając że jeszcze trudniej im znaleźć pracę. Tworzy się spirala strat. W Beemzetach matematyka kamufluje wiele toksycznych założeń, które w przeważającej mierze funkcjonują bez weryfikacji oraz kontroli.

TANIE I TAJEMNICZE

To kolejna powszechna cecha Beemzetów: wykazują tendencję do karania osób biednych. Dzieje się tak po części dlatego, że tworzy się je do oceny dużych grup ludzi. Specjalizują się w hurtowym przerobie, a do tego są tanie. To część ich uroku. Osoby zamożne dla odmiany często czerpią korzyści wynikające z osobistego podejścia różnych instytucji.

Ekskluzywna kancelaria prawna lub elitarna szkoła w znacznie większym stopniu będą polegać na rekomendacjach
i osobistych rozmowach kwalifikacyjnych niż sieć barów szybkiej obsługi czy borykający się z niedoborami finansowymi wielkomiejski okręg szkolny. Sam model jest jak czarna skrzynka, której zawartość stanowi zaciekle chronioną tajemnicę przedsiębiorstwa. Uważa się, że utrzymywanie w niewiedzy osób poddawanych ocenie zmniejszy prawdopodobieństwo, że będą one próbowały oszukiwać system. Jedyne, co im zostaje, to ciężka praca, przestrzeganie zasad i nadzieja, że model zarejestruje i doceni ich starania.

Z drugiej strony, jeżeli model pozostaje nieprzejrzysty, trudniej jest kwestionować wyniki i protestować przeciwko nim. W przypadku wielu firm wykorzystujących takie wadliwe algorytmy strumień pieniędzy jest dowodem na to, że modele działają. Problem tkwi jednak w tym, że profity ostatecznie zastępują lub stają się substytutem prawdy. Badacze danych nazbyt często tracą z pola widzenia ludzi, których dotykają
skutki pracy analityków. Cóż, zatrudniony w danej firmie analityk danych mógłby stwierdzić, że żaden system nie jest doskonały. Ci goście mieli po prostu pecha. Często zostali ocenieni jako nieprzydatni bądź zbędni. Zapomnijmy o nich na chwilę, mógłby powiedzieć ów analityk, skoncentrujmy się za to na tych wszystkich, którzy otrzymali pomocne rekomendacje od rozmaitych wyszukiwarek, znaleźli ukochaną muzykę w Pandora Radio, idealną pracę na LinkedIn, a może nawet miłość swojego życia na Match.com. Pomyślmy o tej zdumiewającej skali i zignorujmy niedoskonałości. Big Data ma wielu wyznawców, lecz ja się do nich nie zaliczam.

 

NIEZNANE GODZINY PRACY

Od niedawna wśród osób zatrudnionych w wielkich korporacjach popularność zdobywa nowy czasownik: „zamytwierać”. Określa on sytuację, w której ktoś pracuje do późna, zamyka sklep lub kawiarnię, po czym kilka godzin później, z samego rana wraca do pracy, żeby je ponownie otworzyć. To, żeby ten sam pracownik otwierał i zamykał, czyli zamytwierał miejsce pracy, często jest ze wszech miar logiczne i pożyteczne dla przedsiębiorstwa. Prowadzi jednak do pozbawiania snu pracowników oraz układania zwariowanych grafików pracy. Szaleńczo nieregularne grafiki pracy stają się coraz powszechniejsze, w szczególności na niskopłatnych stanowiskach w firmach takich jak Starbucks, McDonald’s czy Walmart.

 

Problem pogłębia brak informacji z odpowiednim wyprzedzeniem. Wielu pracowników dowiaduje się zaledwie dzień lub dwa wcześniej, że będą musieli pracować na nocnej zmianie w środę lub zmagać się z piątkowymi godzinami szczytu. Powoduje to chaos w ich planach życiowych i negatywnie odbija się na opiece nad dziećmi. Posiłki spożywa się wtedy, kiedy nadarzy się okazja. To samo dzieje się ze spaniem. Takie nieregularne grafiki pracy są efektem gospodarki opartej na danych. Przez całe dekady, zanim jeszcze firmy zaczęły być zalewane danymi, wyznaczanie godzin pracy nie miało w sobie nic z nauki. Wyobraźcie sobie rodzinny sklep  z artykułami metalowymi, którego sprzedawcy pracują od 9 do 17 przez sześć dni w tygodniu. Pewnego roku córka wyjeżdża na uniwersytet. Kiedy wraca do domu na lato, patrzy na interes świeżym okiem. Zauważa, że praktycznie nikt nie przychodzi do sklepu we wtorek rano. Ekspedientka cały czas surfuje wtedy w sieci na telefonie. Dla sklepu to oznacza mniejszy dochód. Za to w soboty niezadowoleni klienci czekają w długich kolejkach.

Te obserwacje dostarczają cennych wskazówek, dzięki którym córka może wesprzeć rodziców w adaptacji modelu biznesowego. Zaczynają od wyznaczenia późniejszych godzin otwarcia sklepu we wtorki oraz zatrudnienia kogoś na niepełny etat do pomocy w czasie sobotniego zalewu klientów. Zmiany te wprowadzają odrobinę planowania do bezmyślnego i nieelastycznego modelu, który funkcjonował do tej pory. W świecie Big Data początkująca studentka
zostaje zastąpiona legionami doktorów nauk zapędzających do pracy potężne komputery. Firmy mogą teraz analizować ruch klientów po to, by kalkulować, ilu dokładnie pracowników potrzebują o każdej godzinie, każdego dnia. Celem jest oczywiście wydanie jak najmniejszej ilości pieniędzy, co oznacza utrzymywanie personelu na poziomie absolutnego minimum i zarazem dopilnowanie, by dysponować wsparciem pracowniczym w bardziej gorących okresach.

Mogłoby się wydawać, że schematy te powinny powtarzać się z tygodnia na tydzień, co oznacza, że problem rozwiąże proste dopasowanie stałego grafiku pracy, na wzór naszego hipotetycznego sklepu z artykułami metalowymi. Nowe programy konstruujące grafiki pracy oferują jednak o wiele bardziej zaawansowane opcje. Przetwarzają strumienie nieustannie aktualizowanych danych, od pogody po schematy ruchu pieszego. Przykładowo w dżdżyste popołudnie więcej ludzi zamiast spaceru w parku wybierze wyjście do kawiarni. Przynajmniej na godzinę lub dwie potrzebny więc będzie powiększony personel.

Mecz w piątkowy wieczór spowoduje, że na głównej ulicy miasteczka zwiększy się ruch pieszy – ale tylko przed i po meczu, nie zaś w trakcie jego trwania. Analiza postów na Twitterze sugeruje, że na jutrzejsze wyprzedaże z okazji Czarnego Piątku wyruszy o 26 proc. więcej kupujących niż w roku ubiegłym. Warunki zmieniają się z godziny na godzinę, a siłę roboczą trzeba dopasowywać do zmieniającego się zapotrzebowania. W przeciwnym razie firma traciłaby pieniądze. Zaoszczędzone kwoty pochodzą oczywiście prosto z kieszeni pracowników. W dawnych czasach obniżonej wydajności nie dość, że pracownicy mieli przewidywalne godziny pracy, to jeszcze mogli cieszyć się określoną ilością mniej intensywnego czasu pracy. Bez wątpienia korzystali z takiej niewydajności: niektórzy mogli czytać w pracy, a może nawet uczyć się. Gdy reżyserowaniem pracy zajmuje się oprogramowanie, każda minuta powinna być wykorzystana. Minuty te muszą się znaleźć zawsze wtedy, kiedy program tego zażąda, nawet jeżeli oznacza to, że ktoś będzie musiał zamytwierać z piątku na sobotę.

 

NIE DLA RODZICÓW

W 2014 roku „New York Times” opublikował historię żyjącej w ciągłym pośpiechu samotnej matki Jannette Navarro, która usiłowała zarobić na studia jako baristka w Starbucksie, opiekując się jednocześnie czteroletnią córką. Nieustannie zmieniający się plan pracy, włączając w to niekiedy również zamytwieranie, sprawił, że jej życie stało się nie do zniesienia, pozbawiając ją zarazem wszelkich szans na regularne sprawowanie opieki nad dzieckiem. Musiała zrezygnować ze szkoły. Jedyne, co była w stanie sobie zorganizować, to praca. Jej historia nie jest niczym niezwykłym. Z danych rządowych wynika, że dwie trzecie pracowników w branży gastronomicznej oraz ponad połowa pracowników w branży sprzedaży detalicznej poznaje swoje plany pracy z wyprzedzeniem nieprzekraczającym tygodnia lub krótszym. Często jest to zaledwie dzień lub dwa, co generuje trudności ze zorganizowaniem transportu lub opieki dla dzieci.

W ciągu paru tygodni od ukazania się tego artykułu najważniejsze korporacje, które zostały w nim opisane, ogłosiły, że zmienią swoje praktyki odnośnie ustalania planów pracy. Zawstydzeni pracodawcy obiecali wprowadzić pewną zmianę w swoich modelach. Mieli wyeliminować zamytwieranie oraz pogodzić się z nieco mniejszą optymalizacją swoich organizacji. Starbucks posunął się nawet dalej i ogłosił, że firma dopasuje swoje oprogramowanie tak, żeby dążyło do zmniejszania nieprzewidywalności grafików pracy trapiącej ponad 130 tys. pracujących tam baristów. Wszystkie godziny pracy miały być ogłaszane z co najmniej tygodniowym wyprzedzeniem. Jednakże rok później kolejny raport „Timesa” wykazał, że Starbucks nie dotrzymał tych obietnic, nawet w zakresie
eliminacji zamytwierania. Problem tkwił w tym, że dążenie do minimalizacji zatrudnienia zdążyło już wrosnąć w kulturę tej branży. W wielu firmach płace menedżerów uzależnione są od wydajności podległych im pracowników mierzonej godzinowym dochodem pracownika. Oprogramowanie do ustalania grafików pracy pozwala im na zwiększenie tych wyników, a zarazem własnego wynagrodzenia.

Nawet kiedy dyrektorzy mówią menedżerom, by trochę odpuścili, ci często sprzeciwiają się temu. Przeczy to wszystkiemu, czego ich uczono. Koniec końców, modele biznesowe spółek notowanych na giełdzie, takich jak Starbucks, tworzone są w taki sposób, by optymalizować wyniki finansowe. Przekłada się to na kulturę korporacyjną, systemy motywacji oraz – w coraz większym stopniu – stosowane oprogramowanie operacyjne. Kiedy zaś oprogramowanie pozwala na modyfikacje, wprowadzane zmiany najczęściej będą miały na celu zwiększanie zysków.

 

MATEMATYCY NA WOJNIE

Wiele technologii ustalania grafików pracy jest zakorzenionych w potężnej dyscyplinie matematyki stosowanej zwanej badaniami optymalizacyjnymi, w skrócie BO. Od wieków matematycy stosowali podstawowe założenia BO, by pomagać rolnikom w planowaniu upraw, a inżynierom w projektowaniu przebiegu autostrad. Dyscyplina ta rozwinęła skrzydła dopiero w czasie II wojny światowej, kiedy armie Stanów Zjednoczonych i Wielkiej Brytanii zatrudniły matematyków do optymalizacji wykorzystywania zasobów. Alianci analizowali przeróżne formy „współczynnika wymiany”, porównujące zużycie własnych środków względem zniszczonych środków przeciwnika. W czasie operacji Starvation, która trwała od marca do sierpnia 1945 roku, 21. Dywizjon Bombowy miał
za zadanie niszczenie japońskich statków handlowych, by uniemożliwić dostarczanie żywności i innych towarów do wybrzeży Japonii. Zespoły BO pracowały nad minimalizowaniem liczby zestrzelonych bombowców na każdy zatopiony japoński statek handlowy. Udało im się osiągnąć „współczynnik wymiany” wynoszący 40 do 1, co oznacza że podczas zatapiania 606 japońskich statków zniszczonych zostało jedynie 15 amerykańskich samolotów. Po zakończeniu wojny wielkie firmy (podobnie zresztą jak i Pentagon) przeznaczyły ogromne środki na rozwój BO.

W latach 60. japońscy producenci samochodów uczynili kolejny krok, wdrażając system produkcyjny zwany Just-in- -Time (JIT). Jego założenie było takie, że zamiast przechowywać tony kierownic oraz skrzyń biegów, by w razie potrzeby pobierać je z ogromnych magazynów, fabryka zamawiała części w miarę potrzeb, bez konieczności płacenia za nie tylko po to, by leżały na półkach w magazynie. Toyota i Honda stworzyły skomplikowane łańcuchy dostawców, z których
każdy, na telefon, natychmiast dostarczał potrzebne części. Było tak jakby cała gałąź przemysłu stanowiła jeden organizm z własnym homeostatycznym systemem kontroli.

Metoda JIT była bardzo wydajna, więc szybko rozprzestrzeniła się na całym świecie. Firmy w wielu zakątkach kuli ziemskiej tworzyły łańcuchy dostaw działające w tym systemie. Modele te legły u podstaw matematycznych założeń takich firm jak Amazon, Federal Express i UPS. Oprogramowanie planujące grafiki pracy może być postrzegane jako ekstrapolacja założeń gospodarki Just-in-Time. Zamiast jednak noży do kosiarek czy ekranów telefonów komórkowych zamawianych prosto na taśmę, dotyczy ono ludzi i to z reguły takich, którzy potrzebują pieniędzy. Ponieważ zaś tak desperacko potrzebują pieniędzy, firmy mogą naginać ich życia pod dyktando modeli matematycznych.

 

WSPÓŁCZEŚNI NIEWOLNICY

Należy zaznaczyć, że firmy podejmują również działania zmierzające do tego, aby życie ich pracowników nie stało się nadmiernie uciążliwe. Mają co do grosza wyliczone koszty związane z zastąpieniem sfrustrowanego pracownika, który ostatecznie zrezygnuje z pracy. Te liczby również są uwzględniane. Wykorzystuje się ponadto inne modele służące ograniczaniu zjawiska rezygnacji, które zmniejsza efektywność przedsiębiorstwa i jego zyski. Z perspektywy pracowników problemem jest nadmiar chętnych na prace niskopłatne. Ten skrajnie wysoki popyt, połączony z niedostatkiem skutecznych związków zawodowych, pozbawia pracowników niemalże całej siły przetargowej. To z kolei oznacza, że wielcy detaliści i sieciowe restauracje mogą naginać życie pracowników do coraz bardziej absurdalnych grafików pracy bez obawy o nadmierny wzrost liczby zwolnień. Zarabiają więcej pieniędzy, podczas gdy życie ich pracowników zmienia się stopniowo w piekło. Skoro zaś programy optymalizacyjne wykorzystywane są wszędzie, pracownicy wiedzą aż nadto dobrze, że zmiana pracy daje małe
szanse na przyniesienie poprawy. Jeśli doda się to wszystko do siebie, opisana sytuacja stwarza korporacjom możliwość traktowania siły roboczej niemal jak niewolników.

 

Oprogramowanie planujące grafiki pracy bazuje na toksycznym sprzężeniu zwrotnym. Wystarczy spojrzeć na Jannette Navarro. Chaotyczne planowanie sprawiło, że nie mogła kontynuować nauki, co pogrzebało jej szanse na lepsze zatrudnienie i sprawiło, że pozostała w licznej grupie niskoopłacanych
pracowników. Długie i nieregularne godziny pracy utrudniają również organizowanie się pracowników oraz walkę o lepsze warunki. Zamiast tego doświadczają
stanów lękowych i deprywacji snu, które powodują ogromne wahania nastrojów i według szacunków ekspertów są przyczyną 13 proc. śmiertelnych wypadków drogowych. Co gorsza, jako że celem oprogramowania jest oszczędzanie pieniędzy, programy często utrzymują zatrudnienie pracowników poniżej progu 30 godzin tygodniowo, przez co nie kwalifikują się oni do firmowego ubezpieczenia zdrowotnego. To prawie tak, jakby oprogramowanie specjalnie zaprojektowano po to, by karać i dręczyć niskoopłacanych pracowników.

Cathy O’Neil – doktor nauk matematycznych, wykładała w Barnard College, pracowała w funduszu hedgingowym, analizowała sektor e-commerce. Autorka bloga Mathbabe.org i książki „Bomba matematycznej zagłady”.

DLA GŁODNYCH WIEDZY
Przedrukowany przez nas fragment (skróty i śródtytuły od redakcji) pochodzi z książki „Broń matematycznej zagłady. Jak algorytmy zwiększają nierówności i zagrażają demokracji”, wydanej przez PWN.

 

Więcej:algorytmy