To właśnie tutaj kończy się klasyczna dolina niesamowitości, a zaczyna znacznie bardziej niepokojące pytanie: dlaczego wobec robotów potrafimy być jednocześnie wyjątkowo brutalni i wyjątkowo empatyczni?
Kiedy robot przestaje być tylko maszyną
Kiedy japoński robotyk Masahiro Mori opisał zjawisko nazwane „doliną niesamowitości”, chodziło przede wszystkim o dyskomfort. Im bardziej robot przypomina człowieka, tym bardziej go akceptujemy — aż do momentu, gdy staje się niemal ludzki, ale wciąż nie do końca. Wtedy zamiast sympatii pojawia się niepokój, odraza lub lęk. Przez lata dyskusja wokół tego zjawiska koncentrowała się głównie na wyglądzie androidów i naszej reakcji na ich nienaturalne twarze czy ruchy.
Czytaj też: Dolina niesamowitości. Dlaczego humanoidalne roboty tak bardzo nas przerażają?
Tymczasem współczesne badania pokazują, że dolina niesamowitości może być jedynie początkiem znacznie bardziej złożonego procesu. Kontakt z robotami potrafi wywoływać nie tylko dyskomfort, ale również agresję, okrucieństwo, a z drugiej strony zaskakująco silną empatię. Co ciekawe, obie te reakcje często pojawiają się u tych samych ludzi.
Problem zaczyna się od czegoś, co psychologowie nazywają antropomorfizacją. Nasz mózg został ewolucyjnie zaprogramowany do rozpoznawania twarzy, emocji i intencji. W praktyce oznacza to, że bardzo łatwo przypisujemy ludzkie cechy obiektom, które nawet tylko częściowo przypominają żywe istoty. Jak wynika z badań, już w pierwszych ułamkach sekundy po zobaczeniu humanoidalnego robota automatycznie traktujemy go jak istotę społeczną. Dopiero chwilę później zaczynamy dostrzegać niezgodności: zbyt sztywny ruch, nienaturalny uśmiech czy spojrzenie pozbawione życia.
To właśnie ten gwałtowny przeskok między „to człowiek” a „to jednak nie człowiek” leży u podstaw doliny niesamowitości. Co ważne, reakcja nie kończy się na samym dyskomforcie. Gdy robot znajduje się fizycznie obok nas, a nie tylko na ekranie, uruchamia te same mechanizmy społeczne, które odpowiadają za relacje międzyludzkie. To dlatego niektóre maszyny budzą sympatię, współczucie, a inne stają się obiektem agresji.
Dlaczego ludzie krzywdzą roboty?
Jednym z najbardziej znanych przykładów jest Samantha — humanoidalny robot seksualny stworzony przez katalońskiego inżyniera Sergi Santosa. W 2017 roku podczas festiwalu Ars Electronica w Austrii urządzenie zostało wystawione na publiczną prezentację. Zamiast zainteresowania technologią pojawiło się jednak coś znacznie bardziej niepokojącego. Uczestnicy wydarzenia obmacywali robota, kładli się na nim, ciągnęli za kończyny i traktowali go jak przedmiot pozbawiony jakichkolwiek granic. W efekcie Samantha wróciła do Barcelony z uszkodzonymi palcami, zabrudzoną powłoką silikonową i awarią oprogramowania.
Ludzie potrafią być źli. Ponieważ nie rozumieli technologii i nie musieli za nią płacić, traktowali lalkę jak barbarzyńcy – powiedział Santos.
Historia ta jest interesująca nie dlatego, że ktoś zniszczył drogie urządzenie, bo takie rzeczy są na porządku dziennym. Pokazuje raczej, jak łatwo ludzie potrafią zawiesić normy społeczne w sytuacji, gdy obiekt wygląda jak człowiek, ale formalnie człowiekiem nie jest. Obecność ludzkiego ciała nie uruchomiła empatii. Wręcz przeciwnie — dla części osób stała się zaproszeniem do zachowań, na które nigdy nie odważyłyby się wobec prawdziwego człowieka. Tak, tutaj wiele osób może powiedzieć, że to tylko lalka, w dodatku seksualna, więc w czym problem, że ktoś ją macał? Niestety w tym, że pewnym ludziom w końcu taki robot może przestać wystarczać.
Po tym, jak Samantha została odesłana na serwis, wdrożono w niej tryb „dummy”. Jeśli zamontowane w maszynie sensory rejestrowały zbyt mocny, agresywny lub pozbawiony szacunku kontakt fizyczny, robot przechodził w stan uśpienia. Mógł nawet odmówić interakcji i werbalnie wypowiedzieć słowo „Nie”, jednak jak zauważają niektórzy – fakt, że robot nie ma fizycznej możliwości obrony i ucieczki, a sam protest użytkownik może zignorować, stwarza ryzyko wyrobienia u ludzi nawyku takiego ignorowania sprzeciwu również w realnych relacjach.
Podobne zjawiska obserwujemy w przypadku robotów użytkowych. Autonomiczne maszyny dostawcze regularnie padają ofiarą wandalizmu. Roboty Kiwibot działające na kampusie Uniwersytetu Kalifornijskiego doświadczyły około 1600 przypadków przewracania, kopania lub celowego uszkadzania podczas realizacji 80 tysięcy dostaw. Roboty Starship Technologies były malowane graffiti, wrzucane do zarośli i blokowane przez przechodniów. W Los Angeles zdarzały się przypadki smarowania robotów odchodami czy celowego rozbijania ich obudów dla internetowej rozrywki.
Badaczka Lindsay Ouellette, która zajmowała się problemem przemocy wobec robotów mobilnych, doszła do bardzo niewygodnego wniosku. W wielu przypadkach agresja nie wynika z niechęci do maszyn ani z poczucia zagrożenia. Ludzie często atakują roboty po prostu dlatego, że mogą. Dla zabawy, z ciekawości lub dla korzyści. Co więcej, dodawanie maszynom ludzkich cech nie zawsze działa ochronnie. Czasem wręcz ułatwia ich dehumanizację i traktowanie jako obiektów stojących niżej w hierarchii społecznej.
A jednak jest nam ich żal
Jednocześnie istnieje druga strona tego medalu. Wystarczy przypomnieć sobie nagrania publikowane przez Boston Dynamics. Firma regularnie prezentowała swoje roboty, pokazując, jak odzyskują równowagę po kopnięciu, uderzeniu kijem hokejowym czy pchnięciu przez inżyniera. Celem było zaprezentowanie stabilności systemów sterowania, ale reakcje widzów okazywały się często zupełnie inne. Internet zapełniał się komentarzami ludzi oburzonych „znęcaniem się” nad robotami. Widzowie wiedzieli przecież doskonale, że maszyna nie odczuwa bólu. Mimo to widok próbującego utrzymać równowagę robota uruchamiał bardzo ludzką reakcję współczucia.
Podobnie było na festiwalu Ars Electronica w zeszłym roku. Japoński artysta medialny Takayuki Todo stworzył tam niezwykłą i bardzo niepokojącą instalację pod tytułem „Dynamics of a Dog on a Leash” („Dynamika psa na smyczy”). Do ściany został przykuty łańcuchem robotyczny pies, nieustannie poruszający się, niczym prawdziwy pies na uwięzi. Szukał ucieczki, stawał na tylnych nogach i poruszał się między odwiedzającymi, jakby szukał w kimś pomocy lub też był agresywny. To wszystko było oczywiście odpowiednio zaprogramowane. Artyście chodziło o wywołanie uczucia lęku oznakami agresji oraz współczucia na widok robotycznego zwierzęcia na uwięzi.
Oczywiście, że widzowie wiedzieli, że robot nie jest psem, a jego zachowanie to silniki, oprogramowanie, czujniki i inscenizacja. A mimo to współczuli maszynie, ponieważ jej ciało wciąż nasuwało skojarzenia z prawdziwym zwierzęciem. Łańcuch przywodził na myśl niewolę i zapewne też wszystkie te obrazki psów trzymanych w ten sposób. Natomiast upadki robota kojarzyły się z porażką. Bo to, na co patrzymy, niekoniecznie musi być żywe, żeby pobudzać naszą moralną wyobraźnię.
Naukowcy odkryli bowiem, że obserwowanie uszkadzania robota aktywuje część tych samych obszarów mózgu, które odpowiadają za empatię wobec ludzi. Reakcja jest słabsza niż przy obserwowaniu cierpienia człowieka (czy zwierzęcia), ale wyraźnie zauważalna. Innymi słowy — nasz mózg wie, że robot nie cierpi, jednak część mechanizmów emocjonalnych reaguje tak, jakby było inaczej.
Kiedy żołnierze przywiązują się do maszyn
Kiedy robiłam research do tego tekstu, natrafiłam na historie, które naprawdę mnie poruszyły. Pochodziły nie z wystaw czy laboratoriów, ale… z pola walki. Badania prowadzone przez dr Julie Carpenter wśród operatorów wojskowych robotów saperskich wykazały, że żołnierze bardzo często personifikują swoje maszyny. Nadają im imiona, dekorowali je, rozmawiają z nimi, a po ich zniszczeniu odczuwają autentyczny smutek. Zdarzały się nawet symboliczne pogrzeby i salwy honorowe oddawane na cześć uszkodzonych robotów.
Jeden z żołnierzy wspominał, że płakał po utracie robota o imieniu Scooby Doo. Inni deklarowali gotowość do narażenia własnego życia, by odzyskać uszkodzoną maszynę pozostawioną w niebezpiecznej strefie. Brzmi to absurdalnie, dopóki nie uświadomimy sobie, że dla tych ludzi robot wielokrotnie ratował życie, rozbrajając ładunki wybuchowe i wykonując zadania, których człowiek nie mógłby przeżyć. Problem okazał się na tyle poważny, że kolejne badania wykazały spadek efektywności operacyjnej w zespołach zbyt mocno przywiązanych do robotów. Żołnierze częściej podejmowali ryzyko osobiście, zamiast wysłać maszynę na potencjalnie śmiertelną misję.
Podobne mechanizmy zaobserwowano podczas eksperymentów Kate Darling z robotami Pleo. Na warsztatach uczestnicy, którzy uprzednio nadali imiona robotycznym dinozaurom i ubrali je w papierowe stroje, kategorycznie odmówili ich zniszczenia za pomocą młotków i siekier. Dopiero groźba uśmiercenia wszystkich sześciu egzemplarzy skłoniła jednego z uczestników do odrąbania głowy jednemu robotowi, co wywołało u świadków moment milczenia i wyraźne wzdrygnięcie. Badaczka, nawiązując do etyki cnót Immanuela Kanta dotyczącej zwierząt, twierdzi, że akty przemocy wobec robotów mogą niszczyć ludzki charakter i sprzyjać brutalizacji zachowań w społeczeństwie.
Czy krzywdzenie robotów może zmieniać ludzi?
Bardzo niepokojący jest fakt, że agresja i okrucieństwo wobec robotów nie jest jedynie domeną dorosłych. Również dzieci, gdy natrafiają na robota w miejscu publicznym, potrafią utrudniać mu pracę, znęcać się nad nim werbalnie i fizycznie, kopiąc go lub uderzając. Było to szeroko opisane w artykule HRI pt. „Eskaping from Children’s Abuse of Social Robots” (“Ucieczka przed nadużyciami ze strony dzieci wobec robotów społecznych”). Badacze zastanawiali się, dlaczego tak się dzieje. W końcu nie chodziło o atakowanie ramienia przemysłowego w fabryce, tylko w miejscu pełnym ludzi, gdy robot wykonywał konkretne zadanie.
Postanowili więc przeprowadzić wywiady z dziećmi w wieku od pięciu do dziewięciu lat, które dopuszczały się znęcania nad robotem społecznym w centrum handlowym. Większość z nich utrudniała pracę lub nawet kopała maszynę… z czystej ciekawości, jak ten zareaguje. Niestety niektórzy czerpali z tego przyjemność, a około połowa wierzyła, że robot dostrzega ich działania.
To bardzo niepokojący obraz, bo już dzieci wykazują takie zachowania. Nie chodzi o dotykanie czy zagadywanie z ciekawości, tylko o agresję i testowanie granic. Co robot zrobi? Czy mnie słyszy? Jak zareaguje? Czy w ogóle to zrobi? Czy to czuje? Jeśli regularnie i już od małego ćwiczymy ignorowanie próśb o litość, niszczenie czegoś, co wygląda na żywe, albo traktowanie przemocy jako formy rozrywki i zaspokojenia ciekawości, czy pozostaje to całkowicie bez wpływu na nas samych?
Nie chodzi tu o dyskusję o prawach robotów ani o to, czy maszyny odczuwają cierpienie. Większość badaczy zgadza się, że obecnie nie mamy powodów, by przypisywać im świadomość porównywalną z ludzką. Nawet gdy reagują „po ludzku”, jest to jedynie oprogramowanie. Tylko że wzorowane na człowieku. Roboty dostają twarz podobną do naszej, ich mimika, reakcje i mowa ciała są wzorowane na ludziach albo na zwierzętach.
Wydaje mi się, że właśnie w tym tkwi najciekawszy aspekt tej historii. Roboty są dla nas swego rodzaju lustrem, a to nie pokazuje, jakie są maszyny, tylko jacy jesteśmy my sami. Ten sam człowiek może kopnąć robota dostawczego dla żartu, a chwilę później odczuwać autentyczne współczucie wobec maszyny próbującej podnieść się po upadku. Rozwój robotyki w ostatnich latach przyspieszył i możemy się spodziewać, że wkrótce widok robota w sklepie, na kasie w kinie albo nawet u znajomego w domu nie będzie niczym szczególnym. Tylko czy my będziemy w stanie odnaleźć się w tej rzeczywistości? Mam wrażenie, że przyszłość robotyki może być związana nie tyle ze sztuczną inteligencją i zaawansowaniem maszyn, ile z tym, czy nasza empatia i moralność wciąż pozostaną na miejscu i poradzą sobie w tym nowym świecie.
Dlatego nie powinniśmy rozmawiać tu o tym, czy robotom nie można się sprzeciwiać, czy trzeba być wobec nich życzliwym i zgadzać się na technologię, której nie chcemy. Nie, bo nie tędy droga. Zawsze możemy powiedzieć „Nie”, protestować, wyłączać z naszego życia to, co nam nie pasuje, w tym wypadku również robota. Maszyny nie cierpią jak ludzie i zwierzęta i co do tego nie ma dyskusji. Jednak to nie oznacza, że powinniśmy je kopać i niszczyć. Bo w gruncie rzeczy nie chodzi tutaj o mylenie robotycznego psa z prawdziwym i humanoidalnego robota z człowiekiem, tylko o akceptowanie lub nieakceptowanie pewnych wzorców. Jeśli nauczymy się, że niczym niesprowokowana przemoc jest zabawna, że nie ma żadnych konsekwencji, to czy w końcu nie stanie się to normą?