Trzydzieści tysięcy funtów musiała zapłacić w zeszłym roku brytyjska firma Dura Automotive Body and Glass Systems swojemu pracownikowi uderzonemu znienacka w szyję przez robota. Maszyna uderzyła mocno, poważnie uszkodziła krtań. Podobne zdarzenie odnotowano w Szwecji. W czerwcu 2007 roku pracownik położonej na północ od Sztokholmu fabryki w Balsta próbował naprawić usterkę robota. Zapomniał wcześniej wyłączyć maszynę i ta go poturbowała. Sprawa trafiła do sądu, który nakazał firmie – właścicielce robota – wypłatę „pobitemu” odszkodowania w wysokości 25 tysięcy koron szwedzkich.

„Mężczyzna miał wiele szczęścia – argumentował prokurator Leif Johansson – że skończyło się na czterech złamanych żebrach. Mógł przecież zginąć”. Rzeczywiście, Szwed miał szczęście, w przeciwieństwie do 25-letniego pracownika jednego z zakładów Forda, Roberta Williamsa, który 25 stycznia 1979 roku zginął uderzony przez robota przemysłowego. Rodzina ofiary otrzymała 10 milionów dolarów odszkodowania, sąd uznał winę firmy, wskazując na niedostateczny system zabezpieczeń. Starcia z przemysłowym automatem nie przeżył też 37-letni Japończyk Kenji Urada, pracownik jednej z fabryk w mieście Kawasaki, który w 1981 roku został wepchnięty przez robota do zgniatarki.

Robotów wokół nas jest coraz więcej, więc i katalog błędów, które mogą popełnić, jest coraz większy. Niedawno mieszkańcy jednej z dzielnic San Francisco przeżywali chwile grozy, obserwując akcję na posesji, której właściciela podejrzewano o działalność przestępczą. Policyjny robot samobieżny przenosił znalezione w garażu granaty. Jakież było przerażenie policjantów, gapiów oraz reporterów lokalnych mediów, które transmitowały przebieg akcji, kiedy robot-saper zgubił jeden z granatów i, jak gdyby nigdy nic, przejechał po nim! Na szczęście nic się nie stało, ale mógł mieć na swoim robocim sumieniu co najmniej kilkanaście ofiar.

W ubiegłym roku jednym z głównych tematów doniesień medialnych był wyciek ropy w Zatoce Meksykańskiej. Swoją cegiełkę do rozmiarów tego kataklizmu dołożył też operujący na głębokości 1,5 kilometra robot. W pewnym momencie akcji ratunkowej zderzył się z ważącą 68 ton kopułą, za której pomocą odsysano część wyciekającej ropy. Kolizja na pewien czas mocno popsuła szyki sztabowi kryzysowemu.

Przypomnijmy, że już pierwsze powołane do „życia” roboty przysparzały mnóstwa kłopotów swoim konstruktorom. W 1933 roku w Stanach Zjednoczonych doszło do głośnego wypadku, w którym twórca robota padł ofiarą swego dzieła. Potężny android został pomyślany jako pomoc naukowa na lekcjach anatomii. Po rozpięciu swojej kamizelki robot wskazywał palcem omawiane organy i tłumaczył przebieg procesu trawienia. Niestety, któregoś dnia stalowa ręka robota pozbawiła życia inżyniera, kiedy ten chciał poprawić w automacie jeden z poluzowanych elementów. W Moskwie zaś w 1946 roku nie lada problemy sprawiał robot Dziadek Mróz. Brodaty automat w kożuchu umieszczony w witrynie jednego z moskiewskich domów handlowych, w noworoczną noc zdemolował całą wystawę, zniszczył sklepową choinkę i sprawił wiele kłopotu próbującym go okiełznać strażakom. Mówiąc krótko: zachowywał się, jakby nadużył napojów wyskokowych (prawdziwą przyczyną „buntu” Dziadka Mroza były skoki napięcia w sieci elektrycznej).

 

Choć roboty zapewne nie myślą na razie o buncie, człowiek zawsze intuicyjnie się ich obawiał. Już w pierwszej książce, w której pojawia się termin „robot”, czyli w „R.U.R.” Karela Čapka, mamy do czynienia z opisem rebelii podobnych do człowieka robotów-androidów. W latach 40. XX wieku amerykański autor s.f. Isaac Asimov w jednym ze swoich opowiadań, których bohaterami uczynił właśnie roboty, przedstawił sławne trzy prawa robotyki, które w jego mniemaniu rozwiązywały problemy ewentualnych konfliktów na linii człowiek–robot. Odtąd problematyka zbuntowanych automatów zagościła na stałe na kartach powieści s.f. oraz w filmach, grach, komiksach. Roboty stały się częścią pop- kultury, a motyw ich niesubordynacji częstym elementem fabuł i scenariuszy.

Nie potrafimy sobie dziś wyobrazić fabryki samochodów bez zautomatyzowanych manipulatorów lakierujących karoserie czy montujących elementy wyposażenia. Ale to na razie zwykłe automaty: zaprogramowane albo wręcz zdalnie sterowane przez człowieka. Jednak maszyny wykonujące zaprogramowane czynności to ślepa uliczka. Roboty muszą się uczyć, poprzez działanie nabywać umiejętności tak jak organizmy żywe. Nowe rozwiązania w robotyce inspirującej się biologią oznaczają w pewnym sensie wyrzeczenie się kontroli człowieka nad maszyną.

Myśl o buncie takich maszyn może wywołać ciarki. Toteż naukowcy starają się ustalić, na jak wiele można pozwolić robotowi. W październiku 2010 roku w laboratorium w słoweńskiej Lublanie kilku naukowców zostało pobitych przez robota! Tak naprawdę atak został zaplanowany, a naukowcy zgłosili się na ochotnika. Celem eksperymentu zaprojektowanego przez Boruta Povse było określenie, jaka siła uderzenia ramienia robota jest akceptowalna dla człowieka i z jaką prędkością może poruszać się ramię robota, kiedy w pobliżu są ludzie. Robot firmy Epson uderzał ochotników kilkanaście razy z różną siłą, a „ofiary” oceniały skalę bólu. Podobne badania prowadzi Sami Haddadin z Deutsches Zentrum für Luft und Raumfahrt. Eksperyment polegał na pozwoleniu robotowi atakowania siebie za pomocą... noża. Czujnik w robocie zatrzymywał ostrze tuż przed ciałem naukowca.

Czujniki bezpieczeństwa też czasem się jednak psują. Automatyczna sortownica, która w 2009 roku zabiła Anę Marię Vital, 40-letnią pracownicę zakładów spożywczych w La Puente w USA, była przecież wyposażona w sensory i zabezpieczenia. A jednak robot pochwycił i zmiażdżył kobietę podczas próby usunięcia pudełka, które zakleszczyło się w jego trybach.

Przypadki niesubordynacji robotów cywilnych to nic wielkiego w porównaniu z ewentualną rebelią robotów wojskowych. Jeden z amerykańskich generałów przewiduje, że w następnym dużym konflikcie zbrojnym Amerykanie użyją dziesiątek tysięcy robotów. Przy takiej liczbie istnieje prawdopodobieństwo, że któryś z nich „wypowie posłuszeństwo”. Tym bardziej że takie wypadki już się zdarzały. W 2007 roku na poligonie w Lohatlha (RPA) zrobotyzowana bateria działek przeciwlotniczych nie wiadomo dlaczego opuściła nagle swoje lufy i kontynuując ostrzał, zabiła 9 i zraniła 15 żołnierzy.

Rzecznik prasowy południowo- afrykańskiej armii generał Kwena Mangope przyznał, że przyczyna tragedii nie jest znana. Możliwe, że był to skutek błędu w programie komputera sterującego zrobotyzowaną baterią dział Oerlikon GDF-005. Kolegów-żołnierzy z narażeniem życia ratowała oficer wojsk artyleryjskich RPA. Dotarła do działka i próbowała przejąć nad nim kontrolę, ale bezskutecznie. Obie lufy nadal pluły półkilogramowymi pociskami.

W innym groźnym incydencie C-RAM (Counter Rocket, Artillery and Mortar – czyli umieszczony na mobilnej platformie robot wykrywający rakiety i pociski moździerzowe i zestrzeliwujący je) wskutek błędu w programie uznał swój śmigłowiec za nieprzyjacielski. Na szczęście obyło się bez ofiar. Strachu najedli się też amerykańscy żołnierze w Iraku, podczas patrolowania jednego z miast w towarzystwie robotów bojowych SWORDS (Special Weapons Observation Reconneissance Directaction System). W pewnym momencie lufy lekkich karabinów maszynowych, w które są wyposażone roboty, skierowały się w stronę Amerykanów. Broń zaczęła się poruszać wtedy, kiedy nie powinna – powiedział Kevin Fahey, odpowiedzialny w armii amerykańskiej za naziemne systemy bojowe.

 

Roboty są dziś nie tylko na polu walki, ale też w sztabie. Pod koniec 2010 roku amerykańskie siły powietrzne połączyły 1760 konsol PlayStation3, tworząc „najszybszy komputer w całym departamencie obrony USA”. Będzie wykorzystywany przez amerykańskie lotnictwo do przetwarzania obrazów satelitarnych, rozpoznawania obrazów czy badań nad sztuczną inteligencją. Trochę przypomina to film „Gry wojenne” Johna Badhama sprzed ćwierć wieku, gdzie komputer obsługiwał system wyrzutni z głowicami jądrowymi. Co będzie, jeśli najnowsze cacko US Air Force odmówi posłuszeństwa?

Prof. Konrad Fiałkowski, cybernetyk i pisarz s.f., sugeruje, żeby wizje agresywnych robotów spiskujących przeciw ludziom włożyć między okładki powieści s.f. Podobnego zdania jest prof. Ryszard Tadeusiewicz z krakowskiej AGH. Oby profesorowie mieli rację! Ostatnio pojawiła się informacja o powstaniu RoboEarth. Naukowcy określają ten projekt  jako rodzaj wspólnej świadomości umożliwiający robotom dzielenie się wiedzą czy samodzielne ściąganie z sieci potrzebnych im programów i rozwiązań. RoboEarth ma zaoszczędzić czas programistom i pozwolić na szybszy rozwój robotyki.

Czy jednak nie stanie się platformą, w której obrębie roboty będą dyskutować nad planem odsunięcia ludzi na drugi plan? Czy nie wyewoluuje w samoświadomy system w rodzaju Skynetu, znanego z filmu „Terminator”? Miejmy nadzieję, że naukowcy wiedzą, co robią, bo w przeciwnym wypadku w jednym z kolejnych sezonów „Chirurgów” zagrają same roboty. Może nie byłoby to aż tak złe, gdyby nie brak pewności co do tego, kto będzie po drugiej stronie ekranu. My czy roboty...?

Trzy prawa robotyki Isaaca Asimova

1. Robot nie może skrzywdzić człowieka ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.

2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z pierwszym prawem.

3. Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z pierwszym lub drugim prawem.