Kiedy zaczną nas zabijać roboty? Tego nikt nie wie, ale mogą już dziś.

Izraelski robot może samodzielnie odpowiedzieć ogniem na ostrzał

Na oficjalnej stronie izraelska armia chwali się robotem Jaguar. Wyposażono go w karabin maszynowy kalibru 7,62 mm, kamery o wysokiej rozdzielczości, nadajniki, reflektory oraz głośniki.  Jego oprogramowanie pozwala mu samodzielnie znaleźć drogę do ładowarki, do której sam może się też  podłączyć.

Oprogramowanie pozwala operatorowi, który zdalnie obsługuje robota na bardziej precyzyjne wycelowanie w wybrany cel – na razie więc to żołnierz w bazie zdalnie daje sygnał do strzału. Ale – i tu zaczynają się kontrowersje – ma tak być w sytuacjach „typowych”. W „niektórych scenariuszach” robot może automatycznie odpowiedzieć ogniem na ostrzał. Jeśli zostanie przechwycony przez wroga, może też się sam wysadzić w powietrze.

Izraelska armia wykorzystuje też stada dronów. W połowie maja brygada powietrzno-desantowa izraelskiej armii użyła ich do ataków na bojówki Hamasu. Choć sygnał do rozpoczęcia ognia dawał człowiek, nie on sterował dronami. Robiły to algorytmy sztucznej inteligencji. Drony wykorzystano w ponad 30 operacjach wojskowych. Klika z nich prowadzono wiele kilometrów od izralesko-palestyńskiej granicy, przyznał rzecznik armii.

Drony-zabójcy latały też nad Syrią. USA dopiero pracują nad taką technologią

Podobne plany miała Turcja, która nie ukrywała, że zamierza wykorzystać sterowane za pomocą algorytmów sztucznej inteligencji drony w Syrii. Tureckie drony Kargu były wyposażone w oprogramowanie pozwalające na rozpoznawanie, śledzenie i namierzanie celu oraz oddawanie ognia. W tym przypadku – zupełnie bez nadzoru człowieka.

Wygląda na to, że Turcy ubiegli w tym Amerykanów. Ich Projekt Maven ma opracować technologię, która wyposaży wojskowe drony w sztuczną inteligencję zdolną do samodzielnego namierzania celów. Przez pewien czas nawet dla armii pracował nad tym Google, ale po proteście trzech tysięcy pracowników wycofał się z projektu.

Jednak technologia, która na to pozwala, jak pokazuje przykład z Izraela, już istnieje. Raport o rozwoju śmiercionośnej broni autonomicznej opublikowała już w 2019 roku holenderska organizacja PAX.

Zatrzymać śmiercionośne roboty. Mogą wywołać wojnę przez przypadek

Laura Nolan, była programistka Google’a, dołączyła do kampanii „Stop Killer Robots”, która ma na celu uświadomienie światu, że zagrożenie autonomicznymi robotami zdolnymi do zabijania to nie mrzonka. Ostrzegała, że wojskowe roboty mogą wywołać wojny przez przypadek.

Maszyny mogą np. uznać niewinnych cywilów za uzbrojonych partyzantów. „Jak maszyna do zabijania puszczona samopas ma odróżnić 18-letniego bojownika od 18-latka polującego na króliki?” – pytała retorycznie. Czy dronowi będzie można pomachać białą flagą, żeby się poddać?

Zak Kallenborn z amerykańskiego Narodowego Konsorcjum Badań nad Terroryzmem w Maryland uważa, że doniesienia z Izraela wskazują, że izraelska armia jako pierwsza na świecie osiągnęła zdolność operacyjną rojów dronów. – Kilka czy kilkanaście dronów to jeszcze nie jest spore ryzyko. Ale co, jeśli będzie ich 10 tysięcy? Możemy być świadkami powstawania nowej broni masowego rażenia – twierdzi analityk.

Nie ma zgody na zakaz wykorzystywania autonomicznych robotów do celów militarnych

Od 2014 roku w Genewie co roku odbywa się poświęcona tej kwestii konferencja delegatów ONZ. Dyskutują nad zapisami prawa międzynarodowego, które zakazywałyby używania autonomicznej broni wykorzystującej sztuczną inteligencję do podejmowania decyzji o zabijaniu.

Większość krajów popiera nie tylko całkowity zakaz wykorzystywania autonomicznych robotów do celów militarnych, lecz także badań nad nimi. Takie stanowisko przedstawiał również sekretarz generalny organizacji Antonio Guterres, który mówił, że uważa maszyny zdolne do zabijania za „moralnie odrażające”. W lutym tego roku w swoim wystąpieniu znów podkreślił, że rozwój technologii musi pójść we właściwym kierunku i objąć „całkowity zakaz autonomicznych broni, które są największym zagrożeniem, jakie sztuczna inteligencja może przynieść przyszłości wojen”.

Jednak przeciwko takiemu zakazowi od lat są Australia, Rosja, Stany Zjednoczone, Wielka Brytania oraz właśnie Izrael. Bez ich poparcia zakaz nie zostanie zapewne jeszcze długo wprowadzony.

Źródła: IDF, New Scientist [1] i [2].