Ludzkość zaczyna się bać

Do tej pory najmocniej brzmiącym ostrzeżeniem przed zagrożeniami ze strony SI (oczywiście z wyjątkiem niezliczonej liczby filmów, książek i komiksów sf, którym należałoby się osobne opracowanie naukowe) wybrzmiał ze strony Stephena Hawkinga. Genialny fizyk teoretyk stwierdził w 2014 roku, w rozmowie z BBC, że prace nad tym projektem mogą stać się początkiem końca ludzkości. 

Tu można oczywiście postawić kropkę i dalej straszyć się wizjami rodem z sagi filmowej "Terminator". Projektu SI nie da się już powstrzymać. Patrząc na postępy prac nad nimi i z nimi widać, że choć jeszcze nie ma w niej jeszcze jaźni, pojawia się samodzielność. Ta samodzielność właśnie jest źródłem obaw. 

- Nikt nie jest w stanie zagwarantować tego, że ten projekt nigdy nie wymknie się spod kontroli, albo nie zostanie użyty do złych celów - zastrzega ekspertka i dodaje, że obecny rozwój SI stawia ją raczej wśród narzędzi, które mogą być użyte w różny sposób. Do momentu, gdy SI sama stwierdzi, że będzie robić coś wbrew ludziom mamy jeszcze bardzo daleko, o ile w ogóle kiedykolwiek taki scenariusz się ma zrealizować.

- Jedyne co możemy, to szukać sposobów by ten projekt był jak najbardziej czytelny i służył w dobrych celach, bo na pewno nie można go już zatrzymać - dodaje. 

W identycznym tonie wypowiadał się już we wrześniu 1995 roku futurolog, wizjoner, a przede wszystkim pisarz - Stanisław Lem, który w felietonie w czasopiśmie Znak zwraca uwagę na dwoistość konsekwencji użycia SI - "Każda technologia o efektywnej mocy sprawczej jest potencjalnie w awersie zbawienna, w rewersie – niebezpieczna. Tak było i sądzę, że tak będzie. Komputer programowany na rzecz „dobra dla ludzi” też, jako zniewalający do „algorytmu dobrych zachowań”, może powodować wiele nieszczęść."

Jak zatem traktować przypadek samouczącego się AlphaGo, zbuntowanej "Tay" czy Facebookowych botów?

- Ludzie mając coś, czego sztuczna inteligencja nigdy nie będzie miała: nieprzewidywalność, nielogiczność, emocje - uspokaja Norbert Biedrzycki, były prezes grupy Atos Polska zajmującej się technologiami informatycznymi.