„Deepfejkowy” Tom Cruise podbija sieć i wzbudza uzasadnione obawy

W ciągu kilku dni trzy krótkie nagrania zamieszczone na Tik Toku obejrzano ponad 11 mln razy. Każde z nich przedstawia Toma Cruise’a, a raczej jego „maskę”. Twarz aktora dzięki technologii deepfake została doskonale dopasowana do twarzy prawdziwego internauty. Na pierwszy rzut oka trudno zauważyć, że to „podróbka”.
„Deepfejkowy” Tom Cruise podbija sieć i wzbudza uzasadnione obawy

Użytkownik, który zamieścił filmy na Tik Toku posługuje się wiele mówiącym nickiem „deeptomcruise”. Na jednym z nagrań niby-aktor gra w golfa, na innym pokazuje magiczne sztuczki i wyjaśnia, że wszystko, co widzimy jest iluzją, na kolejnym opowiada o spotkaniu z Gorbaczowem.

Filmy szybko stały się wiralem, a to ze względu na wyjątkowo realistyczne wykorzystanie technologii deepfake, pozwalającej użytkownikowi na zamianę twarzy. Choć użytkownicy Tik Toka są zachwyceni pomysłowością autora nagrań, to eksperci ds. nowych technologii i cyberbezpieczeństwa nie kryją niepokoju i przyznają, że to „najbardziej niepokojąco realistyczny przykład” wykorzystania tego narzędzia.

„Zobaczyć już nie znaczy uwierzyć” – tak filmy z fałszywym Cruise’m skomentował Sam Gregory, dyrektor aware.org – programu popularyzującego świadome zachowania i bezpieczeństwo, szczególnie wśród kobiet. 

Podkreślił, że ofiarami bezprawnego korzystania z technologii deepfake często padają kobiety, których twarze pojawiają się np. w sfałszowanych materiałach pornograficznych, które mogą posłużyć do partnerskiej zemsty lub zniszczenia czyjejś kariery.

 Na serwisach dla dorosłych coraz popularniejsze stają się także filmy, gdzie twarze prawdziwych aktorów i aktorek są “zamieniane” na twarze celebrytów. Na razie deepfaki, jak te z Tomem Cruise’m, zdają się służyć głównie rozrywce, ale powinny budzić nasze zaniepokojenie. 

– Ta technologia nie zniknie. A istnieje równie ogromna liczba naprawdę negatywnych i złośliwych przypadków jej użycia – ostrzega czołowy ekspert ds. deepfake Henry Ajder.  

Część ekspertów, choć podziela obawy, równocześnie chwali efekty przeróbki, bo fałszywy Cruise odzwierciedla mowę, maniery i wygląd prawdziwej gwiazdy. Hany Farid, profesor z Uniwersytetu Kalifornijskiego w Berkeley, który specjalizuje się w analizie obrazów cyfrowych, przyznał, że chociaż zauważył, że klip jest fałszywką, wciąż uważa, że jest „niewiarygodnie dobrze zrobiony”.

Z kolei Rachel Tobac, dyrektor generalna firmy SocialProof zajmującej się bezpieczeństwem online, napisała na Twitterze, że filmy dowiodły, że “osiągnęliśmy etap prawie niewykrywalnego deepfakes”.

“Deepfaki wpłyną na zaufanie publiczne, zapewnią przykrywkę i wiarygodne alibi przestępcom złapanym na wideo lub audio i będą (już są) wykorzystywane do manipulowania, poniżania i krzywdzenia ludzi” – napisała. Dodała, że technologia ta będzie mieć rzeczywisty wpływ na politykę na świecie, a co za tym idzie na bezpieczeństwo nas wszystkich. 

Deepfake namiesza w polityce?

Technologia deepfake została wynaleziona w 2014 roku przez Iana Goodfellowa, który był dyrektorem uczenia maszynowego w grupie projektów specjalnych Apple i liderem w tej dziedzinie. Słowo to wywodzi się ze współpracy terminów „głębokie uczenie się” i „fałszywy” i jest formą sztucznej inteligencji.

Narzędzia deepfake analizują budowę twarzy osoby nagrywanej i “docelowej”, a następnie łączą prawdziwą twarz z maską w najbardziej istotnych punktach. Dzięki doskonaleniu techniki fałszywe cyfrowe maski są coraz lepiej dopasowane do twarzy i pozwalają na wierne odwzorowywanie mimiki. 

Technologia przyciąga uwagę ekspertów i opinii publicznej od kilku lat. Zrobiło się o niej głośno szczególnie w kontekście politycznym, m.in. w związku z wyborami prezydenckimi w USA. Wielu programistów obawiało się wówczas, że deepfake zostanie wykorzystany do podważenia reputacji kandydatów i ich zdyskredytowania. 

Co prawda Tik Tok ma w swoim regulaminie zapisy dotyczące podszywania się pod innych, ale najwidoczniej ich egzekwowanie jest problemem.