W sieci od pewnego czasu krąży film przedstawiający erotyczną scenę między znana z roli Wonder Woman aktorką Gal Gadot a jej przyrodnim bratem. Twarz się zgadza, ruchy ciała są z nią dobrze zgrane... ale oczywiście jest to fałszywka. Jak to działa? Wideo powstało dzięki użyciu algorytmu pozwalającego na podmienianie twarzy (bawiliście się tą technologią choćby w Snapchacie – popularny face-swap), który może obsłużyć każdy średnio-zaawansowany programista korzystający z materiałów open-source.

Oczywiście, jeśli dokładnie się przyjrzycie od razu widać, że mamy do czynienia z fałszywką, ale na pierwszy rzut oka można naprawdę przeżyć zaskoczenie. Za filmik odpowiedzialny jest użytkownik portalu Reddit podpisujący się ksywą “deepfakes”. Opowiada, że technologia, które użył wcale nie jest czymś o kosmicznym poziomie trudności, co więcej, znajdziemy ją w użyciu choćby w popularnych filmach science fiction (pośmiertne ujęcia Carrie Fisher w roli księżniczki Lei). Deepfakes nie używał drogiego hollywoodzkiego CGI, zamiast tego skorzystał z narzędzia TensorFlow, które Google udostępnia za darmo studentom, badaczom i innym zainteresowanym użytkownikom. Algorytm o nazwie Face2Face pozwala podmienić twarz na wideo w czasie rzeczywistym i obsadzić de facto każdego w każdej roli. Nawet aktorka/aktorki porno.

Do tej pory deepfakes pochwalił się umieszczeniem w filmach pornograficznych Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plazy oraz Gal Gadot. Można spodziewać się, że filmiki szybko będą znikać z sieci po interwencjach reprezentujących je prawników.

Erotyczne fałszywki w sieci nie są czymś nowym, jednak do tej pory dotyczyło to przede wszystkim zdjęć. Teraz wchodzi to w nową fazę, a fanów i chętnych do nauczenia się trików deepfakesa nie brakuje.

Z jednej strony umieszczenie takich materiałów w sieci osoba “obsadzona” w takiej roli może uznać za obraźliwe i starać się z tym walczyć. Z drugiej strony jest to także nie w porządku wobec osób, które naprawdę wystąpiły w danym filmie, bo przerobione “produkcje” trafiają oczywiście na bezpłatne serwisy pozbawiając twórców oraz zespół aktorski możliwości zarobienia na swojej pracy, która wbrew pozorom wcale do łatwych nie należy.

Jest w tej historii jeszcze jeden niepokojący wątek. Jeśli tworzenie fikcyjnego porno jest tak proste możemy niedługo spotkać się z nowym wymiarem gnębienia w internecie. Osoby, które będą chciały kogoś oczernić lub ośmieszyć mogą skorzystać z dostępnych open-source'owych kodów i z pomocą programistów tworzących uczące się algorytmy tworzyć fikcyjne materiały, których bohaterem możę być każdy. Dosłownie każdy. A skąd będą brane materiały? Sami je udostępniamy, setki tysięcy zdjęć, selfie i innych, które lądują na portalach społecznościowych mogą zostać wykorzystane by “obsadzać nas” w takich rolach jakich chce twórca, a jakie my niekoniecznie chcemy oglądać.  

Źródło: Motherboard