Zao można kupić na chińskim iOS App Store od ubiegłego tygodnia. Przez weekend stała się najczęściej pobieraną aplikacja w sklepie. Jej użycie jest banalnie proste: robimy sobie serię zdjęć za pomocą aparatu w telefonie, a program mówi nam jakie wyrazy twarzy są mu potrzebne. Następnie korzystając z tych zdjęć może naszą twarz „nakleić” na dowolną w filmie video i podmienić aktora na nas.

Produkt natychmiast wzbudził kontrowersje, bo daje milionom ludzi do ręki narzędzie do tworzenia nieprawdziwych informacji. Wraz z popularyzacją „deep fake” coraz trudniej będzie ocenić co w internecie jest prawdą, a co fałszem. Brak zaufania podniesiony do masowej skali potrafi przerodzić się w realnie niebezpieczne społeczne tendencje: denializm klimatyczny czy ruch antyszczepionkowy.

Jest jeszcze jeden problem i wiąże się z powszechną tendencją użytkowników do ignorowania regulaminów aplikacji. Zao wraz z wyrażeniem przez nas zgody potrzebnej do używania aplikacji przejmuje prawo do każdego filmiku czy zdjęcia stworzonego za jej pomocą na naszym aparacie. Prawa te może wykorzystać do celów marketingowych. Zatem oddajemy swoją twarz do celów, których w żaden sposób nie możemy zweryfikować, tylko po to by przez chwilę pośmiać się z selfie czy video. O sprawie zrobiło się głośno za sprawą agencji Reuters.

Szefostwo Zao zareagowało szybko i zmieniło regulamin.

- To nowy produkt. Rzeczywiście nie wzięliśmy pod uwagę głównych obaw wielu osób – napisali w oświadczeniu opublikowanym w portalu społecznościowym Weibo (odpowiednik Facebooka za Wielkim Chińskim Firewallem). Dodają, że w aplikacji mają się pojawić nowe opcje autoryzacji i jasno podane warunki, a własność intelektualna pozostanie przy twórcach materiałów.

Dodatkowo firma obiecała, że nie będzie zbierać „danych biometrycznych twarzy” za pomocą swojej aplikacji. Trzeba przyznać, że w czasach, gdy w USA i Chinach toczy się gorąca dyskusja o wykorzystaniu przez branżę reklamową i służby specjalne technologii rozpoznawania twarzy – taka aplikacja i jej dane byłyby wyjątkowo wrażliwe i potencjalnie niebezpieczne.

Firma Momo Inc., do której należy aplikacja, poinformowała CNN Business, że zmiany regulaminu będą miały także skutek dla osób, które zgodziły się na poprzednie warunki korzystania.

Nie jest to pierwszy przykład gdy modna technologia ma drugie dno (zbieranie danych przez Siri, Alexę i innych asystentów osobistych, FaceApp zbierający bazę twarzy, podsłuchiwanie użytkowników przez Facebook i wiele innych), jednak tym razem warto odnotować bardzo szybką reakcję twórców na zarzuty. Czy oznacza to, że użytkownicy Zao mogą być pewni bezpieczeństwa swoich twarzy? Tego ocenić nie umiemy, ale przypominamy, że nawet najniewinniejszy z pozoru gadżet czy aplikacja może zbierać o nas bardzo wrażliwe dane i kierować je dalej, gdzie ich przeznaczenie nie będzie dla nas znane.