TikTok szykuje nową funkcję w aplikacji. Pozwoli użytkownikom na tworzenie deepfake’ów

Deepfake to zjawisko tworzenia i zamieszczania w internecie zmanipulowanych filmów wideo, fotografii lub nagrań dźwiękowych, w których oryginalna treść zostaje zmieniona zgodnie z intencjami autora.

Deepfake oznacza materiały spreparowane za pomocą sztucznej inteligencji i uczenia maszynowego. W rezultacie może np. powstać film, w którym twarz bohatera zostaje podmieniona na inną, która dopasowuje swoją mimikę do oryginalnej treści nagrania. W rezultacie powstaje deepfake, w którym wstawiona sztucznie osoba może wykonywać czynności, których nigdy nie dokonała czy brać udział w wydarzeniach, w których nigdy nie uczestniczyła. Technika deepfake’ów była już wcześniej wykorzystywana m.in. do walki politycznej w niektórych krajach.

Teraz TechCrunch poinformował o tym, że narzędzie służące potencjalnie do tworzenia i udostępniania deepfake’ów może zostać wprowadzone w popularnej aplikacji społecznościowej TikTok.

Informacje na temat nowej opcji dostarczył startup Watchful, który wykrył w kodzie TikToka część odpowiedzialną za funkcję Face Swap. Pozwala ona zeskanować twarz użytkownika i przenieść ten obraz do innych zdjęć lub materiałów wideo. W rezultacie powstaje spreparowany materiał, który może zostać wykorzystany np. do ośmieszenia lub skompromitowania wybranych osób. Watchful zaznacza, że używając nowej opcji użytkownik może zrobić zdjęcie nie tylko własnej twarzy, ale także innych osób i w ten sposób posługiwać się ich wizerunkiem do tworzenia deepfake’ów.

Na razie nowe narzędzie nie jest dostępne w TikTok, nie wiadomo też czy ostatecznie zostanie w niej uruchomione. Obawy budzi nie tylko sama możliwość wykorzystania tej opcji do manipulowania treściami, lecz także fakt zbierania przez aplikację danych biometrycznych użytkowników, które w przyszłości mogą zostać wykorzystane w niedozwolony sposób.

Zjawisko deepfake’ów jest postrzegane jako coraz większe zagrożenie w sieci, dlatego niektóre firmy rozpoczęły aktywną walkę z nim. We wrześniu ub.r. Facebook, Microsoft oraz kilka uczelni powołali inicjatywę o nazwie Deepfake Detection Challenge (DFDC). Partnerzy projektu chcą wspomagać tworzenie nowych narzędzi ułatwiający wykrywanie deepfake’ów. Z kolei agencja Reuters we współpracy z Facebookiem udostępniła w internecie darmowy kurs mający pomagać dziennikarzom w rozpoznawaniu fałszywych treści typu deepfake i walce z tym zjawiskiem. Obie firmy zapowiadają dalsze wspólne działania mające ograniczyć zasięg deepfake’ów w internecie..

Wprowadzenie do TikToka narzędzia ułatwiającego tworzenie deepfake’ów jest groźne m.in. dlatego, że aplikacja szybko zdobywa coraz większą popularność na świecie, obecnie liczbę jej użytkowników szacuje się na ponad 1,5 mld.