Wpływ deepfake'ów na media społecznościowe: Szokujące prawdy o deepfake'ach

Co to jest deepfake? Jakie są skutki deepfake na mediach społecznościowych?

Deepfake można zdefiniować jako: wideo lub nagranie audio, które zamienia twarz lub głos kogoś na twarz lub głos innej osoby, w sposób, który wydaje się bardzo realny. Możesz pomyśleć, że manipulacja mediami to nic nowego, ale z czasem termin deepfake się zmienił. W latach 2017 i 2018 używano go tylko do obrazów, które były wyraźnie tworzone przez Deepfake w mediach społecznościowych z wykorzystaniem sztucznej inteligencji, od 2022 roku zaczęto go używać do opisywania obrazów i wideo, które są wyraźnie lub przypuszczalnie fałszowane przez jakiegoś rodzaju sztuczną inteligencję. Najbardziej powszechny deepfake można przypisać do użycia zamiany twarzy do tworzenia filmów „face swap”, które są dzisiaj bardzo popularne. Deepfake w mediach społecznościowych może być dzisiaj bardzo niebezpieczny i prowadzić do oszustw, wykorzystując głosy i wizerunki ludzi do robienia nielegalnych rzeczy

Dlaczego ważne jest, żebyśmy badali wpływ deepfake na media społecznościowe?

Media społecznościowe takie jak TikTok, YouTube, Instagram itp. stały się jednym z miejsc do publikowania tych deepfake'ów online i to bardzo łatwo. Biorąc pod uwagę szybkość ich powszechnej dystrybucji, odgrywają kluczową rolę w publikowaniu lub kontrolowaniu tych deepfake'ów
Etyczne implikacje deepfake na mediach społecznościowych mogą sprawić, że ludzie i użytkownicy obecni w tych sieciach stracą zaufanie do nich, gdy zobaczą fałszywe treści. Te fałszywe wiadomości, które mogą być publikowane na mediach społecznościowych na podstawie deepfake, wpływają na kulturę publiczną, a nawet powodują szkody psychologiczne lub społeczne dla jednostek i niszczą ogólne zaufanie użytkowników do treści w sieci, więc ten problem musi być traktowany poważnie. Tutaj przedstawiamy Ci kompleksowy przegląd skutków i funkcjonowania tego rosnącego i rozwijającego się efektu medialnego, a ponadto oferujemy rozwiązania prawne, aby się z nim zmierzyć

Czym są ogólnie struktury deepfake i jak działają?

Technologia deepfake w mediach społecznościowych może bezproblemowo wkomponować kogokolwiek na świecie w wideo lub zdjęcie, w którym nigdy nie brał udziału. Głównym elementem deepfake'ów jest uczenie maszynowe, które umożliwiło produkcję deepfake'ów znacznie szybciej i taniej. Sieć neuronowa może nauczyć komputer wszystkich niezbędnych informacji o tym, jak działa twarz danej osoby z różnych kątów i w różnych światłach, a korzystając z tych informacji i narzędzi, może stworzyć obraz podobny do tej samej twarzy. Seria deepfake'ów jest tworzona przy użyciu algorytmu o nazwie GAN, który jest bardzo profesjonalny i sprawia, że obrazy i twarze wyglądają bardziej naturalnie. Ale teraz wiele deepfake'ów w wideo w mediach społecznościowych nie jest już robionych nawet z GAN, ponieważ są czasochłonne i trudne do zrobienia z jego użyciem
Dziś cały ten proces można łatwo i szybciej przeprowadzić dzięki istnieniu sztucznej inteligencji. Oczywiście trzeba powiedzieć, że sztuczna inteligencja jeszcze nie potrafi dokładnie stworzyć wiarygodnej kompozycji, w którą osoba oglądająca te stworzone filmy czy obrazy od razu uwierzy. W kontynuacji tworzenia tych deepfake'ów producent sam musi używać ręcznych narzędzi, aby zmienić wiele parametrów, które program w danym przypadku nie był w stanie dobrze uchwycić. Ten proces jest bardzo prosty i potężny, chociaż trudny
Na przykład, w 2018 roku Jordan Peele (znany komik i reżyser) opublikował deepfake wideo z Barackiem Obamą, byłym prezydentem Stanów Zjednoczonych, w którym widać go mówiącego obraźliwe słowa o Donaldzie Trumpie (ówczesnym prezydencie). Jego celem było pokazanie, jak łatwo jest używać technologii Deepfake w mediach społecznościowych, aby tworzyć słowa, które wyglądają całkowicie wiarygodnie i realnie, nawet pochodzące od byłego prezydenta

Jak Deepfake wszedł do mediów społecznościowych

Deepfake w mediach społecznościowych początkowo był dla zabawy. Deepfake w mediach społecznościowych miał na początku aspekt rozrywkowy, programy rozrywkowe takie jak Reface, Zao czy FaceApp pozwalały użytkownikom łatwo skopiować swoje zdjęcie na ciało celebrytów, aktorów czy znanych postaci za pomocą kilku prostych narzędzi graficznych. Te filmy Deepfake i manipulacje szybko stały się viralowe na TikToku i Instagramie dzięki swojej zabawie i rozrywce, a wiele osób z całego świata zaczęło korzystać z tego efektu nie wiedząc, że to to samo. To jest deepfake
Platformy takie jak TikTok, Instagram i YouTube sprawiają, że tworzenie i rozpowszechnianie deepfake'ów w internecie jest łatwe dzięki prostym i dostępnym rynkom. Kiedy treść na tych platformach społecznościowych może stać się wirusowa w szokujący sposób, ich algorytm sprawia, że staje się to wirusowe i więcej osób widzi te deepfake'i w mediach społecznościowych. Kiedyś mogliby to zrobić w inny sposób, ale teraz, z kilkoma zdjęciami z różnych kątów i kliknięciami, mogą być łatwo tworzone w dowolny sposób, jaki chcą
Deepfake zaczęło jako ciekawa technologia, ale po wejściu do sieci społecznościowych stało się narzędziem do rozrywki, reklamy, a czasem poważnego nadużycia

Potencjalne pozytywne skutki

Deepfake, z wszystkimi informacjami, które wam powiedzieliśmy o tym, jak to działa, jak to się robi i do czego służy, okazał się bardzo przydatny w niektórych dziedzinach graficznych na świecie i był bardzo skuteczny. Na początku korzystanie z deepfake może wydawać się niebezpieczne i nielegalne, ale jeśli używane jest w odpowiedni sposób, może być potężnym i skutecznym narzędziem. Tutaj przyjrzymy się niektórym z tych informacji

Kino i Rozrywka

W dziedzinie filmu i dokumentu, używanie deepfake do rekonstrukcji lub odmładzania twarzy, tworzenie efektów specjalnych Realizm stał się możliwy bez potrzeby ciężkiego CGI, co ułatwiło twórcom w tej dziedzinie skupienie się na tworzeniu bardziej angażujących i jakościowych filmów

Edukacja i Historia

Rekonstrukcja twarzy i głosu postaci historycznych do interaktywnej edukacji sprawia, że tematy edukacyjne stają się bardziej atrakcyjne, zrozumiałe i konkretne dla uczniów

Medycyna i zdrowie psychiczne

Produkcja filmów edukacyjnych dla pacjentów z twarzą prawdziwego lekarza, w lokalnym języku i dialekcie, żeby lepiej zrozumieli proces operacji i leczenia. Na przykład, podczas trudnych i skomplikowanych szkoleń na uniwersytetach, użycie deep fake'ów jest bardzo skuteczne w nauczaniu chirurgii lub radzeniu sobie z sytuacjami psychologicznymi. Albo pomoc pacjentom z demencją poprzez rekonstrukcję znajomych twarzy

Reklama i marketing

Tworzenie atrakcyjnych i spersonalizowanych treści bez potrzeby angażowania ludzi w tle i wygórowanych kosztów zgodnie z gustem klientów. Możliwość produkcji reklam w różnych językach bez konieczności nagrywania wiele razy

Dostępne dla wszystkich

Pomaganie w tłumaczeniu i dubbingowaniu filmów przy zachowaniu naturalnych ruchów ust i twarzy (lip-sync AI). Zwiększanie dostępności dla osób niesłyszących lub niedosłyszących poprzez konwersję mowy na ruchy twarzy

Etyczne implikacje deepfake na mediach społecznościowych

Tak jak wszystko może mieć swoje zalety, tak może mieć też wady, a deepfake w mediach społecznościowych nie jest wyjątkiem. Dzięki większej dostępności technologii deepfake, oszuści mogą teraz z dużą precyzją podszywać się pod menedżerów, pracowników czy klientów, co stwarza poważne luki w bezpieczeństwie firm. Ale używanie deepfake poza zasadami i regulacjami narusza kwestie etyczne związane z deepfake, prowadząc do wielu nadużyć i oszustw w tej dziedzinie, i warto być świadomym tych problemów, żeby być bezpiecznym przed ich konsekwencjami
Ale poza bezpośrednimi stratami finansowymi, konsekwencje reputacyjne są równie szkodliwe, bo zmanipulowane media mogą zniszczyć wizerunek firmy i prowadzić do ataków na reputację osób (prywatnych lub publicznych). Nawet jeśli oszustwo zostanie ujawnione przez firmę, szkody już zostały wyrządzone. Branże, które opierają się na zaufaniu, takie jak finanse, prawo i opieka zdrowotna, są szczególnie narażone. Deepfake'i to w zasadzie podszywanie się, więc są popularnym sposobem na oszukiwanie dyrektorów generalnych przy użyciu sztucznych głosów
Spadające zaufanie publiczne do treści (kultura postprawdy) Z tymi wszystkimi fałszywymi filmami i obrazami, które wirusowo krążą w świecie cyfrowym i online, może to w końcu podważyć zaufanie do mediów społecznościowych, które stały się źródłem dochodów i brandingiem dla dużych firm lub biznesów. Należy również zauważyć, że przestępcy i oszuści ciągle znajdują nowe sposoby na wykorzystanie deepfake'ów, w tym szantaż, wymuszenia i szpiegostwo przemysłowe. Firmy, organizacje i osoby prywatne muszą być czujne

Pojawienie się technologii Deepfake w mediach społecznościowych

spowodowało to, że ludzie na całym świecie, którzy pracują w niektórych dziedzinach i zbudowali sobie imię i adres oraz mają pewną reputację, zaczęli się martwić tym problemem. Szczególnie w kontekście zgody osób, odpowiedzialności i niedoskonałości obecnych przepisów. To spowodowało, że wiele osób ma wiele specjalistycznych pytań dotyczących tego, jak chronić jednostki i społeczeństwa przed jego nadużywaniem
Jedna z etyk deepfake to pytanie, czy osoby, których twarze i informacje o wyglądzie są wykorzystywane, zgodziły się na to czy nie? Wiele filmów korzysta z deepfake i zmanipulowanych wideo – w tym celebrytów, polityków czy nawet zwykłych ludzi – bez ich zgody. Te filmy mogą używać twarzy innych celebrytów do przekazywania niewłaściwego zachowania, wygłaszania obraźliwych uwag w mediach społecznościowych, co prowadzi do utraty osobistej wiarygodności i szkody dla ich statusu, rangi i osobowości itd. Oprócz strat finansowych i tożsamościowych dla osób, ten problem ma psychologiczne skutki dla jednostek. W wielu krajach ofiary nie mają konkretnego sposobu prawnego, aby sobie z tym poradzić. Pojawia się więc pytanie: kto ponosi odpowiedzialność za moralne konsekwencje deepfake? Twórca treści? Platforma, która to opublikowała? A może użytkownik, który to udostępnił? Obecnie nie ma jasnego i globalnego standardu określającego odpowiedzialność. Z drugiej strony, istniejące prawo w tej kwestii często jest nieskuteczne i niekompletne i nie może zrekompensować poniesionych strat. Ta luka prawna otworzyła drzwi do powszechnego nadużywania. Akt AI UE to jedna z pierwszych prób legislacyjnych regulujących treści generowane przez AI. Wymaga od twórców przejrzystości co do tego, czy wideo zostało zmanipulowane lub sztucznie wygenerowane. Inne kraje, takie jak USA, Chiny i Wielka Brytania, również badają podobne rozwiązania, chociaż globalny trend w kierunku przepisów dotyczących deepfake wciąż nie jest jednolity

Rola platform społecznych w kontrolowaniu deepfake na mediach społecznościowych

Wraz z rosnącym użyciem deepfake'ów w mediach społecznościowych, rola platform w identyfikacji i kontrolowaniu tego typu treści stała się ważniejsza niż kiedykolwiek. Media społecznościowe podjęły działania, aby kontrolować publikację tych treści, co okazało się w pewnym stopniu przydatne. Jedną z powszechnych metod jest oznaczanie treści. Jeśli wiele platform wykryje treść deepfake, oznaczają ją ostrzeżeniami takimi jak „może być edytowane” lub „wprowadzające w błąd informacje”. Niektóre algorytmy wykorzystują sztuczną inteligencję, aby łatwo rozpoznać treści stworzone za pomocą deepfake'ów. Ale wraz z codziennym postępem, te deepfake'i stają się coraz bardziej realistyczne i niektóre z nich mogą pozostać ukryte przed oczami algorytmów

Jak rozpoznać technologię deepfake w mediach społecznościowych

Deepfake często wywołuje dziwne uczucie i ujawnia subtelne wady, które zdradzają jego autentyczność. Ucząc ludzkie oko dostrzegać te niespójności - takie jak nienaturalne ruchy twarzy, nieregularne oświetlenie czy niespójne dźwięki i obrazy - i łącząc tę umiejętność z wiarygodnymi technikami weryfikacji, można odróżnić deepfake od prawdziwego kontentu
Są pewne dość proste rzeczy, na które możesz zwrócić uwagę, gdy próbujesz rozpoznać deepfake

Nienormalne ruchy oczu

Ruchy oczu, które nie wydają się naturalne — albo brak ruchu oczu, jak na przykład nie mruganie — to czerwone flagi. Trudno jest naśladować mruganie w sposób, który wygląda naturalnie. Trudno też naśladować ruchy oczu prawdziwej osoby. To dlatego, że oczy kogoś zazwyczaj podążają za osobą, z którą rozmawia

Nienormalne wyrazy twarzy

Kiedy coś nie wygląda dobrze na twarzy, może to wskazywać na zniekształcenie twarzy. Dzieje się tak, gdy prosta klatka jednego obrazu została nałożona na inny

Niezgrabne ułożenie cech twarzy

Jeśli czyjaś twarz jest skierowana w jedną stronę, a nos w drugą, powinieneś być podejrzliwy co do autentyczności filmu

Brak emocji

Możesz też zauważyć zniekształcenie twarzy lub łączenie obrazów, jeśli czyjaś twarz nie wydaje się pokazywać emocji, które powinny pasować do tego, co rzekomo mówią

Ciało lub postura wygląda dziwnie

Innym znakiem jest to, że kształt ciała osoby nie wygląda naturalnie albo jest dziwna lub niespójna pozycja głowy i ciała. To może być jedna z łatwiejszych niespójności do zauważenia, bo technologia deepfake zwykle skupia się na cechach twarzy, a nie na całym ciele

Abnormalne ruchy ciała

Jeśli ktoś wygląda na zniekształconego lub dziwnego, gdy obraca się bokiem lub rusza głową, albo jego ruchy są szarpane i niezgodne z jednym ujęciem do drugiego, powinieneś podejrzewać, że wideo jest fałszywe

Nienormalne zabarwienie

Nienormalny odcień skóry, przebarwienia, dziwne oświetlenie i niepasujące cienie to wszystko znaki, że to co widzisz prawdopodobnie jest fałszywe

Włosy, które nie wyglądają na prawdziwe

Nie zobaczysz puszących się ani fruwających włosów, bo fałszywe obrazy nie potrafią stworzyć tych indywidualnych cech

Zęby, które nie wyglądają na prawdziwe

Algorytmy mogą nie być w stanie wygenerować pojedynczych zębów, więc brak konturów pojedynczych zębów może być wskazówką

Rozmycie lub nierówności

Jeśli krawędzie obrazów są rozmyte lub obrazy są nierówne — na przykład tam, gdzie twarz i szyja spotykają się z ciałem — będziesz wiedzieć, że coś jest nie tak

Niekonsekwentny dźwięk i hałas

Twórcy deepfake'ów zazwyczaj spędzają więcej czasu na obrazach wideo niż na dźwięku. Efekt może być kiepska synchronizacja ust, robotyczne głosy, dziwna wymowa słów, cyfrowy hałas w tle, a nawet brak dźwięku.

Obrazy, które wyglądają nienaturalnie, gdy są spowolnione

Jeśli oglądasz wideo na większym ekranie niż smartfon lub masz oprogramowanie do edycji wideo, które może spowolnić film, możesz powiększyć i dokładniej przyjrzeć się obrazom. Na przykład powiększając usta, zobaczysz, czy naprawdę mówią, czy może synchronizacja ust jest zła

Spory Hashtagowe

Jest algorytm kryptograficzny, który pomaga twórcom wideo pokazać, że ich filmy są autentyczne. Ten algorytm jest używany do wstawiania hashtagów w określonych miejscach w filmie. Jeśli hashtagi są zmieniane, powinieneś podejrzewać, że film został sfabrykowany

Odcisk cyfrowy

Technologia blockchain może też stworzyć cyfrowy odcisk palca dla filmów. Choć ta weryfikacja oparta na blockchainie nie jest niezawodna, może pomóc ustalić autentyczność filmu. Oto jak to działa. Kiedy film jest tworzony, zawartość jest zapisywana w księdze, której nie można zmienić. Ta technologia może pomóc udowodnić autentyczność filmu

Wyszukiwanie obrazem odwrotnym

Szukając oryginalnego obrazu, albo korzystając z komputerowego wyszukiwania obrazów wstecz, można znaleźć podobne filmy w internecie, które pomogą ustalić, czy obraz, dźwięk lub wideo zostały w jakikolwiek sposób zmienione. Chociaż technologia wyszukiwania wideo wstecz jeszcze nie jest ogólnodostępna, inwestycja w takie narzędzie może być korzystna

Filmik nie jest zgłaszany przez wiarygodne źródła newsowe

Jeśli to, co ktoś mówi lub robi w wideo, jest szokujące lub ważne, media o tym poinformują. Jeśli szukasz informacji o wideo i żadne wiarygodne źródła o tym nie mówią, może to oznaczać, że wideo to deepfake

Na koniec