Deepfakes indflydelse på sociale medier: De chokerende sandheder om deepfakes

Hvad er deepfake? Hvad er effekterne af deepfake på sociale medier?

En dybfake kan defineres som: en video eller lydoptagelse, der erstatter nogens ansigt eller stemme med en anden persons ansigt eller stemme, på en måde der får det til at virke meget ægte. Du tænker måske, at mediemanipulation ikke er noget nyt, men over tid har termen dybfake ændret sig. Mens den i 2017 og 2018 kun blev brugt til billeder, der blev eksplicit skabt af Dybfake på sociale medier med kunstig intelligens, er den fra 2022 blevet brugt til at beskrive billeder og videoer, der eksplicit eller formodentlig er falske på en eller anden måde ved hjælp af kunstig intelligens. Den første og mest almindelige dybfake kan spores tilbage til brugen af ansigtsswap til at lave ansigtsswap videoer, som er meget almindelige i dag. Dybfake på sociale medier kan være meget farligt i dag og kan føre til svigagtige misbrug ved at bruge folks stemmer og billeder til at gøre ulovlige ting

Hvorfor er det vigtigt for os at studere effekten af deepfake på sociale medier

Sociale medier som TikTok, YouTube, Instagram osv. er blevet et af de steder, hvor man nemt kan offentliggøre de her deepfakes online. Givet hvor hurtigt de spreder sig, spiller de en nøgle rolle i offentliggørelsen eller kontrollen af de her deepfakes
De etiske implikationer af deepfake på sociale medier kan få folk og brugere til at miste tilliden til disse sociale netværk, når de ser falsk indhold, der bliver offentliggjort. Denne falske nyhed, som kan blive delt på sociale medier baseret på deepfakes, påvirker den offentlige kultur og kan endda forårsage psykologisk eller social skade på individer og ødelægge brugernes overordnede tillid til online indhold, så dette problem skal tages alvorligt. Her giver vi dig et omfattende overblik over virkningerne og funktionerne af denne voksende mediepåvirkning, og derudover giver vi dig juridiske løsninger til at bekæmpe det

Hvad er deepfake strukturer generelt og hvordan fungerer de?

Deepfake teknologi på sociale medier kan nemt sy nogen fra hele verden ind i en video eller et billede, som de aldrig har deltaget i. Hovedelementet i deepfakes er maskinlæring, som har gjort det muligt at producere deepfakes meget hurtigere og billigere. Den neurale netværk kan lære computeren alle de nødvendige oplysninger om, hvordan den persons ansigt fungerer fra forskellige vinkler og i forskellige lys, og ved at bruge disse oplysninger og værktøjer kan den skabe et billede, der ligner det samme ansigt. En række deepfakes laves ved hjælp af en algoritme kaldet GAN (generative adversarial networks), som er meget professionel og får billederne og ansigterne til at se mere naturlige ud. Men nu laves mange deepfakes på sociale medievideoer ikke engang med GAN længere, fordi de er tidskrævende og svære at lave med det.
I dag kan hele denne proces gøres nemt og hurtigere end før med eksistensen af kunstig intelligens. Selvfølgelig skal det siges, at kunstig intelligens endnu ikke har været i stand til præcist at nå en troværdig komposition, som den person, der ser disse skabte videoer eller billeder, straks vil tro på ægtheden af. I fortsættelsen af at lave disse deepfakes skal producenten selv bruge manuelle værktøjer til at ændre mange af de parametre, som programmet i spørgsmålet ikke kunne fange godt. Denne proces er meget simpel og kraftfuld, mens den også er svær
For eksempel, i 2018 udgav Jordan Peele (en berømt komiker og instruktør) en deepfake video af Barack Obama, den tidligere præsident i USA, hvor han blev set sige nedladende ord om Donald Trump (den daværende præsident). Hans mål var at vise, hvor nemt det er at bruge deepfake teknologi på sociale medier til at lave ord, der ser helt troværdige og ægte ud, selv fra en tidligere præsident

Hvordan kom Deepfake ind på sociale medier

Deepfake på sociale medier var oprindeligt kun til underholdning. Deepfake på sociale medier havde oprindeligt et underholdningsaspekt, underholdningsprogrammer som Reface, Zao eller FaceApp gjorde det nemt for brugerne at kopiere deres billede på kroppen af berømtheder, skuespillere eller kendte figurer med et par simple grafiske værktøjer. Disse Deepfake-videoer og manipulationer gik hurtigt viralt på TikTok og Instagram på grund af deres sjov og underholdning, og mange mennesker fra hele verden begyndte at bruge denne effekt uden at vide, at det er det samme. Det er deepfake
Platforme som TikTok, Instagram og YouTube gør det nemt at lave og sprede deep fakes på internettet ved hjælp af simple og tilgængelige markeder. Når et indhold på disse sociale platforme kan gå viralt på en chokerende måde, får deres algoritme det til at gå viralt, og flere mennesker ser disse deep fakes på sociale medier. De kunne lave det denne gang, men i dag kan de nemt laves på enhver måde, de vil, med bare et par uploads af billeder fra forskellige vinkler og klik
Deepfake startede som en interessant teknologi, men efter at være kommet ind i sociale netværk, blev det et værktøj til underholdning, reklame og nogle gange alvorligt misbrug

Potentielle positive effekter

Deepfake, med alt det information vi har fortalt dig om hvordan det virker, hvordan det laves, og dets formål, har været meget nyttigt for nogle grafiske områder i verden og har været meget effektivt. I starten kan det virke farligt og ulovligt at bruge deepfake, men hvis det bruges korrekt, kan det være et kraftfuldt og effektivt værktøj. Her vil vi kigge på noget af denne information

Biograf og Underholdning

Inden for film og dokumentar, gør brugen af deepfake det muligt at rekonstruere eller forynge ansigtstræk og skabe specialeffekter. Realisme er blevet muligt uden behov for tung CGI, og det har gjort det nemmere for skabere i dette felt at fokusere på at lave mere engagerende og kvalitetsfilm

Uddannelse og Historie

At genskabe ansigtet og stemmen på historiske personer til interaktiv undervisning gør, at emnerne bliver mere interessante, forståelige og konkrete for eleverne

Medicinal og mental sundhed

At producere undervisningsvideoer til patienter med ansigtet af en rigtig læge, på det lokale sprog og dialekt, så de kan blive bedre informeret om operations- og behandlingsprocessen. For eksempel under svære og komplicerede træninger på universiteter er brugen af deep fakes meget effektiv til at undervise i kirurgi eller håndtere psykologiske situationer. Eller hjælpe demenspatienter ved at rekonstruere velkendte ansigtstræk

Reklame og marketing

Skab unikt og attraktivt indhold uden behov for baggrundsfolk og høje omkostninger efter kundernes smag. Mulighed for at lave annoncer på forskellige sprog uden at skulle optage flere gange

Tilgængelig for alle

Hjælper med at oversætte og dubbe videoer samtidig med at der holdes naturlige mund- og ansigtsudtryk (lip-sync AI). Øger tilgængeligheden for døve eller hørehæmmede ved at omdanne tale til ansigtsbevægelser

Etiske implikationer af deepfake på sociale medier

Ligesom alt kan have fordele, kan det også have ulemper, og deepfake på sociale medier er ingen undtagelse. Med den øgede tilgængelighed af deepfake-teknologi kan svindlere nu efterligne ledere, ansatte eller kunder med alarmerende nøjagtighed, hvilket skaber betydelige forretningsvulnerabiliteter. Men at bruge deepfake uden for reglerne og forskrifterne for deepfake krænker de etiske spørgsmål omkring deepfake, hvilket fører til mange misbrug og svindel i dette område, og man bør være opmærksom på disse problemer for at være sikker på konsekvenserne
Men udover de direkte økonomiske tab er de omdømmemæssige konsekvenser lige så skadelige, da manipulerede medier kan beskadige en virksomheds image og forårsage angreb på individers omdømme (personligt eller offentligt). Selv hvis svindlen bliver afsløret af virksomheden, er skaden allerede sket. Industrier der er afhængige af tillid, som finans, jura og sundhed, er særligt sårbare. Deepfakes er i bund og grund efterligninger, så de er en populær måde at svindle direktører med kunstige stemmer.
Faldende offentlig tillid til indhold (Post-sandhed kultur) Med alle de falske videoer og billeder der går viralt i den digitale og online verden, kan det til sidst underminere tilliden til sociale medier, som er blevet en indtægtskilde og branding for store virksomheder eller forretninger. Det skal også bemærkes at kriminelle og svindlere hele tiden finder nye måder at bruge deepfakes på, herunder afpresning, udpresning og industriel spionage. Virksomheder, organisationer og enkeltpersoner skal være på vagt

Fremkomsten af Deepfake teknologi på sociale medier

har fået folk rundt om i verden, der arbejder inden for bestemte områder og har skabt et navn og en adresse for sig selv og har et bestemt ry, til at være bekymrede over dette problem. Især i forhold til samtykke fra enkeltpersoner, ansvarlighed og utilstrækkeligheden af de nuværende love. Dette har fået mange til at have mange specialiserede spørgsmål om, hvordan man beskytter enkeltpersoner og samfund mod misbrug af det
En af etikkerne ved deepfake er, om de personer, hvis ansigt og udseende informationer bliver brugt, har givet samtykke til det her eller ej Mange videoer bruger deepfake og manipulerede videoer – inklusive berømtheder, politikere eller endda almindelige mennesker – uden deres samtykke Disse videoer kan bruge ansigtet på andre berømtheder til at overføre upassende adfærd, komme med stødende bemærkninger til offentligheden på sociale medier og forårsage tab af personlig troværdighed og skade på deres status, rang og personlighed osv Udover økonomiske og identitetstab for individer, efterlader dette problem psykologisk skadelige virkninger på individer Mens der i mange lande ikke er nogen specifik juridisk måde at håndtere det på Her opstår spørgsmålet: hvem er ansvarlig for de moralske konsekvenser af deepfake? Indholdsskaberne? Platformen der offentliggjorde det? Eller brugeren der delte det? Lige nu er der ikke nogen klar og global standard for at bestemme ansvarlighed På den anden side er loven der eksisterer i denne henseende ofte ineffektiv og ufuldstændig og kan ikke kompensere for de tab der er lidt Denne juridiske smuthul har åbnet døren for udbredt misbrug EU AI-loven er et af de første lovgivningsmæssige forsøg på at regulere AI-genereret indhold Den kræver at skaberne er transparente omkring hvorvidt en video er blevet manipuleret eller kunstigt genereret Andre lande som USA, Kina og Storbritannien undersøger også lignende løsninger selvom den globale tendens mod deepfake love og reguleringer stadig ikke er ensartet

Sociale mediers rolle i at kontrollere deepfake på sociale platforme

Med den stigende brug af deepfake på sociale medier er platformenes rolle i at identificere og kontrollere denne type indhold blevet vigtigere end nogensinde. Sociale medier har gjort en indsats for at kontrollere offentliggørelsen af dette indhold, hvilket har været nogenlunde nyttigt. En af de almindelige metoder er indholdslabeling. Hvis mange platforme opdager et deepfake-indhold, markerer de det med advarsler som kan være redigeret eller misvisende information. Nogle algoritmer bruger kunstig intelligens til nemt at genkende indholdet skabt med deepfakes. Men med daglig fremgang bliver disse deepfakes mere virkelige, og nogle af dem kan forblive skjult for algoritmernes øjne

Hvordan man spotter deepfake teknologi på sociale medier

Deepfake giver ofte en uhyggelig følelse og afslører subtile fejl, der afslører dens autenticitet. Ved at træne det menneskelige øje til at opdage disse inkonsekvenser - som unaturlige ansigtsbevægelser, uregelmæssig belysning eller inkonsekvente lyd- og visuelle signaler - og kombinere denne færdighed med pålidelige verificeringsteknikker, bliver det muligt at skelne mellem deepfake og ægte indhold
Der er nogle ret simple ting, du kan kigge efter, når du prøver at spotte en deepfake

Unormale øjenbevægelser

Øjenbevægelser der ikke virker naturlige - eller mangel på øjenbevægelser som ikke at blinke - er advarselssignaler. Det er svært at efterligne blink i en måde der ser naturlig ud. Det er også svært at efterligne øjenbevægelserne fra en rigtig person. Det er fordi nogens øjne normalt følger den person de taler med

Unormale ansigtstræk

Når noget ikke ser rigtigt ud på et ansigt, kan det indikere en ansigtsforvrængning. Det sker, når et simpelt sting af et billede er blevet lagt oven på et andet

Akavet placering af ansigtstræk

Hvis nogens ansigt peger til den ene side og deres næse peger til den anden, skal du være mistænksom over for videoens ægthed

Manglende følelser

Du kan også se ansigtsforvrængning eller billedsamling, hvis nogens ansigt ikke ser ud til at vise den følelse, der burde følge med det, de angiveligt siger

Kroppen eller holdningen ser akavet ud

Et andet tegn er, at personens kropstype ikke ser naturlig ud, eller at der er en akavet eller inkonsekvent hoved- og kropsposition. Dette kan være en af de nemmere inkonsekvenser at spotte, fordi deepfake-teknologi normalt fokuserer på ansigtstræk frem for hele kroppen

Unormal bevægelse af kroppen

Hvis nogen ser forvrænget eller underligt ud, når de vender sig på siden eller bevæger deres hoved, eller hvis deres bevægelser er rykvise og usammenhængende fra det ene billede til det næste, bør du mistænke, at videoen er falsk

Unormal farve

Unormal hudfarve, misfarvning, mærkelig belysning og malplacerede skygger er alle tegn på at det du ser sandsynligvis er falsk

Hår der ikke ser ægte ud

Du vil ikke se krusete eller flyvende hår, da falske billeder ikke kan skabe disse individuelle træk

Tænder der ikke ser ægte ud

Algoritmer kan måske ikke generere individuelle tænder, så manglen på konturer af individuelle tænder kan være et ledetråd

Usædvanlig eller sløret

Hvis kanterne af billederne er slørede eller billederne er ujævne - for eksempel hvor nogens ansigt og hals møder deres krop - så ved du, at der er noget galt

Uregelmæssig lyd og støj

Deepfake skabere bruger typisk mere tid på video billeder end lyd. Resultatet kan være dårlig lip sync, robotstemmer, mærkelig ordudtale, digital baggrundsstøj eller endda ingen lyd overhovedet

Billeder der ser unaturlige ud når de bliver sat i slowmotion

Hvis du ser en video på en større skærm end din smartphone eller har videoredigeringssoftware, der kan sænke videoen, kan du zoome ind og undersøge billederne nærmere. For eksempel vil det at zoome ind på læberne hjælpe dig med at se, om de faktisk taler, eller om lip sync er dårlig

Hashtag konflikter

Der er en kryptografisk algoritme, der hjælper videoskabere med at vise, at deres videoer er autentiske. Denne algoritme bruges til at indsætte hashtags på bestemte steder i en video. Hvis hashtags ændres, bør du mistænke, at videoen er blevet manipuleret

Digital Fingerprinting:

Blockchain-teknologi kan også skabe et digitalt fingeraftryk for videoer. Selvom denne blockchain-baserede verifikation ikke er idiotsikker, kan den hjælpe med at fastslå ægtheden af en video. Sådan fungerer det. Når en video laves, bliver indholdet registreret i et register, der ikke kan ændres. Denne teknologi kan hjælpe med at bevise ægtheden af en video

Omvendt billedsøgning

Søger du efter et originalt billede eller en computerassisteret omvendt billedsøgning, kan det finde lignende videoer online for at hjælpe med at afgøre, om et billede, lyd eller video er blevet ændret på nogen måde. Selvom teknologi til omvendt videosøgning endnu ikke er offentligt tilgængelig, kan det være en god idé at investere i et værktøj som dette.

Videoen bliver ikke rapporteret af pålidelige nyhedskilder

Hvis det en person siger eller gør i en video er chokerende eller vigtigt, vil nyhedsmedierne rapportere om det. Hvis du søger efter information om videoen og ingen pålidelige kilder taler om det, kan det betyde at videoen er en deepfake

Afslutningsvis