Syntetisk mediefalskhed: At se er ikke at tro længere

• Forfatter:
• Forfatter navn

  Quantumrun Foresight
• Februar 22, 2024

Oversigt over indsigt

Syntetiske medier, der blander kunstig intelligens (AI) med video, lyd og visuelle elementer, er så realistisk, at det er svært at skelne fra faktiske medier. Dens udvikling går årtier tilbage, hvor deep learning (DL) og Generative Adversarial Networks (GAN'er) spiller en nøglerolle i dets fremskridt. Efterhånden som denne teknologi udvikler sig, præsenterer den kreative muligheder og betydelige udfordringer med privatliv, etik og misinformation.

Syntetisk mediefalsk kontekst

Syntetiske medier repræsenterer en banebrydende kombination af AI-genereret indhold, der omfatter live video, visuelle elementer og lyd inden for en avanceret teknologisk ramme. Denne medieform er kendetegnet ved dens exceptionelle realisme og fordybende kvaliteter, hvilket gør den næsten umulig at skelne fra den virkelige verden. Skabelsen af ​​syntetiske medier kan spores tilbage til 1950'erne, der gennemgik en betydelig udvikling i slutningen af ​​1980'erne og begyndelsen af ​​1990'erne, efterhånden som regnekraften steg. 

Deep learning er kerneteknologien, der driver syntetiske medier, en sofistikeret gren af ​​maskinlæring (ML). Særligt indflydelsesrige på dette domæne er GAN'er, som har revolutioneret feltet ved at lære af eksisterende billeder for at producere helt nye, men alligevel uhyggeligt autentiske. GAN'er fungerer ved hjælp af et dobbelt neuralt netværkssystem: Det ene netværk genererer falske billeder baseret på rigtige, mens det andet vurderer deres ægthed, og skubber grænserne for, hvad der er muligt inden for computersyn og billedbehandling.

Efterhånden som kunstig intelligens fortsætter sin hurtige fremgang, bliver anvendelserne og implikationerne af syntetiske medier stadig vigtigere. Mens disse teknologiske fremskridt åbner døre til innovation på tværs af forskellige sektorer, herunder videospil, autonome køretøjer og ansigtsgenkendelse, introducerer de samtidig presserende bekymringer vedrørende privatliv og etik. Fremtiden for syntetiske medier repræsenterer således et tveægget sværd, der tilbyder et stort potentiale for kreativitet og innovation, samtidig med at vi udfordrer os til at tage fat på dets etiske og privatlivsrelaterede implikationer.

Forstyrrende påvirkning

En undersøgelse fra 2022 udført af nonprofitorganisationen Rand Corporation diskuterer de fire primære risici ved syntetiske medier: manipulation af valg gennem opdigtede videoer af kandidater, forværring af sociale skel ved at forstærke propaganda og partipolitisk indhold, udhuling af tillid til institutioner gennem falske repræsentationer af autoritetspersoner, og underminering af journalistik ved at så tvivl om ægtheden af ​​legitime nyheder. Disse dybe forfalskninger kan være særligt skadelige i udviklingslande, hvor lavere uddannelsesniveauer, skrøbelige demokratier og interetniske konflikter er fremherskende. Misinformation er allerede et væsentligt problem i disse regioner, og deepfakes kan intensivere stridigheder og vold, som det ses i tidligere hændelser i lande som Myanmar, Indien og Etiopien. Desuden øger de begrænsede ressourcer, der er allokeret til indholdsmoderering uden for USA, især på platforme som WhatsApp, risikoen for, at deepfakes bliver uopdaget i disse områder.

Deepfakes udgør også unikke trusler mod kvinder på grund af kønsforskellene i pornografisk indhold. AI-genererede medier er blevet brugt til at skabe deepfake pornografi uden samtykke, hvilket fører til misbrug og udnyttelse. Disse teknologier kan også udgøre sikkerhedsrisici ved at målrette efterretningsagenter, politiske kandidater, journalister og ledere til forlegenhed eller manipulation. Historiske eksempler, såsom den russisk-støttede desinformationskampagne mod den ukrainske parlamentariker Svitlana Zalishchuk, viser potentialet for sådanne angreb.

Det videnskabelige samfunds forståelse af de samfundsmæssige implikationer af deepfakes er stadig under udvikling, og undersøgelser giver blandede resultater om brugernes evner til at opdage disse videoer og deres indvirkning. Nogle undersøgelser tyder på, at mennesker kan være bedre til at opdage deepfakes end maskiner, men alligevel ses disse videoer ofte som levende, overbevisende og troværdige, hvilket øger sandsynligheden for, at de spredes på sociale medier. Påvirkningen af ​​deepfake-videoer på tro og adfærd kan dog være mindre end forventet, hvilket indikerer, at bekymringer om deres overtalelsesevne kan være noget for tidligt. 

Implikationer af falske syntetiske medier

Bredere implikationer af falske syntetiske medier kan omfatte: 

• Forbedrede teknikker inden for autentificering af digitalt indhold, der fører til mere sofistikerede metoder til at verificere mediernes ægthed.
• Øget efterspørgsel efter undervisning i digitale færdigheder i skolerne, hvilket udstyrer fremtidige generationer med færdigheder til kritisk at analysere medier.
• Skift i journalistiske standarder, der kræver strengere verifikationsprocesser for multimedieindhold for at bevare troværdigheden.
• Udvidelse af juridiske rammer for manipulation af digitalt indhold, der giver bedre beskyttelse mod misinformation.
• Forbedrede personlige privatlivsrisici på grund af potentielt misbrug af ansigtsgenkendelse og personlige data til at skabe deepfakes.
• Udvikling af nye markedssektorer med speciale i deepfake-detektion og -forebyggelse, skabelse af jobmuligheder og teknologiske fremskridt.
• Politiske kampagner, der vedtager strengere medieovervågningspraksis for at afbøde virkningen af ​​falsk indhold på valg.
• Ændringer i annoncerings- og marketingstrategier med øget vægt på ægthed og verificerbart indhold for at bevare forbrugernes tillid.
• En stigning i psykologiske påvirkninger på grund af spredningen af ​​realistisk, men falsk indhold, der potentielt påvirker mental sundhed og offentlighedens opfattelse.
• Ændringer i internationale relationers dynamik, da deepfakes bliver et værktøj i geopolitiske strategier, der påvirker diplomati og global tillid.

Spørgsmål at overveje

• Hvordan påvirker syntetiske medier din opfattelse af aktuelle begivenheder?
• Hvordan kunne udviklingen af ​​deepfake-teknologi påvirke balancen mellem ytringsfrihed og behovet for regulering for at forhindre misinformation og misbrug?