Synthetic media falsehood: Pom tsis ntseeg ntxiv lawm

• Author:
• Tus sau lub npe

  Quantumrun Foresight
• Lub ob hlis ntuj 22, 2024

Cov ntsiab lus ntawm kev nkag siab

Synthetic media, blending artificial txawj ntse (AI) nrog video, suab, thiab pom cov ntsiab lus, yog li qhov tseeb nws nyuaj rau qhov txawv ntawm qhov tseeb xov xwm. Nws txoj kev loj hlob taug qab tau ntau xyoo dhau los, nrog kev kawm tob (DL) thiab Generative Adversarial Networks (GANs) ua lub luag haujlwm tseem ceeb hauv nws txoj kev nce qib. Raws li cov thev naus laus zis hloov zuj zus, nws nthuav tawm cov hauv kev muaj tswv yim thiab tseem ceeb ntawm kev ceev ntiag tug, kev coj ncaj ncees, thiab cov ntaub ntawv tsis raug.

Synthetic media falsehood ntsiab lus teb

Cov xov xwm hluavtaws sawv cev rau kev sib xyaw ua ke ntawm AI-tsim cov ntsiab lus, suav nrog cov yeeb yaj kiab nyob, cov ntsiab lus pom, thiab suab nyob rau hauv cov txheej txheem thev naus laus zis. Daim ntawv xov xwm no yog tus cwj pwm los ntawm nws qhov tshwj xeeb tiag tiag thiab qhov zoo ntawm lub cev, ua rau nws yuav luag tsis paub qhov txawv ntawm lub ntiaj teb kev tshaj tawm. Kev tsim cov khoom siv hluav taws xob tuaj yeem taug qab rov qab mus rau xyoo 1950s, tau txais kev hloov pauv tseem ceeb nyob rau xyoo 1980s thiab thaum ntxov 1990s raws li kev suav lub zog tau nce. 

Kev kawm tob yog cov thev naus laus zis thev naus laus zis tsav cov khoom siv hluav taws xob, ib ceg ntawm kev kawm tshuab (ML). Tshwj xeeb tshaj yog muaj kev cuam tshuam hauv lub npe no yog GANs, uas tau hloov pauv lub teb los ntawm kev kawm los ntawm cov duab uas twb muaj lawm los tsim cov tshiab tsis tau muaj tseeb tiag. GANs ua haujlwm siv ob lub neural network system: ib lub network tsim cov duab cuav raws li qhov tseeb, thaum lwm tus ntsuas lawv qhov tseeb, thawb cov ciam teb ntawm qhov ua tau hauv computer tsis pom kev thiab ua duab.

Raws li AI txuas ntxiv nws txoj kev nce qib sai, cov ntawv thov thiab kev cuam tshuam ntawm cov khoom siv hluav taws xob loj hlob zuj zus ntxiv. Thaum cov kev siv thev naus laus zis no qhib qhov rooj rau kev tsim kho tshiab thoob plaws ntau qhov chaw, suav nrog kev ua yeeb yaj kiab video, tsheb tsav tsheb, thiab kev paub lub ntsej muag, lawv ib txhij qhia txog kev txhawj xeeb txog kev ceev ntiag tug thiab kev coj ncaj ncees. Lub neej yav tom ntej ntawm cov khoom siv hluav taws xob yog li sawv cev rau rab ntaj ob sab, muab lub peev xwm loj rau kev muaj tswv yim thiab kev tsim kho tshiab thaum nyuaj rau peb los daws nws qhov cuam tshuam txog kev ncaj ncees thiab kev ceev ntiag tug.

Kev cuam tshuam

Ib txoj kev tshawb fawb 2022 ua los ntawm cov koom haum tsis muaj txiaj ntsig Rand Corporation tham txog plaub qhov kev pheej hmoo tseem ceeb ntawm cov khoom siv hluav taws xob: kev tswj hwm kev xaiv tsa los ntawm cov yeeb yaj kiab tsim tawm ntawm cov neeg sib tw, kev ua kom muaj kev sib cais ntau dua los ntawm kev nthuav tawm cov lus tshaj tawm thiab cov neeg koom nrog, rhuav tshem kev ntseeg siab hauv cov tsev kawm ntawv los ntawm cov neeg sawv cev cuav ntawm cov cai, thiab undermining ntawm journalism los ntawm kev ua xyem xyav txog qhov tseeb ntawm cov xov xwm raug cai. Cov kev dag ntxias no tuaj yeem ua rau muaj kev puas tsuaj tshwj xeeb hauv cov tebchaws uas muaj kev kawm qis, kev ywj pheej tsis yooj yim, thiab kev tsis sib haum xeeb ntawm haiv neeg. Cov ntaub ntawv tsis raug yog qhov teeb meem tseem ceeb hauv cov cheeb tsam no, thiab kev dag ntxias tuaj yeem ua rau muaj kev tsis sib haum xeeb thiab kev nruj kev tsiv, raws li pom hauv cov xwm txheej dhau los hauv cov tebchaws xws li Myanmar, Is Nrias teb, thiab Ethiopia. Tsis tas li ntawd, cov peev txheej txwv tau faib rau cov ntsiab lus sib txawv sab nraud Asmeskas, tshwj xeeb tshaj yog nyob rau hauv cov platforms xws li WhatsApp, ua rau muaj kev pheej hmoo ntawm cov fakes sib sib zog nqus mus rau hauv cov cheeb tsam no.

Deepfakes tseem ua rau muaj kev hem thawj rau cov poj niam, muab qhov tsis sib xws ntawm poj niam txiv neej hauv cov ntsiab lus duab liab qab. AI-tsim xov xwm tau raug siv los tsim cov duab liab qab uas tsis yog kev pom zoo, ua rau muaj kev tsim txom thiab kev siv dag zog. Cov thev naus laus zis no tseem tuaj yeem ua rau muaj kev pheej hmoo kev nyab xeeb los ntawm kev tsom mus rau cov neeg txawj ntse, cov neeg sib tw nom tswv, cov neeg sau xov xwm, thiab cov thawj coj rau kev txaj muag lossis kev tswj hwm. Cov piv txwv keeb kwm, xws li kev tshaj tawm xov xwm Lavxias-rov qab tawm tsam Ukrainian parliamentarian Svitlana Zalishchuk, qhia txog lub peev xwm rau kev tawm tsam.

Kev tshawb fawb hauv zej zog kev nkag siab txog kev cuam tshuam hauv zej zog ntawm kev sib sib zog nqus fakes tseem tab tom hloov zuj zus, nrog cov kev tshawb fawb muab cov txiaj ntsig sib xyaw ntawm cov neeg siv lub peev xwm los txheeb xyuas cov yeeb yaj kiab no thiab lawv qhov cuam tshuam. Qee qhov kev tshawb fawb qhia tias tib neeg yuav zoo dua ntawm kev tshawb pom qhov sib sib zog nqus ntau dua li cov tshuab, tab sis cov yeeb yaj kiab no feem ntau pom tias yog qhov tseeb, txhawb nqa, thiab ntseeg tau, ua rau muaj feem cuam tshuam rau lawv cov kev tshaj tawm hauv social media. Txawm li cas los xij, qhov cuam tshuam ntawm cov yeeb yaj kiab sib sib zog nqus ntawm kev ntseeg thiab kev coj cwj pwm yuav tsawg dua li qhov xav tau, qhia tias kev txhawj xeeb txog lawv txoj kev ntxias tuaj yeem ua rau ntxov ntxov. 

Kev cuam tshuam ntawm cov khoom siv hluav taws xob falsehood

Kev cuam tshuam dav dav ntawm cov khoom siv hluav taws xob tsis raug cai yuav suav nrog: 

• Txhim kho cov txheej txheem hauv kev txheeb xyuas cov ntsiab lus digital, ua rau muaj ntau txoj hauv kev los txheeb xyuas qhov tseeb ntawm kev tshaj tawm.
• Kev xav tau ntau ntxiv rau kev kawm paub ntawv digital hauv tsev kawm ntawv, ua rau cov tub ntxhais kawm yav tom ntej nrog kev txawj ntse los tshuaj xyuas cov xov xwm.
• Hloov hauv cov qauv kev sau xov xwm, yuav tsum muaj cov txheej txheem pov thawj nruj dua rau cov ntsiab lus multimedia kom muaj kev ntseeg siab.
• Kev nthuav dav ntawm txoj cai lij choj hais txog kev tswj hwm cov ntsiab lus digital, muab kev tiv thaiv zoo dua tiv thaiv cov ntaub ntawv tsis raug.
• Txhim kho tus kheej tsis pub lwm tus paub txaus ntshai vim muaj peev xwm siv tsis raug ntawm lub ntsej muag lees paub thiab cov ntaub ntawv tus kheej hauv kev tsim cov ntawv cuav.
• Kev loj hlob ntawm cov lag luam tshiab tshwj xeeb hauv kev tshawb nrhiav tob tob thiab kev tiv thaiv, tsim kom muaj kev ua haujlwm thiab kev ua haujlwm thev naus laus zis.
• Cov phiaj xwm nom tswv tau siv cov kev tswj xyuas kev tshaj xov xwm nruj dua los txo qhov cuam tshuam ntawm cov ntsiab lus cuav ntawm kev xaiv tsa.
• Kev hloov pauv hauv kev tshaj tawm thiab kev lag luam tawm tswv yim, nrog rau kev nce ntxiv ntawm qhov tseeb thiab cov ntsiab lus pov thawj kom muaj kev ntseeg siab ntawm cov neeg siv khoom.
• Kev nce hauv kev puas siab puas ntsws cuam tshuam vim kev nthuav tawm cov ntsiab lus tseeb tab sis tsis tseeb, uas muaj feem cuam tshuam rau kev mob hlwb thiab kev xav rau pej xeem.
• Kev hloov pauv hauv kev sib raug zoo thoob ntiaj teb kev sib raug zoo raws li kev sib sib zog nqus ua ib qho cuab yeej hauv cov tswv yim geopolitical, cuam tshuam rau diplomacy thiab kev ntseeg thoob ntiaj teb.

Cov lus nug los xav txog

• Cov xov xwm hluavtaws cuam tshuam li cas rau koj qhov kev nkag siab ntawm cov xwm txheej tam sim no?
• Yuav ua li cas txoj kev loj hlob ntawm deepfake thev naus laus zis cuam tshuam qhov sib npaug ntawm kev ywj pheej ntawm kev nthuav tawm thiab kev xav tau kev tswj hwm los tiv thaiv cov ntaub ntawv tsis raug thiab kev tsim txom?