Quantumrun

КРЕДИТ НА СЛИКА:

iStock

Генеративни противнички мрежи (ГАН): Ерата на синтетичките медиуми

Генеративните противнички мрежи го револуционизираа машинското учење, но технологијата се повеќе се користи за измама.

автор:
име на авторот
Quantumrun Foresight
Декември 5, 2023

Резиме на увид

Generative Adversarial Networks (GANs), познати по создавањето на длабоки фејкови, генерираат синтетички податоци кои имитираат лица, гласови и манири од реалниот живот. Нивната употреба се движи од подобрување на Adobe Photoshop до генерирање реални филтри на Snapchat. Сепак, GAN-ите предизвикуваат етички грижи, бидејќи тие често се користат за создавање погрешни длабоки лажни видеа и пропагирање на дезинформации. Во здравството, постои вознемиреност за приватноста на податоците на пациентите во обуката за GAN. И покрај овие прашања, GAN имаат корисни апликации, како што е помагање во криминални истраги. Нивната широка употреба во различни сектори, вклучително и снимање филмови и маркетинг, доведе до повици за построги мерки за приватност на податоците и владина регулација на GAN технологијата.

Контекст на генеративни противнички мрежи (GANs).

GAN е тип на длабока невронска мрежа која може да генерира нови податоци слични на податоците на кои е обучен. Двата главни блока кои се натпреваруваат еден против друг за да произведат визионерски креации се нарекуваат генератор и дискриминатор. Генераторот е одговорен за создавање на нови податоци, додека дискриминаторот се обидува да направи разлика помеѓу генерираните податоци и податоците за обуката. Генераторот постојано се обидува да го измами дискриминаторот создавајќи информации што изгледаат што е можно пореални. За да го направите ова, генераторот треба да ја научи основната дистрибуција на податоците, дозволувајќи им на GAN да создаваат нови информации без всушност да ги меморираат.

Кога GAN за прв пат беа развиени во 2014 година од научникот за истражување на Google, Иан Гудфелоу и неговите соиграчи, алгоритмот покажа големо ветување за машинско учење. Оттогаш, GAN видеа многу апликации од реалниот свет во различни индустрии. На пример, Adobe користи GAN за следната генерација на Photoshop. Google ја користи моќта на GAN и за генерирање текст и слики. IBM ефикасно користи GAN за зголемување на податоците. Snapchat ги користи за ефикасни филтри за слики, а Disney за супер резолуции.

Нарушувачко влијание

Додека GAN првично беше создаден за да го подобри машинското учење, неговите апликации преминаа сомнителни територии. На пример, длабоко лажни видеа постојано се создаваат за да имитираат вистински луѓе и да изгледаат како да прават или кажуваат нешто што не го направиле. На пример, имаше видео на кое поранешниот американски претседател Барак Обама го нарекува погрден израз на поранешниот американски претседател Доналд Трамп, а извршниот директор на Фејсбук Марк Цукербург се фали дека може да контролира милијарди украдени податоци. Ништо од овие не се случи во реалниот живот. Покрај тоа, повеќето длабоко лажни видеа се насочени кон познати жени и ги ставаат во порнографска содржина. ГАН исто така може да создаваат измислени фотографии од нула. На пример, неколку длабоко лажни новинарски сметки на LinkedIn и Twitter се покажа дека се генерирани со вештачка интелигенција. Овие синтетички профили може да се користат за да се создадат статии со реалистично звучење и делови за лидерство на мислата што пропагаторите можат да ги користат.

Во меѓувреме, во здравствениот сектор, постои зголемена загриженост за податоците што може да се протекуваат со користење на вистинска база на податоци за пациенти како податоци за обука за алгоритмите. Некои истражувачи тврдат дека мора да има дополнителен безбедносен или слој за маскирање за да се заштитат личните информации. Сепак, иако GAN е претежно познат по својата способност да ги измами луѓето, има позитивни придобивки. На пример, во мај 2022 година, полицијата од Холандија рекреираше видео од 13-годишно момче кое беше убиено во 2003 година. Со користење на реални снимки од жртвата, полицијата се надева дека ќе ги охрабри луѓето да се сеќаваат на жртвата и да излезат со нови информации во врска со студениот случај. Полицијата тврди дека веќе добиле неколку совети, но ќе мора да извршат проверки за да ги потврдат.

Апликации на генеративни противнички мрежи (GAN)

Некои апликации на генеративни противнички мрежи (GAN) може да вклучуваат:

Филмската индустрија создава длабока лажна содржина за да постави синтетички актери и повторно да снима сцени во постпродуцирани филмови. Оваа стратегија може да се претвори во долгорочни заштеди на трошоците бидејќи нема да треба да им плаќаат на актерите и на екипажот дополнителен надомест.
Зголемената употреба на длабоко лажни текстови и видеа за промовирање идеологии и пропаганда низ различниот политички спектар.
Компании кои користат синтетички видеа за да креираат елаборирани кампањи за брендирање и маркетинг без да ангажираат вистински луѓе, освен програмери.
Групи кои лобираат за зголемена заштита на приватноста на податоците за здравствена заштита и други лични информации. Овој притисок може да ги притисне компаниите да развијат податоци за обука кои не се засноваат на вистински бази на податоци. Сепак, резултатите можеби не се толку точни.
Владите ги регулираат и надгледуваат фирмите што произведуваат GAN технологија за да се осигураат дека технологијата не се користи за дезинформации и измами.