Генеративни състезателни мрежи (GANs): ерата на синтетичните медии

• Автор:
• име Автор

  Quantumrun Foresight
• Декември 5, 2023

Резюме на прозрението

Generative Adversarial Networks (GANs), известни със създаването на deepfakes, генерират синтетични данни, които имитират реални лица, гласове и маниери. Използването им варира от подобряване на Adobe Photoshop до генериране на реалистични филтри в Snapchat. GAN обаче създават етични проблеми, тъй като често се използват за създаване на подвеждащи дълбоки фалшиви видеоклипове и разпространяване на дезинформация. В здравеопазването има безпокойство относно поверителността на данните на пациентите в обучението на GAN. Въпреки тези проблеми GAN имат полезни приложения, като например подпомагане на криминални разследвания. Тяхното широко разпространено използване в различни сектори, включително създаване на филми и маркетинг, доведе до призиви за по-строги мерки за поверителност на данните и държавно регулиране на технологията GAN.

Контекст на генериращи състезателни мрежи (GANs).

GAN е вид дълбока невронна мрежа, която може да генерира нови данни, подобни на данните, върху които се обучава. Двата основни блока, които се конкурират един срещу друг за създаване на визионерски творения, се наричат ​​генератор и дискриминатор. Генераторът е отговорен за създаването на нови данни, докато дискриминаторът се опитва да направи разлика между генерираните данни и данните за обучение. Генераторът непрекъснато се опитва да заблуди дискриминатора, като създава информация, която изглежда възможно най-реална. За да направи това, генераторът трябва да научи основното разпределение на данните, позволявайки на GAN да създава нова информация, без всъщност да я запомня.

Когато GAN бяха разработени за първи път през 2014 г. от изследователя на Google Иън Гудфелоу и неговите съотборници, алгоритъмът показа голямо обещание за машинно обучение. Оттогава GAN са видели много приложения в реалния свят в различни индустрии. Например Adobe използва GAN за Photoshop от следващо поколение. Google използва силата на GAN както за генериране на текст, така и за изображения. IBM ефективно използва GAN за увеличаване на данните. Snapchat ги използва за ефективни филтри за изображения, а Disney за супер разделителни способности. 

Разрушително въздействие

Докато GAN първоначално беше създаден за подобряване на машинното обучение, неговите приложения преминаха съмнителни територии. Например дълбоко фалшиви видеоклипове постоянно се създават, за да имитират истински хора и да изглеждат така, сякаш правят или казват нещо, което не са направили. Например, имаше видеоклип на бившия президент на САЩ Барак Обама, който нарича бившия президент на САЩ Доналд Тръмп с унизителен термин, а изпълнителният директор на Facebook Марк Зукърбърг се хвали, че може да контролира милиарди откраднати данни. Нищо от това не се е случило в реалния живот. В допълнение, повечето дълбоко фалшиви видеоклипове са насочени към жени-знаменитости и ги поставят в порнографско съдържание. GAN също могат да създават измислени снимки от нулата. Например няколко дълбоко фалшиви журналистически акаунта в LinkedIn и Twitter се оказаха генерирани от AI. Тези синтетични профили могат да се използват за създаване на реалистично звучащи статии и идеи за лидерство, които пропагандистите могат да използват. 

Междувременно в сектора на здравеопазването нарастват опасенията относно данните, които могат да бъдат изтекли чрез използване на действителна база данни на пациенти като данни за обучение на алгоритмите. Някои изследователи твърдят, че трябва да има допълнителна защита или маскиращ слой за защита на личната информация. Въпреки това, въпреки че GAN е известен най-вече със способността си да мами хората, той има положителни ползи. Например през май 2022 г. полицията от Нидерландия пресъздаде видеоклип на 13-годишно момче, убито през 2003 г. Използвайки реалистични кадри на жертвата, полицията се надява да насърчи хората да си спомнят жертвата и да излязат нова информация относно студения корпус. Полицията твърди, че вече е получила няколко сигнала, но ще трябва да извърши проверки, за да ги провери.

Приложения на генеративни състезателни мрежи (GAN)

Някои приложения на генеративни състезателни мрежи (GAN) могат да включват: 

• Индустрията за създаване на филми създава дълбоко фалшиво съдържание, за да постави синтетични актьори и да заснеме отново сцени в постпродуцирани филми. Тази стратегия може да доведе до дългосрочни спестявания на разходи, тъй като няма да е необходимо да плащат допълнителни компенсации на актьорите и екипа.
• Нарастващото използване на дълбоки фалшиви текстове и видеоклипове за насърчаване на идеологии и пропаганда в различни политически спектъри.
• Компании, използващи синтетични видеоклипове, за да създават сложни брандиращи и маркетингови кампании, без да наемат реални хора, освен програмисти.
• Групи, които лобират за повишена защита на поверителността на данните за здравеопазване и друга лична информация. Това отблъскване може да притисне компаниите да разработят данни за обучение, които не се основават на действителни бази данни. Резултатите обаче може да не са толкова точни.
• Правителства, регулиращи и наблюдаващи фирми, които произвеждат GAN технология, за да гарантират, че технологията не се използва за дезинформация и измами.

Въпроси за коментар

• Имали ли сте опит с използването на GAN технологията? Какво беше изживяването?
• Как компаниите и правителствата могат да гарантират, че GAN се използва етично?