敵対的生成ネットワーク (GAN): 合成メディアの時代

• 著者：
• 著者名

  クォンタムラン・フォーサイト
• 2023 年 12 月 5 日

洞察の要約

ディープフェイクの作成で知られる敵対的生成ネットワーク (GAN) は、現実の顔、声、マナーを模倣した合成データを生成します。 その用途は、Adobe Photoshop の強化から Snapchat でのリアルなフィルターの生成まで多岐にわたります。 ただし、GAN は誤解を招くディープフェイク動画の作成や誤った情報の拡散によく使用されるため、倫理的な懸念があります。 医療業界では、GAN トレーニングにおける患者データのプライバシーについて懸念があります。 こうした問題はあるものの、GAN には犯罪捜査の支援など、有益な用途があります。 映画制作やマーケティングなどのさまざまな分野で広く使用されているため、より厳格なデータプライバシー対策や GAN テクノロジーに対する政府規制を求める声が高まっています。

敵対的生成ネットワーク (GAN) のコンテキスト

GAN は、トレーニングされたデータと同様の新しいデータを生成できるディープ ニューラル ネットワークの一種です。 幻想的な作品を生み出すために互いに競い合う XNUMX つの主要なブロックは、ジェネレーターとディスクリミネーターと呼ばれます。 ジェネレーターは新しいデータを作成する責任を負い、ディスクリミネーターは生成されたデータとトレーニング データを区別しようとします。 ジェネレーターは、可能な限り本物に見える情報を作成することで、常にディスクリミネーターを騙そうとします。 これを行うには、ジェネレーターはデータの基礎となる分布を学習し、GAN が実際に情報を記憶することなく新しい情報を作成できるようにする必要があります。

2014 年に Google の研究科学者イアン グッドフェローとそのチームメイトによって GAN が初めて開発されたとき、このアルゴリズムは機械学習に大きな期待を寄せていました。 それ以来、GAN はさまざまな業界で実際に多くのアプリケーションが使用されてきました。 たとえば、Adobe は次世代 Photoshop に GAN を利用しています。 Google は、テキストと画像の両方の生成に GAN の力を利用しています。 IBM はデータ拡張に GAN を効果的に使用しています。 Snapchat はこれらを効率的な画像フィルターに利用し、Disney は超解像度に利用しています。 

破壊的な影響

GAN は当初、機械学習を改善するために作成されましたが、そのアプリケーションは疑わしい領域を超えています。 たとえば、ディープフェイク動画は、本物の人間を模倣し、実際にやっていないことをしているかのように見せかけるために常に作成されています。 たとえば、バラク・オバマ元米大統領が同じドナルド・トランプ元米大統領を軽蔑的な言葉で呼んだり、フェイスブックの最高経営責任者（CEO）マーク・ザッカーバーグが何十億もの盗まれたデータを制御できることを自慢したりする動画があった。 これらはどれも現実には起こりませんでした。 さらに、ほとんどのディープフェイク動画は女性有名人をターゲットにしており、ポルノコンテンツに配置されています。 GAN は架空の写真をゼロから作成することもできます。 たとえば、LinkedIn と Twitter 上のいくつかのディープフェイク ジャーナリスト アカウントは AI によって生成されたものであることが判明しました。 これらの合成プロファイルを使用して、宣伝活動家が使用できる現実的な響きの記事や思想的リーダーシップに関する記事を作成できます。 

一方、ヘルスケア分野では、実際の患者データベースをアルゴリズムの学習データとして利用することでデータが漏洩する可能性があるとの懸念が高まっている。 研究者の中には、個人情報を保護するために追加のセキュリティ層またはマスキング層が必要であると主張する人もいます。 ただし、GAN は人々を欺く能力があることでよく知られていますが、プラスの利点もあります。 たとえば、2022年13月、オランダの警察は、2003年に殺害されたXNUMX歳の少年のビデオを再現した。警察は、被害者のリアルな映像を使用することで、人々が被害者を思い出し、告発するよう促したいと考えている。コールドケースに関する新しい情報。 警察はすでに数件の情報提供を受けているが、それらを確認するために身元調査を行う必要があると主張している。

敵対的生成ネットワーク (GAN) のアプリケーション

敵対的生成ネットワーク (GAN) のアプリケーションには、次のようなものがあります。 

• 映画制作業界は、合成俳優を配置し、ポストプロダクション映画のシーンを再撮影するディープフェイク コンテンツを作成しています。 この戦略は、俳優やスタッフに追加の報酬を支払う必要がないため、長期的なコスト削減につながります。
• さまざまな政治的領域にわたってイデオロギーやプロパガンダを促進するために、ディープフェイクのテキストやビデオの使用が増加しています。
• プログラマー以外の実際の人材を雇うことなく、合成ビデオを使用して精緻なブランディングやマーケティング キャンペーンを作成する企業。
• 医療情報やその他の個人情報のデータプライバシー保護の強化を求めてロビー活動を行っている団体。 この反発により、企業は実際のデータベースに基づいていないトレーニング データを開発するよう圧力を受ける可能性があります。 ただし、結果はそれほど正確ではない可能性があります。
• 政府は、GAN テクノロジーが誤った情報や詐欺に使用されていないことを保証するために、GAN テクノロジーを製造する企業を規制および監視します。

コメントする質問

• GAN テクノロジーを使用した経験はありますか? どのような経験でしたか？
• 企業や政府は、GAN が倫理的に使用されていることをどのように確認できるでしょうか?