ディープフェイク(Deepfake)とは、人工知能(AI)を活用した高度な虚偽コンテンツ作成の一種で、人物を別人に見せかけるデジタル加工された画像や動画を指す。この手法は、誤報キャンペーンの一環として、有名人、政治家、ビジネスリーダーなどの著名人を標的にすることが多い。しかし、公人に限らず、ディープフェイクは一般個人に関する誤解を招く情報を広めることもできる。
ディープフェイクテクノロジーの種類
フェイス・スワッピング・ディープフェイクは、動画や画像において、ある個人の顔を別の個人の顔に置き換えるという、最も一般的な形態である。オーディオ・ディープフェイクでは、録音された個人の声が別の人物の声に置き換えられ、欺瞞的な音声効果が生み出される。テキスト・ディープフェイクは、特定の人物の文体を模倣した文章コンテンツを生成し、あたかもその人物が書いたかのように見せかけることに重点を置いています。
ディープフェイクの仕組み
ディープフェイク技術は、ディープラーニング・アルゴリズムを使用している。つまり、広範なデータ入力が可能な場合、このテクノロジーは問題を解決するためにそれらを教えることができる。ユーザーは、顔を入れ替えることでオリジナルの動画を再現し、視聴者にオリジナルだと思わせることができる。それでは、GAN(Generative Adversarial Network)として知られるディープフェイクの代表的な手法について詳しく説明しよう。
GAN(生成的敵対ネットワーク)として知られる計算手順は、実際の情報を模倣できる2つのニューラルネットワークを使用する。これらのネットワークは互いに「敵対」している。ジェネレーターと呼ばれる1つ目のネットワークは、新しいデータを作成する。識別器と呼ばれる2番目のネットワークは、真正性検証器として機能し、ジェネレーターによって生成されたデータが元のデータセットの一部であるかどうかを判断する。その役割は、本物のデータと偽物のデータを区別することである。この2つのネットワーク間の協調プロセスにより、本物のデータと見間違えるほど説得力のある出力が得られる。
GANは画像、動画、音声の生成に役立つ。GANはディープフェイクの生成に使われるデバイスだ。しかし、GANは偽データを本物と見紛うことができるのだから恐ろしい。印象的な出力を生み出しながら、機械の形をとることができるのだ。
エドモンド・ベラミーの肖像』というタイトルのアルゴリズムを使って作品が作られた。3人のフランス人学生(25歳)は、Obviousというアート集団を開発した。
Generative Adversarial Network(GAN)アルゴリズムは、2つのコンポーネントで構成されている。ひとつはジェネレーターと呼ばれるもので、膨大な肖像画のデータベースを用いて画像を作成する。例えば、「エドモンド・ベラミーの肖像」は、15,000枚の歴史的肖像画をシステムに投入して生成された。
2つ目のコンポーネントである識別器は、人間が作成した画像とAIが作成した画像を区別する役割を担っている。驚くべきことに、ベラミの肖像画は、識別器をうまく騙して人間が作ったと思わせることに成功した肖像画のひとつである。この肖像画は、架空のベラミー一家を表現した11のAI支援肖像画シリーズの一部であり、すべてこの技術を利用して集団が制作したものである。
ディープフェイク技術の応用
ディープフェイクAI技術は、極端な変化を自動化する役割を担っている。この技術は、創造的自由を促進しながらメディアファイルを開発することができる。にもかかわらず、Deepfakeの応用にはプラスもマイナスもある。まずはプラス面を見てみよう。
自律と表現
Deepfakeテクノロジーは、独裁政権の人権活動家やジャーナリストが、身元を守りながら不正を匿名で報告することを可能にする。また、障害者を含む個人がデジタルアバターを通じてオンラインで自己表現することを可能にし、自己表現とデジタル統合の新たな機会を提供する。
アクセスの容易さ
人工知能(AGI)を使用することで、より正確な聴覚、視覚、推論のためのツールを作成することができる。ユーザーは、AIが生成した合成メディアを使用することで、自分のエージェンシーを増強することもできる。AIベースのツールは、解決策をアクセシブルにし、より賢く、手頃な価格で、パーソナライズされたアクセシビリティ・ツールを作る自立性をユーザーに与えることができる。
学習と知識開発
教師は、子供たちに魅力的な授業を提供するためにDeepfakeを利用することができる。このAI技術は、伝統的なビジュアル形式を超えたレッスンを支援する。AIが生成した合成メディアは、教室で歴史上の人物に命を吹き込むことができる。再演の合成ビデオや音声は、改善や学習全体に大きな影響を与えることができる。
アート
Deepfakeは、高価なVFX技術を民主化すると同時に、ストーリーテラーのための強力なツールとなった。このテクノロジーは、エンターテインメント業界におけるチャンスを開くことができる。多くのYouTuber、コンテンツクリエイター、インフルエンサーが、AIが生成した合成メディアを最大限に活用している。それどころか、ゲーム業界もこれを使ってグラフィックや画像を強化することができる。企業は、1つのメッセージを異なる言語で使用することで、合成音声を利用することができる。
ディープフェイクの危険な応用
Deepfake技術から大きな利益を得ることができる。しかし、企業やクリエイターが使用すればするほど、危険性が高まります。Deepfakeファイルは、プロパガンダや偽の情報を広めたり、評判を傷つけたりする可能性があります。以下は、その一般的な危険性です。
偽の情報
偽のニュースや情報は、今日でも大衆を欺くために使用されています。政治姿勢やビジネス、社会活動を混乱させることもある。このテクノロジーは、実際には発言していないことを発言している人物を描いた偽のビデオを作成することで、人々の心に疑念を植え付けることができる。ニュースチャンネル業界は、プロパガンダや偽情報の拡散で先行している。
企業/個人の金銭的利益を引き出す
ディープフェイク技術を使えば、メディアファイルを改ざんし、CEOのような個人が虚偽の宣言をしているように見えるシナリオを捏造することが可能だ。このような操作の結果、経営幹部が実際には発言していないことを発表するビデオを映し出すことができる。この機能は、攻撃者が企業を脅迫するためにこのような偽装ビデオを作成し、報道機関やソーシャルメディア・プラットフォームに配信すると脅迫するなど、悪用される可能性への扉を開くものです。
フェイク動画
初期のディープフェイク技術を使って、トランプ大統領の代わりにタイ人俳優を起用したディープフェイク動画が作られた。この加工された動画はソーシャルメディアで大きな反響を呼び、広く注目を集めた。その後のバイラル動画では、最初の動画に登場した女優が大統領の描写は本物だと主張する一方、大統領本人はこの主張に反論している。
詐欺
ディープフェイクに基づく手口は、詐欺師の間で一般的な攻撃方法となっている。従業員を騙してお金を振り込ませるための偽の電子メールに頼る代わりに、詐欺師たちは電話を使うようになった。この電話では、会社のCFOやCEOのような説得力のある声を操り、従業員をより効果的に説得する。
アプリでディープフェイクビデオを作るには?
最近では、動画、音声、画像に対応したディープフェイク生成コンテンツが非常に多くなっている。ディープフェイク動画を作成するのに役立つアプリがいくつかあります。PCだけでなく、スマートフォンでも作成することができます。
DeepFaceLab
ディープフェイク動画を作成するための強力で広く使用されているツールで、研究や教育目的でよく使用される。高品質な動画を作成するには、高性能なGPU、大容量のRAM、AMDカードが必要。DeepFaceLabは、Deepfake動画を作成するために必要な素材を準備し、映像をエクスポートし、顔のみを抽出し、間違って検出された画像を削除し、顔移植画像を訓練し、エクスポートします。
FaceSwap
高度な機械学習技術を使って動画内の顔を入れ替えるオープンソースのディープフェイクアプリです。正確な顔の複製に畳み込みニューラルネットワークを利用し、エンターテイメントとプロフェッショナルなコンテンツ制作の両方に対応します。オープンソースのツールであるため、コミュニティ主導の機能拡張の恩恵を受けている。しかし、その使用は倫理的な懸念を引き起こし、AI主導のデジタルメディアの領域において、責任ある使用と潜在的な誤報や同意の問題に対する認識の必要性を強調している。
Jiggy
AI技術を活用したJiggyアプリは、静止画を楽しいGIFにアニメーション化し、ユーザーは画像から踊る人物のような生き生きとしたコンテンツを作成できる。ユーザーフレンドリーなインターフェイスで、娯楽目的に対応し、すべてのユーザーに写真アニメーションを身近なものにする。ソーシャルな共有や交流が促進される一方で、アプリで作成されたコンテンツを使用したり共有したりする際には、プライバシーや倫理的な配慮に留意する必要がある。
ディープフェイク技術は「大量混乱兵器」か?
人工知能の急速な進歩は、その将来的な制御が不確かなまま、比喩的なフランケンシュタインを生み出した。この成長は、AIを通じて生成された「フェイク・ピープル」を、情報発信の支配的人物として位置づける可能性がある。デジタルアバターによる偽情報の拡散は、効果的に対抗することが困難であり、社会構造に永続的な被害をもたらす可能性がある。
プーチンのデジタル複製がキエフへの核攻撃を予告し、世界中にパニックと混乱を引き起こすという仮想シナリオが証明しているように、欺瞞的なビデオの普及が進んでいることが懸念される。このシナリオは、AIが生成した誤報の潜在的な深刻さを強調している。
結論
人工知能によるディープフェイク・テクノロジーは、私たちの生活にポジティブな影響を与える素晴らしい機会を提示している。エンパワーメントのためのツールとして、芸術、表現、公共の安全、アクセシビリティ、ビジネスなど、さまざまな領域にわたって声と目的を与え、制限に関係なくすべての人に新たな可能性を提供する。しかし、合成メディアへのアクセシビリティの向上は、評判を傷つけ、証拠を捏造し、民主主義制度に対する国民の信頼を損なうなど、悪用されるリスクも高めている。継続的な進歩と強固な法的枠組みの導入により、ディープフェイクは非常に有益なテクノロジーになることが期待されています。
よくある質問
ディープフェイクは違法ですか?
Deepfakeのダウンロードは、偽コンテンツの作成に関与し、個人の名誉を毀損し、著作権侵害のリスクも伴うため、違法と見なされる可能性があります。
ディープフェイクを検出することはできますか?
現在のところ、不自然なまばたきや不正確な影などの欠陥によって識別できるディープフェイクもあるが、AIやGAN技術が進歩すればするほど、本物と偽物の区別はますます難しくなるだろう。大手ハイテク企業や大学が支援するDeepfake Detection Challengeのような取り組みが、このような高度な偽造を検出できるAIを開発するために進行中です。
ディープフェイクは無料か?
Deepfakeの技術は、多くの場合無料で利用でき、簡単にアクセスできるため、パソコンやスマートフォンがあれば誰でもDeepfake動画を作成することができます。
モーフィングとDeepfakeの違いは何ですか?
モーフィングでは、基本的な方法として、簡単なソフトウェアを使用して2つの画像を合成し、新しい画像を形成します。対照的に、ディープフェイクの作成は、より高度な技術を必要とし、非常にリアルなコンテンツを生み出します。
ディープフェイクの利点は何ですか?
ディープフェイク技術を活用することで、航空、軍事、医療などの分野におけるトレーニング用の本格的なシミュレーションを開発することができる。このアプリケーションは、実際の状況に効果的に対応し、重要な決断を下す能力を高めることができる。