生成AIの性能が向上したことで、専門的な知識が無くともスマホアプリを通じて気軽にディープフェイクを作成できるようになりました。本来ディープフェイクは映画などのコンテンツ制作、広告およびプロモーション用途を目的に開発されたものです。しかし近年、この機能を悪用して偽情報を拡散したり特定の人物を貶めるために利用するケースも散見されます。
ディープフェイクは正しく活用すればとても便利な、ビジネスシーンでも大いに役立つツールです。本記事では、ディープフェイクの基本的な仕組みから、スマートフォンで作る方法などについて解説します。
ディープフェイクとは？生成AIとの関連についても解説
“ディープフェイク”という言葉は、「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語です。AI技術を用いて、実在する人物や音声に別の人間や声を合成することで、まったく新しいコンテンツを作り出すことができます。一見すると本物か偽物か見分けがつかないほど自然な仕上がりとなり、既存の動画を編集した“ディープフェイク動画”がネット上で拡散されています。
基本的な仕組みは、大量のデータ（コンテンツ）をAIに学習させ、特定のパターンを認識させます。例えば日本人男性の画像を学習素材として読み込ませると、AIは画像データから日本人男性の特徴を抽出します。このような訓練を繰り返すことで、ユーザーの指示に沿ったリアルな画像および動画コンテンツを生成できるようになるのです。
生成AIの普及が広まり、PCサイトやスマホアプリでもディープフェイクを作ることが可能になりました。機能として人気なのは、「AI顔入れ替え」と呼ばれるものです。まず特定の顔写真画像を用意して、AIにアップロードしたあと、別の顔写真画像を指定すると顔部分だけが入れ替わります。不自然に見えないよう自動的に調整してくれるので、手間がかからないわけです。
一方、悪用するケースも増え、著名人の顔写真を合成して偽情報を拡散する動画を作ったり、アダルトコンテンツに使用する事例も出ています。このような罪を犯すとどんな罰則が適用されるかは後ほど説明します。いずれにせよ控えるべき行為です。
ディープフェイクをスマホで作る方法を調べてみた
私たちがディープフェイクを気軽に作るにはどうしたらいいのでしょうか。「DeepSwap」や「PhotoDirector」などスマートフォンに対応しているツールを使用すれば、比較的簡単に生成することができます。基本的な手順を覚えてコンテンツを生成するプロセスを把握しましょう。
①生成ツールを選定する
②元になるコンテンツと合成したいコンテンツを用意する
③顔の検出と分析を行う
④AIが新しい顔を合成する
⑤後処理を施す
順を追って一つずつ見ていくと、最初にどのツールを使用するか選びます。お試しなら無料で利用できるツール、ビジネス用途なら目的に適した高性能なツールを選択すべきです。
次に、元となる画像や動画を用意します。もし顔入れ替えを行う場合、顔部分が鮮明に映っているものが良いでしょう。そして交換したい画像や動画を選びます。こちらも高画質で顔の角度や表情が分かりやすいかを重視します。
選んだツールに元のコンテンツをアップロードすると、顔の検出および分析が始まります。続けて合成したいコンテンツを選択し生成を行います。この時AIは自動的に顔の特徴を把握して、元のコンテンツに自然に溶け込むよう調整してくれるのです。
たったこれだけでディープフェイクが完成しますが、より精度を高めるためには色調補正や音声調整、光や影の調整が必要です。多くのツールには編集機能が付随しており、すべてアプリ内で完結します。仕上がったコンテンツをエクスポートないし端末に保存すれば、自分だけのディープフェイクが出来上がりです。
ディープフェイクに関する法律についても調べてみた
ディープフェイクを悪用したコンテンツの拡散がネット上で大きな問題となっています。2020年には、ディープフェイク技術で制作されたアダルト動画を紹介するサイトを運営していた男性2名を逮捕する事件が発生しました。彼らは、著名な女性芸能人の顔と既存のアダルト動画に出演する人物の顔を入れ替えて、あたかも女性芸能人がアダルトビデオに出演しているかのような動画、いわゆる“ディープフェイクポルノ”を拡散した罪に問われたのです。
有名人に限らず、一般女性がSNSに投稿した動画・画像や卒業アルバムの写真を悪用してディープフェイクを生成する事例も後を絶ちません。もしこのようなコンテンツを作成してネット上に投稿した場合、どのような罪で罰せられるのでしょうか。
日本国内で生成AI自体を規制する法律は存在せず、刑法230条1項の名誉毀損罪に該当するケースが多いです。名誉毀損が認められれば、「3年以下の懲役もしくは禁錮もしくは50万円以下の罰金」が処されます。
また、既存のアダルト動画を無断で悪用したディープフェイクポルノにおいては、著作権侵害に該当する場合もあります。権利者の許諾を得ずに勝手に特定の女性の顔を合成する行為は著作者人格権違反です。著作権法第119条1項は、「10年以下の懲役もしくは1,000万円以下の罰金もしくは併科」という刑罰を定めています。
覚えておくべきなのは、自分がディープフェイクの制作者ではなく、SNS上でリツイート（拡散）したり、まとめサイトにURLを掲載するだけでも罪にあたることです。いいねを押す、あるいはコメントなしでコンテンツをリツイートする行為も、被害者の社会的地位を低下させます。実際に名誉毀損を理由とした損害賠償請求を認めた判決も出ていますから、安易にディープフェイクポルノを拡散するのは絶対にやめてください。
まとめ
ディープフェイクについて最近は悪用に関するネガティブな話題が増えてしまったのは残念でなりません。最新技術の生成AIに対する法規制はまだ進んでいないため、悪用されやすいともいえるでしょう。
とはいえ、実際にディープフェイクを作成してみると、違和感なく合成されているのでAIが生成したと気付かないことも多いです。スマホアプリで手軽にできるほど、技術は進化しています。純粋に面白いコンテンツを制作する目的で、エンタメ業界や広告業界にてますます広がると思われます。私たちが適切なモラルを保ち、第三者の人権や権利を侵害していないか判断しながら活用していきたいですね。
