私たちの日常生活の中で、生成AIに触れる機会がとても増えています。おそらく一番代表的なのは、テキストのやり取りを自由自在にできるChatGPTです。画像に写り込んだ不要なものを消す「消しゴムマジック」機能も、多くのスマートフォンに搭載されていますよね。文章や画像だけでなく、動画生成AIの技術進歩により、AIが動画を作成することも可能になりました。実際に企業のプロモーションやエンターテインメントの世界で動画生成AIが活用されていますが、その機能を悪用する事例も増加しているのです。デマの拡散や詐欺などを目的として、「ディープフェイク」あるいは「フェイク動画」とよばれる“偽りの動画”がネット上で拡散される騒動が相次いでいます。この記事では、ディープフェイクの仕組みや実例を説明しながら、見破る対策に関しても解説していきます。
フェイク動画の事例を解説
ディープフェイク（フェイク動画）とは、映像や画像および音声の一部を生成AI技術によって加工して作られる、偽物のコンテンツを指します。機械学習の一つである「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語として、世に知れ渡ることになりました。フェイク動画を利用すると、実際は何も話していない特定の人物が何かを話したように、また本来行っていない動作をしたかのように、事実とは異なる情報を発信することが可能になります。プロモーションやエンターテインメントの範疇で用いるなら問題ありませんが、悪用されると大きなトラブルを招くリスクもあるのです。
悪意のもと生み出されたフェイク動画のうち、最も深刻なものは国際情勢や政治に悪影響を及ぼすケースです。これから、過去に世界を騒がせた悪用事例をいくつか紹介していきます。
●ウクライナのゼレンスキー大統領が、市民や兵士に「ロシア軍に降参する」ことを呼びかける動画が、Facebook上で拡散されました。同サービスを運営するMetaは、規約違反として当該動画を削除する措置を取っています。フェイク動画に映るゼレンスキー大統領は、本人よりも頭部が大きく声が低いなど違和感があったため、偽物だと判定できました。
●アメリカのバイデン大統領が、イスラエルとパレスチナの軍事衝突に関して、「大統領の権限で、徴兵法を発動する」と発言するフェイク動画がSNSで広まりました。また、父親がパレスチナ出身という女性モデルが「イスラエルを支持する」とスピーチする動画もネット上で拡散され、騒ぎになりました。
●アメリカで「15歳の娘を誘拐した」と犯人から連絡があり、身代金を要求される誘拐事件が発生しました。電話越しに、被害者の娘の声が聞こえてきたため、本当に娘が誘拐されたと信じてしまったそうです。実際は、娘の声をどこからか入手して、生成AIを元にして作成されたクローン音声だといわれています。
aiフェイク動画の作り方を知っておくと騙されにくくなる？
生成AI技術が格段に進化したことで、人間の目で見ても本物か偽物か判別つきにくいフェイク動画が増加しているのは事実です。では、フェイク動画はどのような方法で生成されているのでしょうか。主流な手段の一つ「GAN（敵対的生成ネットワーク）」について説明しましょう。
AIの機械学習を表現する言葉“ディープラーニング”は、DNN（ディープニューラルネットワーク）という仕組みを用いています。入力データと出力データの関係を分析することに加えて、入力と出力の間に中間層からいくつかのルールやパターンを見つけ出し、学習します。今では中間層を複数に分けて、より複雑かつ大量のデータを分析できるようになりました。
GAN（敵対的生成ネットワーク）は、GeneratorとDiscriminatorという2つのDNNから成り立ちます。Generatorから新たな画像や動画などのコンテンツが生成され、Discriminatorは本物とGeneratorが生み出した偽物を比較し、そのデータが本物か否かを判定する役割を担っています。大量のデータをインプットするGeneratorは、何度も新しい生成物を作り、Discriminatorが判定を繰り返すことで、だんだんと精度を上げていきます。そして、本物と見分けがつかないほど高品質なフェイク動画が生み出されるのです。
先程の事例でいうと、元々存在する映像に映る顔を、アメリカ大統領やウクライナ大統領の顔に加工する過程で、敵対的生成ネットワークが使用されます。Generatorが生成を行い、Discriminatorが偽物だと見抜けず“本物”という判定を出すまで、2つのDNNを学習させます。Discriminatorも、不特定多数が騙されるほどの高品質に達しているか正確に判定するため、ディープラーニングを繰り返しています。
このように、大量のデータを学習して生み出されるフェイク動画は、もはや人間が瞬時に区別するのも難しいレベルです。限りなく本物に近いからこそ、実在しない情報がネット上で急速に拡散され、多くの方が信じてしまうわけです。
フェイク動画の見抜き方
私たちが普段から利用するSNSや動画配信プラットフォームで、フェイク動画を目にする機会も当然あります。間違った情報に騙されることを避けるため、どのように見抜いたらいいのでしょうか。専門家によれば、疑わしい動画を見つけたら、以下の点をチェックしてみることを推奨しています。
●イントネーションやアクセントがおかしい
●顔の動きが不自然（表情が一定、まばたきの回数が多い/少ない、目の動き）
●画質が荒い
●身体の動きがなく、同じ動作を繰り返しているだけ
●影の見え方が不自然
パッと見て判断がつかない場合、すぐに本物だと信じるのではなく、その情報が真実なのか確認してください。たとえば、動画をアップロードしたアカウントが怪しい動画を大量に投稿していたり、コメント欄で他のユーザーが偽物だと指摘していないか。政治家や著名人に関する動画なら、別のニュースなどを調べて、発言内容が正しいものか確認できるはずです。
まとめ
生成AIは日々進化を続けており、詐欺や投資広告、政治的要素を含むフェイク動画もますます増加するのは確実です。技術革新によって新たな犯罪や悪質行為が生まれるのは世の常であり、それ自体を無くすことは大変難しいでしょう。だからこそ、私たちがインターネット上であらゆる動画を閲覧する際、フェイク動画と疑うべき部分がないか、本当に事実と受け入れていいのか、一度頭の中で考える習慣をつけるべきかもしれません。
フェイク動画の作り方に関しては別の方法も出てくるでしょうが、彼らの目的は同じです。我々を騙して、何かしらの利益を得ようと企てています。SNSやYoutubeを楽しむ以上、フェイク動画ともしっかり向き合うことが大切なのです。
