生成AIは日常生活・ビジネスシーン双方において、大きな変化を起こす革新的な技術です。仕事の効率化が期待でき、多くの企業で導入が進む一方、悪用してトラブルに発展する事例も増えてきました。
既存のデータや情報を学習して画像や動画などを生成するという仕組みであるため、一番問題になるのは著作権です。AIが自社コンテンツの権利を侵害したとして、裁判沙汰になるケースもすでに複数実在します。
本記事では、生成AIが著作権を侵害したとされる具体的な事例を取り上げながら、活用するうえでの注意点を見ていきたいと思います。
生成AIのトラブル事例を調べてみた
2024年5月、生成AIを悪用してランサムウェアを作成したとして、不正指令電磁的記録作成容疑で神奈川県川崎市の男性が警視庁に逮捕されました。生成AIを使用してコンピューターウイルスを生み出し、逮捕に至る事例は国内では初だったため、大きな話題になったのです。容疑者は、複数の生成AIサービスにより不正プログラムのソースコードを作成しました。「ランサムウェアによって楽に金を稼ぎたかった」と供述しており、元工場作業員でAIの専門的な知識はなかったといいます。ウイルスの作成方法については、生成AIに遠回しの質問を繰り返しながら手探りで進めたそうです。
ITやAI技術に精通していない一般人でも、生成AIやインターネット上の情報を活用することでランサムウェアを開発できてしまうことは、かなり衝撃的ですよね。東京地裁での初公判を控えており、当該男性には懲役4年が求刑されています。
他にも、アメリカの大手メディア「ニューヨーク・タイムズ」がChatGPTを運営するOpenAI社を相手に、記事を無断で生成AIの学習データとして使用したことを“数十億ドルにおよぶ損害”だと訴えています。ニュース記事が学習に用いられている可能性は高いですので、それが権利侵害に該当するのか。判決は2024年10月時点でまだ出ていません。
生成AIの著作権侵害の事例（判例）を解説
過去に訴訟となった事例から、ウルトラマンで有名な「円谷プロダクション」が中国企業を相手に裁判を起こしたケースを紹介します。原告側の「上海新創華文化発展有限公司」という企業は、ウルトラマンシリーズ作品に関して、円谷プロダクションから複製権などを付与されていました。中国において、ウルトラマンに関連するコンテンツの独占的権利を認められ、事業を展開しています。
被告側の「AI公司」は、AI画像生成機能などを運営する企業です。プロンプトに“ウルトラマンを生成して”などと入力すると、ウルトラマンそっくりな画像を閲覧およびダウンロードできる状態になっていました。それを原告が発見して、画像生成の停止、ウルトラマンコンテンツを学習データから削除、および損害賠償を請求したのです。
広州インターネット法院は、ウルトラマン画像の独創的表現を部分的または完全に複製したものと判断しました。複製権侵害、翻案権侵害を認め、類似画像生成を停止する技術的措置を通達。「権利侵害行為に対し相応の賠償責任を負う」と損害賠償を命じました。生成AIの創作物も著作権侵害の対象となり得るという理論を示し、生成AIサービス事業者による著作権侵害を認めた初の判決として、大きな意味を持つ出来事です。
ソニーグループ傘下の大手レコード会社「ソニーミュージック」ら音楽大手3社が、アメリカのAI企業「Suno」と「Udio」を同国の連邦裁判所に提訴した事例もあります。AI企業2社は、ソニーミュージックやユニバーサル・ミュージック・グループが権利を持つ音源を、生成AIの学習データとして無断で使用された疑いが持たれています。訴状によれば、「アーティストの作品と直接競合し、陳腐化させ、最終的には人間のアーティストの作品を凌駕する」ような音楽を作るべく、AIに膨大な楽曲を学習させていたといいます。
大手レコード3社は、AI2社に対して、無断使用された楽曲1つにつき最大15万ドルという破格の損害賠償金を請求しました。音楽の著作権をめぐって、生成AIに対し提起された世界初の訴訟として、動向を注目したいところです。
生成AIでは、出力するコンテンツに自動的に音楽を合わせる機能を備えたツールも多いです。理論上、AIが過去にリリースされた音源をもとに訓練され、新たな楽曲を制作することも可能にはなるでしょう。問題なのは、「Suno」と「Udio」はユーザーのプロンプトによって、特定のアーティストを模倣する楽曲を生成できる仕様が組まれている点です。音楽の著作権保護の範囲や、AI技術との兼ね合いという観点からも、判決が気になる事例です。
画像生成AIが問題となっている事例
日本国内で画像生成AIをめぐるトラブルは、2020年以降増加傾向にあります。2021年2月、福島県および宮城県で震度6強を観測した地震が発生した際、当時の加藤勝信官房長官の画像が改ざんされる事例が発生しました。地震発生後に記者会見を開いた同氏が、会見の場で笑みを浮かべている画像がネット上で拡散されたのです。この画像は、元々の画像を生成AIによって加工し、官房長官が不謹慎に笑っていたかのごとく世間に誤解させる意図で何者かが作成したものです。フェイク画像に騙されて批判の声を上げる方も少なくなく、画像生成AIが印象操作に悪用される事例として注目を浴びました。
2022年9月には、台風15号による豪雨が発生した際、静岡県の被災状況を映したという被害情報の偽画像が出回る騒動が起きました。こちらも生成AIによって実際の画像を加工して作成したといい、多くの人が信用してしまいました。画像生成AIを用いると、簡単にフェイク画像を生み出すことができ、本物か見分けるのも難しくなっています。特にネット上で拡散されている画像は、不自然な点がないか、一度自分の目で確認すべきだといえます。
まとめ
生成AIは最新のテクノロジーであるため、法整備が進んでいません。そのため、具体的に違法となる範囲が曖昧で、すぐに取り締まるのが難しい状況です。AIの普及当初から悪用が心配されてきましたが、大手企業がAI企業相手に訴訟を起こす事例が増えました。これ以上看過することはできないという意思表示に思えます。私たちも、著作権など権利侵害を犯さないよう、十分注意してAIを利用していくことが求められます。
