ディープフェイクという言葉を目にしたことがある人は多いのではないでしょうか。ディープフェイクとは、生成AIによって動画・画像・音声などを合成し、現実とは異なるコンテンツを作成すること、または作成されたコンテンツそのものを指します。エンターテインメント業界やビジネス分野で有効活用される一方で、ディープフェイクを悪用した犯罪行為も問題視されるようになってきました。
「ディープフェイクって具体的に何？」「ディープフェイクは有益なもの？それとも有害なもの？」など、疑問をお持ちの方もいらっしゃることでしょう。
そこで本記事では、ディープフェイクの本質と特徴、詐欺などの悪用事例とその対策、ポジティブな活用例、関連する法規制について詳しく解説していきます。ディープフェイク技術の進化と普及に伴い、私たちが直面する課題や考慮すべき点についても触れていきますので、ぜひ最後までお読みください。
目次
ディープフェイクとは
ディープフェイクとは、AIの一種である生成AIを使用して動画・画像・音声などを合成し、現実とは異なるコンテンツを作成すること、またはそのようにして作成されたコンテンツそのものを指します。
この技術は、エンターテインメント業界やビジネス分野で有効活用される一方で、悪用された場合に犯罪につながる可能性があるため、社会的な問題として注目を集めています。
ディープラーニング＋フェイク
ディープフェイクとは、AI技術を用いて音声や動画を合成・加工して生み出された、現実には存在しない映像などを作成すること、または作成されたコンテンツのことを指します。ディープフェイクという名前は、「ディープラーニング（深層学習）」と「フェイク（偽物）」が組み合わさった造語です。近年、AI技術の進化にともなって、誰でも簡単にディープフェイクを作成できるようになったことで、急速に注目が集まっています。
ディープフェイクでは、GAN（Generative Adversarial Network（敵対的生成ネットワーク））と呼ばれる生成モデル技術が使われています。GANは生成器であるジェネレーターが画像や映像を生成し、識別器であるディスクリミネーターが生成物が本物か偽物かを判断するプロセスを繰り返す技術です。ジェネレーターとディスクリミネーターは人工的に脳神経細胞の仕組みをコンピューターで再現し、人間のような深い思考を機械が行うことを実現したディープラーニングの学習方法の１種であるディープニューラルネットワーク（DNN）で構成されています。この2つのディープニューラルネットワークに競争させることで、最終的に限りなく本物に近いフェイク映像・画像の生成が可能となるのです。このようにして、ディープフェイクは作られています。
関連記事
・シンギュラリティとは！意味といつどう起こりえるものなのかを解説
・生成AI出現以降のB2Bマーケティング手法はどう変わる？B2Bマーケの第一人者が解説
・マーケティング成功へのカギ：AIは上級パートナーとして使い倒せ
ディープフェイクの脅威
ディープフェイクで作成された映像は、現実に存在するものを映し出しているわけではありません。そうした映像を作成すること自体は、決して不正であるとはいえません。しかしディープフェイクは、作成された存在しない映像を利用して「実在する人の評判を落とす」「見た人を騙す」「社会に悪影響を与える」「犯罪行為をはたらく」といった悪意ある使い方もできてしまう点が脅威とされています。
ディープフェイクで作成された映像は、目元や口元の動き、顔の表情などの細部をじっくり見てみると、違和感を覚えることがほとんどです。そのため、疑いの目を持っていれば本物か偽物かを判別することは難しくないでしょう。しかし、スマートフォンなどの小さな画面で短時間の映像を視聴する場合、違和感に気づくことができない可能性もあります。さらに、その映像が悪意を持って作成されたものであれば、視聴した人が何らかの被害を受けたり、社会的な混乱を招いたりする可能性もあるのです。詳しくは後述しますが、実際にディープフェイク映像によって、法人に数十億円もの詐欺被害が出た事例もあります。
このようなことから、ディープフェイクを「偽物だとすぐわかる」と軽視するのではなく、大きなトラブルにつながる脅威を持つものと認識し、騙されない心構えや姿勢を持つことが大切です。ディープフェイク技術の進化は日々進んでおり、今後さらに精巧な映像が作成される可能性も否定できません。そのため、常に最新の情報を入手し、批判的思考を持って情報に接することが重要となってきます。
ディープフェイク詐欺の例
2024年5月、イギリスのエンジニアリング大手多国籍企業のアラップは、ディープフェイクを用いた詐欺被害に遭いました。詐欺グループはディープフェイクによって最高財務責任者（CFO）になりすまして社内会議を行い、香港オフィスの経理担当を騙して2億香港ドル（約40億円）を自身の口座に振り込ませたというものです。
最初にCFOを装ったフィッシング・メッセージが経理担当者に送られました。同社員はそのメッセージを受け取り、ディープフェイクによって作られた偽りのCFOや他の代表者とのビデオ会議に参加。そして送金指示に従って約40億円もの大金を送金したとのことです。
この詐欺事件で特徴的なのが、企業のシステムはウイルスなどによって侵害されていない点です。たった一通のフィッシング・メッセージを入口とし、精巧なディープフェイク映像によって、一人の社員を騙して信じ込ませたうえで大量送金を行わせています。経理担当はもちろん、その他の社員も被害が発覚するまで一切疑うことがない、そんな状況を簡単に生み出せてしまうディープフェイクを利用した手口は、新たな詐欺手法として今後も頻度が増える恐れがあります。
ディープフェイクの悪用事例
インターネット上に流れるデマは、社会に悪影響を与える可能性があります。偽物の情報と本物との見分けがつかないほどに作り込まれているケースもありますから、注意が必要です。近年、生成AIが急速に進化し、ディープフェイクによる精巧な嘘の映像を比較的簡単に作成できるようになりました。結果として、ディープフェイクを悪用し、不正や犯罪を行うケースが増えているのです。
ディープフェイク技術の発展により、映像や音声の合成・加工が容易になったことで、悪意ある人物が様々な形で不正利用する事例が報告されています。これらの悪用事例は、個人のプライバシーを侵害するだけでなく、社会全体に混乱をもたらす可能性があります。
ここでは、ディープフェイクの具体的な悪用事例をいくつか紹介します。これらの事例を知ることで、ディープフェイク技術がもたらす潜在的な脅威について理解を深めることができるでしょう。
フェイク動画（なりすまし）
フェイク動画（なりすまし）は、ディープフェイクの悪用事例として多くの人が容易に想像できるものでしょう。
国際的に著名な政治家が、過激で偏向した思想のメッセージを発信しているようなフェイク動画が作成・拡散されれば、国際社会に深刻な影響を及ぼす可能性があります。例えば、ある国家元首が隣国を侮辱する発言をしたかのようなフェイク動画が広まり、多くの人々がそれを真実だと信じてしまったとします。このような事態が発生すれば、国家間の関係が著しく悪化する恐れがあります。さらに、人やモノの往来が減少し、社会的・経済的な打撃を被る可能性も否定できません。
現実には存在しないフェイク動画であっても、人々を欺くほど精巧に作られていれば、国家レベルで甚大な被害が生じてしまう危険性があるのです。このような理由から、フェイク動画（なりすまし）は特に警戒すべきディープフェイクの悪用事例といえるでしょう。
フェイクポルノ
フェイクポルノ動画も近年問題視されているディープフェイク映像の一つです。フェイクポルノとは、ポルノ作品の出演者の顔を差し替えて、あたかも差し替えられた人物がポルノ作品に出演しているかのように見せる映像のことです。
ディープフェイクでは、作品に出演している人物の顔を別人の顔に差し替え、一つの動画にすることができます。実際に、アダルトビデオに出演している女優の顔を女性アイドルや芸能人の顔に差し替えてディープフェイク映像を作成し、「流出」といった形でSNSにて拡散されていることがあります。こうしたフェイクポルノを作成する理由は、女優の社会的地位を失わせる、興味本位・面白半分などさまざまです。いずれにせよ、フェイクポルノ作成・拡散によって名誉毀損や著作権法違反の疑いで逮捕されているケースもあり、危惧しなければならない悪用事例といえるでしょう。
このような行為は、被害者の尊厳を著しく傷つけ、精神的苦痛を与える可能性が高く、深刻な人権侵害につながります。また、フェイクポルノの拡散は、インターネット上で急速に広がる可能性があり、一度拡散されてしまうと完全に削除することが困難になるため、被害者への長期的な影響も懸念されます。
フェイクニュースとしての拡散
ディープフェイクにて作成した動画や画像を用いてフェイクニュースを拡散させ、社会に混乱を与える可能性も高まっています。
ディープフェイク技術では、人物の映像だけでなく、架空の災害映像や架空の衛星写真なども容易に作成可能です。たとえば、悪意ある人物が災害時にディープフェイクで災害映像を作成し、「甚大な台風被害が発生」「大地震により死者◯◯万人」といった文言を添えて拡散した場合などが該当します。このような悪質なデマを信じ込む人が多ければ、無用な混乱を招くリスクがあるでしょう。
さらに、ディープフェイクを用いたフェイクニュースは、政治や経済の分野でも深刻な影響を及ぼす可能性があります。例えば、架空の政治家の発言や、存在しない経済指標の変動などを偽造し、拡散することで、選挙結果や株価に影響を与える可能性も考えられます。
このような状況下では、メディアリテラシーの向上が重要となります。情報の真偽を見極める能力を養い、複数の信頼できる情報源を確認する習慣をつけることが、フェイクニュースの影響を最小限に抑える一つの方法となるでしょう。
関連記事
・リテラシーとは？ITリテラシーの意味も含め解説します
・ネットリテラシーとは！意味を分かりやすく解説！
・SNSとは？種類や特徴、使い方と注意点を簡単にまとめ
ソーシャルエンジニアリング
ディープフェイクを用いた、ソーシャルエンジニアリング被害も懸念されています。
ソーシャルエンジニアリングとは、マルウェアなど悪質なソフトウェアを用いることなく、システムやネットワークにログインするために必要なIDやパスワードを盗む手法のことです。たとえば、カスタマーサポートになりすます、端末の操作を見るなどといった方法で重要な情報を盗み出します。近年は、本物そっくりに作り込まれたフィッシング・メッセージやフィッシング・サイトを用いて、IDやパスワードを盗むといったケースも少なくありません。
ソーシャルエンジニアリングは、ウイルス対策ソフトなどでは防ぎようがありません。なぜなら、人の心理の隙や行動のミスを狙ったアナログな攻撃手法であるためです。前述の詐欺の例でも、フィッシング・メッセージとディープフェイクを組み合わせています。本物そっくりの最新映像を生み出す最新AI技術とアナログ手法の組み合わせは、鋭く人の心の隙をつき、大手企業の社員すらも騙してしまう、大きな脅威といえるでしょう。
このような手法は、個人情報の窃取や金銭的な被害をもたらすだけでなく、企業の機密情報漏洩にもつながる可能性があります。そのため、組織全体でセキュリティ意識を高め、ディープフェイクを含む最新の脅威に対する教育や訓練を継続的に実施することが重要です。
関連記事：スパムとは？意味や種類、迷惑メールの見分け方や対処法
詐欺広告
ディープフェイクは詐欺広告に使われることも少なくありません。
WebサイトやSNSではさまざまな広告が掲載されています。それらのCM動画やチラシに芸能人や有名人が起用されることは決して珍しくありません。実はそうした著名人が出演する広告でも、悪意を持ってディープフェイクを活用しているケースがあるのです。たとえば、ある商品を有名な芸能人が褒めて、おすすめするといった動画があったとします。よくあるCMのように思えても、ディープフェイクによって、出演者の顔や声から芸能人のものに入れ替えて生成している可能性があるのです。そして、フィッシング・サイトや詐欺サイトに誘導し、利用者から金銭を騙し取るといったことが行われているのです。
ディープフェイクによる映像は、疑って見れば違和感があるため、詐欺広告であることを見抜くことも可能です。しかし、小さい画面で見ていると違和感に気づきにくく、騙されてしまう可能性もあります。また、その有名人のファンの場合、「本人が紹介しているなら間違いない」と盲目的になってしまい、詐欺広告に騙されてしまうこともありえます。
関連記事：日本アドバタイザーズ協会緊急提言の意味する事 なりすまし広告問題について【デジタル広告の現状と課題 長澤秀行 連載第1回】
不正認証
不正認証もディープフェイクで懸念されているものです。
近年の技術の進歩によって、さまざまなツールで顔認証や声紋認証などが当たり前に搭載されています。こうした生体認証を利用したセキュリティシステムは、IDやパスワードよりも信頼性が高いとされています。
しかし、ディープフェイクを用いることで、生体認証の強固なセキュリティをいとも簡単に破ってしまう可能性があります。悪意ある人間が、ディープフェイクによって顔を入れ替えて、他人になりすまし生体認証をパスするーーそんな信じられないようなことも可能なのです。
顔認証はスマートフォンのロック解除にも使われる身近な生体認証です。もしディープフェイクによってたやすくログインできるようになれば、情報漏洩リスクは今より格段に高まってしまうことでしょう。このような不正認証の可能性は、個人情報保護の観点からも深刻な問題となる可能性があります。
ディープフェイクと生成AI
近年、ディープフェイクの作成と拡散が急増しています。この現象の背景には、生成AI技術の著しい進歩があります。生成AIの発展により、以前は専門的な技術や知識が必要だったディープフェイク制作が、誰でも手軽に行えるようになりました。
生成AIは、既存のデータや情報を学習し、新たなコンテンツを自動的に生成する人工知能技術です。この技術を用いることで、動画や画像の高度な加工・合成が驚くほど容易になりました。例えば、顔の入れ替えや表情の操作、さらには音声の模倣まで、生成AIを活用すれば短時間で精巧なディープフェイクを作り出すことが可能です。
こうした技術の民主化は、創造性の発揮や新たな表現方法の開拓といったポジティブな側面がある一方で、悪用のリスクも高めています。簡単にディープフェイクが作成できるようになったことで、なりすましや詐欺、フェイクニュースの拡散といった問題が深刻化しています。
社会全体としては、生成AI技術の発展とディープフェイクの普及がもたらす影響について、慎重に考察し対策を講じていく必要があります。技術の進歩と倫理的な利用のバランスを取ることが、今後ますます重要になってくるでしょう。
「生成AI」によりディープフェイクの作成が簡単に
ディープフェイクとは前述の通り、元からある動画や画像を加工・合成することで生み出された、本物ではないコンテンツのことです。動画・画像の加工・合成は人間が手作業で行うのではなく、生成AIによって行われます。
生成AIは、AI技術の進化によって生まれた新たなAIの活用法です。単純なコード作成や定型的な文書作成の自動化はもちろん、AIを活用してクリエイティブなコンテンツを生み出すこともできます。
こうしたコンテンツ生成機能を持つ生成AIが登場したことで、ディープフェイクの作成はとても簡単になりました。従来であれば、動画や画像の加工・合成にはかなりのスキルが求められましたが、生成AIにより専門的なスキルがなくても簡単にディープフェイクを作成が可能となったためです。生成AIを活用して誰でも簡単・気軽に利用できる「顔交換アプリ」も登場するなど、ディープフェイク作成は一般化してきています。
関連記事：画像生成AIとは？イラストが生成される仕組みとおすすめサービス7選
「生成AI」について日本に規制する法律はない
生成AIそのものは、これまで人間が行ってきた作業を自動化・効率化できるものです。多くの産業分野で活用が進んでおり、生産性向上や新たな価値創造に貢献しています。しかし、生成AIに特化した規制法は日本にはまだ存在しません。
一方で、生成AIを用いて作成されたコンテンツに関しては、既存の法律が適用される可能性があります。例えば、著作権法や肖像権、個人情報保護法などが該当します。ディープフェイクなどの悪用事例に対しては、名誉毀損や詐欺罪などの刑法が適用されることもあります。
現在、日本政府は生成AIの健全な発展と安全な利用を目指し、ガイドラインの策定や法整備の検討を進めています。今後、技術の進歩や社会への影響を見極めながら、適切な規制のあり方が議論されていくことでしょう。
ディープフェイクの主な技術
ディープフェイクで作成されるコンテンツには、「声」と「顔」を生成する技術が用いられています。以下で、ディープフェイクで用いられる主な技術について解説します。
「声」：リップシンク、ボイスクローンなど
声の生成で用いられる技術には「リップシンク」「ボイスクローン」などがあります。
リップシンクとは、音声に同期させて口の動きを自然にする技術のことです。音声信号から適切な口の動きを推定して、顔に合成させることで、自然に会話しているような見た目を生み出せます。
ボイスクローンは、人の声をデジタル複製する技術です。ある人の話し方のパターン、イントネーション、アクセントなどを分析して声を複製します。話者の声質はもちろん、微妙なニュアンスも再現することで、自然な音声を作成することも可能です。
こうした技術を組み合わせると、たとえば、日本語吹き替えのハリウッド映画で、役者本来の声で日本語を話し、なおかつ口の動きを言葉に合わせてスムーズにできるようになる可能性もあります。その一方で、政治家が本来語るはずのない偏った思想の演説をしているかのような、悪意あるコンテンツ作成もできてしまうのです。
「顔」：フェイススワップ、パペットテクニックなど
ディープフェイクの顔に関する技術には「フェイススワップ」や「パペットテクニック」などがあります。
フェイススワップとは、映像や画像に映る人物の顔を別の人物の顔に置き換える技術のことです。高度なAIアルゴリズムによって大量の顔画像から特徴を学習し、自然な形で顔を置き換えられます。
パペットテクニックとは、ある人物の顔の表情や身体の動きを、別の人物に転写する技術のことです。表情の特徴やモーションキャプチャデータの解析によって、まるで人が入れ替わるかのように転写を行います。
これらの技術を用いれば、デジタルアバターの製作やアクションスタントの代役などに活用可能です。その一方で、本物のようなフェイクポルノ映像など、悪意あるコンテンツが作成される危険性もあります。
悪質なものを見破るには
生成AI技術の進化により、ディープフェイクによって作成された映像・画像を見破るのは難しくなってきています。自分自身が攻撃対象でなかったとしても、油断はできません。SNSでディープフェイクコンテンツを見て、それを拡散してしまえば、犯罪に加担することにもなりかねないためです。
ここでは、悪質なディープフェイクを見破るために覚えておきたいポイントを解説します。
不自然な動きのチェック
まずは、そのコンテンツに不自然な点や動きがないか確認しましょう。
たとえば、個人レベルで簡単に作成できるチープフェイクコンテンツであれば、顔がぶれたり口の動きが乱れたりなど不自然な点が数多く見られます。精巧に作られたディープフェイクでも、指の数が違う、表情が硬い、背景と顔・身体に明らかな境界線があるなどの、不自然な箇所が見られることがあります。
不確かな情報に騙されないためにも、注目されている動画・画像であればあるほど疑いの目を持ち、不自然な点がないかをチェックすることをおすすめします。
情報源の確認
真実かどうか疑わしいコンテンツを発見したときは、それを鵜呑みにするのではなく、情報源を必ずチェックしましょう。
ディープフェイクによる偽りの情報・コンテンツがSNSなどで拡散されている場合、公式サイトやSNS、メディアなどで注意喚起の情報が出されていることがあります。この場合、情報源を確認することで偽りの情報であることがわかります。
SNSの公式アカウントが、ディープフェイクコンテンツと思しき情報を拡散している場合もあります。このような場合は、アカウントの乗っ取りという別の被害が発生しているかもしれません。また、公式に似せた偽アカウントが情報を発信している可能性もあります。必要があれば、公式サイトに問い合わせをすることも検討してください。
いずれにせよ、情報・コンテンツに違和感がある場合は、情報源を確認する癖をつけましょう。
ディープフェイク検出ツールの活用
ディープフェイクに騙されないために、検出ツールを活用するのも1つの方法です。
生成AIが進化して精巧なディープフェイクコンテンツが作成されるようになってきましたが、それとともにフェイクを見破る技術も発展してきています。ディープフェイク検出ツールでは、AIによってディープフェイクの特徴を分析し、そのコンテンツが本物か偽物かを特定します。悪意ある偽動画・画像・音声を見破ることができますので、企業のセキュリティ対策の一環として有効です。
ディープフェイクの活用事例
ディープフェイクは、「偽動画や画像で人々に混乱をもたらすもの」とイメージする人が多いかもしれません。しかしディープフェイクそのものに善悪はなく、むしろ上手に活用すれば豊かな暮らしを実現できるものです。ここでは、ディープフェイクをポジティブに活用している事例をご紹介します。
エンタメ業界
ディープフェイクはエンタメ業界ですでにポジティブに活用されています。
たとえば映像制作では、役者の体調や年齢、または不祥事によって出演・撮影が困難になることがあります。しかし、ディープフェイクを活用すれば、代役で撮影して後から顔や声を入れ替えて、作品制作をスムーズに進めることが可能です。また、吹き替えられる言語によって唇の動きを合わせることで、自然に会話しているように表現することもできます。さらに、ディープフェイクで作成した理想的かつ著作権・肖像権フリーのモデルを活用し、作品を制作するといった活用もできるのです。
ビジネス業界
ビジネス業界でもディープフェイクのポジティブな活用が期待されています。
たとえば、ディープフェイクによってアバターを作成し、プレゼンや研修ビデオに出演させるといった活用をしている企業もあります。イギリスのある企業では、日本のクライアント向けに日本人のような顔立ちのアバターを用意し、翻訳機能によって日本語でプレゼンを行うことで、顧客理解を今まで以上に深められた事例もあるそうです。
また、ビジネスに相応しい服装・髪型を整えなければいけないケースでも、ディープフェイクは役立つ可能性があります。たとえば、証明写真の撮影時、寝起きだったり金髪を染め直す時間がなかったりしても、ディープフェイク技術により身だしなみを整えた状態で撮影することが可能です。
まとめ
今回はディープフェイクについて解説しました。
ディープフェイクとは、生成AIを活用して音声や動画を合成・加工し、現実には存在しない動画や画像を生み出すこと、またはコンテンツのことです。近年、生成AIは目まぐるしい進歩を遂げており、「顔交換アプリ」などを用いて、簡単なディープフェイクであれば誰でも作成できるようになっています。
その一方で、悪意を持ってディープフェイクを作成し、面白半分にSNSでコンテンツを拡散する事例も増えています。なりすまし動画やフェイクニュースなどは、社会的混乱を招くものとして問題視されているのです。また、精巧なディープフェイクを作成し、詐欺などの犯罪が行われるケースも増えつつあります。
このように、ネガティブな面が注目されやすいディープフェイクですが、ポジティブな面もあります。たとえばエンタメ業界やビジネス業界では、ディープフェイクを正しく活用して成功を収めているケースは数多くあることを理解しておくことも大切です。
ディープフェイク＝悪いものと決めつけてしまうのは、技術の進化や社会の発展を妨げる恐れがあるものです。本記事を参考にディープフェイクについて理解を深め、今後の動向を見守っていきましょう。
