2024.02.20

ディープフェイクとは？活用例や悪用された場合のリスク、対策について解説

Introduction

近年、ディープフェイクと呼ばれる技術が登場し、話題になっています。ディープフェイクの技術を活用すれば、有名人などの映像を作成して、好きなことをしゃべらせることが可能です。この技術は役立つ場面も多いですが、その反面、悪用されると大きなリスクがともないます。

この記事では、ディープフェイクとはどのようなものなのか、実際の活用例や悪用される事例、悪用を防ぐための対策などについて解説します。

ディープフェイクとは？

著名人を利用した偽の動画など「ディープフェイク」と呼ばれる動画が出回っています。政治家や有名芸能人などに、本人が実際に口にしていないことをしゃべらせるような動画もあり、悪用によるリスクが懸念されているのです。

ここでは、ディープフェイクとはどのようなものかをご説明します。

「ディープラーニング」と「フェイク」を組みあわせた造語

ディープフェイクとは「ディープランニング」と「フェイク」という言葉を組みあわせてつくられた造語です。AI（人工知能）を用いて人物の映像や音声を合成して、実際に本人が話したかのように処理する技術のことを指しています。

もともとは、映画の制作現場などのエンターテイメント業界で利用されていた技術で、制作作業の効率化のために開発されました。しかし、近年ではフェイク動画をつくり、悪用するケースが増えています。

ディープフェイクそのものが悪というわけではない

ディープフェイクというと、その技術がまるで悪いもののように聞こえますが、実際はそうではありません。ディープフェイク動画は、AI（人工知能）を活用した優れた映像技術です。

しかし、ディープフェイクを悪用して、政治家や有名人などが実際に発言していないのに、発言したかのような動画が出回ったこともあります。たとえば、政治家が対立する政党の政治家を、名指しで批判するような動画を広めてしまったとします。その結果、選挙への投票結果に影響をおよぼすなど、社会の混乱につながる可能性も十分に考えられるでしょう。

ディープフェイクの技術は、映像作品の制作現場で映像品質や作業効率の向上の目的で使われることもあり、それ自体が悪というわけではありません。悪用して、人々をだますために使われてしまうことが問題なのです。

ディープフェイクの活用例

ディープフェイクの技術は、映像作品以外にも、対話型AI、AIアナウンサーやAIモデルなど、さまざまな形で活用可能です。ここでは、ディープフェイクの具体的な活用例についてご説明します。

CGを使った動画・映像

ディープフェイク技術は、CGを使った動画や映像作品を制作する際に活用されることが多いです。

映像作品を制作する際には、俳優や動物などの演者を用意して撮影を行うのが普通です。しかし、演者の撮影スケジュールがとれない、狙った映像を撮るために何度もやり直しをするのが困難といったケースもあります。また、すでに亡くなった有名人などの映像は撮影できません。

そのような場合にも、映像や音声などの素材があれば、ディープフェイクの技術を使って映像を制作することが可能です。スタントを使った危険な撮影や、気候や時間に左右される撮影なども、撮影しやすくなります。

最近では、ディープフェイク制作アプリなども登場し、誰でも簡単にディープフェイク動画をつくれるようになりました。特殊な機材などがなくても、簡単にディープフェイク映像を作成できるため、映像作品の幅がどんどん広がっていくでしょう。

対話型AI

ChatGPTなどの対話型AIに、ディープフェイクの技術を組みあわせて、実際に人と話しているような対話型AIも実現できます。

悩み相談を受けつけてくれる、暇なときに話し相手になるなど、対話型AIを活用すればさまざまなサービスを生み出せるでしょう。有名芸能人と会話できるサービスなども、登場するかもしれません。

AIアナウンサー・AIモデル

アナウンサーやモデルの代わりを、AIが担当するようにもなってきています。もとになる映像や音声があれば、台本どおりにAIアナウンサーにニュースを読ませることも、AIモデルがランウェイを歩く映像を制作することも可能です。

アナウンサーが緊急事態に備えて夜中などに待機する必要もなく、好みのモデルを映像上でつくりだすという使い方もできます。

ディープフェイクが悪用された場合のリスク

ディープフェイクにより多くの可能性が生まれていますが、一方で悪用された場合のリスクも存在します。本物そっくりの映像をつくりだせるため、だまされてしまうリスクも当然考えられるでしょう。

ここでは、ディープフェイクが悪用された場合に考えられるリスクについて、ご説明します。

なりすまし詐欺

ディープフェイクの悪用によりとくに恐ろしいのが、なりすまし詐欺のリスクです。

有名人になりすまして自社の商品を勝手に宣伝する、政治利用するなどのリスクも考えられます。実際には、2018年にアメリカの元大統領バラク・オバマ氏、2019年にはFacebookのCEOマーク・ザッカーバーグ氏のフェイク動画が作成され、話題を集めました。偽のゼレンスキー大統領のフェイク動画が拡散されたこともあります。

フェイク動画が作成されるのは、有名人だけではありません。一般人のフェイク動画も簡単に作成できます。本物そっくりの映像を好きなように動かせるため、なりすまし詐欺に悪用する犯罪者が現れることは十分考えられます。

サイバー攻撃

ディープフェイク技術を悪用して、サイバー攻撃に利用される可能性もあります。

たとえば、企業経営者のディープフェイク動画を作成し、実際に話していないことを発言させて金銭をだまし盗るなどです。また、企業の資金を管理する経理担当者に、取引先の社員の声を真似て電話をかけ、振込をさせるなどの手口も考えられます。

サイバー攻撃といえば、メールやSMSに偽のURLを記載して、フィッシングサイトに誘導するフィッシング詐欺などがあります。メールなどの文面にはだまされなくても、音声や映像の情報があることで勘違いして、だまされてしまうかもしれません。

情報操作

有名人のフェイク動画を悪用して、情報操作を行うことも可能です。有名芸能人や政治家などのフェイク動画を制作してSNSなどで流せば、たとえ本人が話していないことでも、実際に発言したことにできてしまいます。その結果、その有名人の評判を落としたり、嘘の情報を流したりすることも容易です。

たとえば、人気芸能人が特定の商品をほめている動画をSNSに拡散すれば、その商品の宣伝になります。社会不安をあおるようなことを影響力の高い人にいわせて、敵国を混乱させるなど、政治利用されることもあるでしょう。

このように、有名人の映像や音声などを悪用して、情報操作が行われるリスクは十分考えられます。

ディープフェイクによる被害を防ぐための対策

ディープフェイク技術を悪用することで、詐欺や情報操作などが行われる可能性があることをすでにご説明しました。このようなリスクを防ぐためには、ディープフェイクを見破るなどの対策が必要です。

ここでは、ディープフェイクによる被害を防ぐためには、どのような点に注意すべきかをご説明します。

ツールを用いて検出する

初期のディープフェイク技術で制作された映像や音声はフェイクであることを、ツールを用いて検出できる場合があります。

初期のディープフェイク技術でつくられた映像は、顔や身体の全体的な動きが乏しく、一部だけが動いているという特徴があります。また、同じ動きを繰り返している、首から上だけが動いており、違和感が大きいことも多いです。ほかにも、瞳の部分がまったく動かず一定の動きをしている、影のつき方に違和感があるなどの場合もあります。

このように、もととなる映像データをつなげて、繰り返しの動きを入れていることに注意してみれば、気づくことがあります。人の目で確認するとわかりにくいですが、ツールで判定してフェイクを見抜くことも可能です。

情報源をダブルチェックする

フェイク動画と思われる情報だけで、判断しないことも大事です。

ネットでほかの情報を検索してみると、フェイクだと判明することもあります。同じ動画をみた人が、同じことを調べている可能性も高いので、意外と簡単に情報が見つかるかもしれません。また、ある有名人がある場所で情報を発信している動画だった場合、その人が本当にその時期にその場所にいたのかを調べるなどの方法もあります。

切りとられた動画や画像をそのまま信じるのではなく、誰が発信した情報なのか、信用できる出所の情報なのかを調べることが重要です。

社内のセキュリティリテラシーを高める

フェイク動画をみただけでは、サイバー攻撃にあうことはないかもしれません。しかし、偽の情報を信じて怪しいURLにアクセスしてしまう、メールなどに返信してしまうなどの場合もあります。その結果、フィッシング詐欺サイトにアクセスしたり、マルウェアに感染したりする可能性も考えられます。

そのようなことが起こらないよう、日ごろから社内のセキュリティに関するリテラシーを高めておくことが重要です。普段から、次のようなセキュリティに関する社内教育を行っておくとよいでしょう。

・見慣れないメールアドレスに添付されたファイルやURLを開かない
・セキュリティソフトの更新を定期的に行う
・USBメモリなどは社内の備品のみを使う
・ID・パスワードの管理方法を徹底する
・Wi-Fiや公衆無線LANをむやみに使用しない

脆弱性管理を行う

セキュリティ教育を徹底しても、フィッシング詐欺に引っかかったり、マルウェアに感染してしまったりすることもあります。そのような場合にも、社内ネットワークやサーバーなどに影響がでないよう、対策しておくとよいでしょう。

そのためには、社内ネットワークや社内システムなどの脆弱性管理を行い、対策を講じておく必要があります。脆弱性とは、サイバー攻撃により、システムやデータに不正アクセスできるような不備や弱点のことです。脆弱性管理を定期的に行うことで、セキュリティに関する不備や弱点を洗い出して、対策を講じることが可能です。

SHIFTのセキュリティ（脆弱性）診断について

SHIFTのセキュリティ（脆弱性）診断では、以下のような7つの観点で徹底的な診断を行います。

＜SHIFTのセキュリティ（脆弱性）診断の7つの観点＞
・安定性
・網羅性
・専門性
・生産性
・透明性
・柔軟性
・即時性

これらの観点のもとで、診断プロセスを徹底的に標準化し、ブレのない高い品質水準を保っています。そして診断内容を可視化し、網羅的に脆弱性を診断します。

信頼できる脆弱性診断を受けたい場合には、セキュリティ対策の実績が豊富なSHIFTにご相談ください。

＞＞脆弱性診断サービス特設ページへ

セキュリティベンダー選定のための比較チェックシート

脆弱性診断サービスの導入にあたり、数あるセキュリティベンダーの中から最適なベンダーを選定するためには確認すべき観点が多くあり、それらを正しく判断するためには本来豊富な知見が必要です。
しかし、担当者の誰しもがそのような知見を持っている訳ではありません。そこで、SHIFTは、誰でも簡単に重要な観点を押さえながら、ベンダーの比較検討ができるチェックシートをご用意しました。お客様に合った最適なセキュリティベンダーを選んでいただくことにお役立ていただければ幸いです。

ダウンロード

まとめ

この記事では、ディープフェイクとはどのようなものなのか、実際の活用例や悪用される事例、悪用を防ぐための対策などについて解説しました。

セキュリティリスクは年々多様化し、新たな対策が求められています。社内ネットワークや社内システムを守るために、日ごろから脆弱性診断を受けておくことを強くおすすめします。脆弱性診断については、セキュリティのプロであるSHIFTにお気軽にご相談ください。

＞＞SHIFTのセキュリティソリューションのページへ
＞＞お問い合わせページへ
＞＞料金についてページへ

前のページへ

次のページへ

コラム一覧に戻る

ディープフェイクとは？活用例や悪用された場合のリスク、対策について解説

Introduction