ディープフェイク

ディープフェイクとは、ディープラーニング（深層学習）とフェイク（偽造）を組み合わせた造語で、まるで本物かのように見える動画や音声をAIで作り出す技術です。例えば、特定の人物の顔や声を別のものに置き換える、存在しない人物を映像で作り出すなどが可能です。

ディープフェイクは、もともと映画制作などの現場で作業の効率化を目的に活用されてきました。近年ではさまざまな業界で革新的な活用が期待されており、世界各国で技術開発が進められています。一方で、ディープフェイクを悪質な目的で使用するケースも増えています。特に企業では、ディープフェイクによる名誉毀損や経済的損失などのリスクが深刻な問題となっています。

ディープフェイクはAIに大量のデータを学習させることで、本物と区別がつきにくい映像や音声を生成します。ディープフェイクにはさまざまなAI技術が活用されていますが、特に『GAN（敵対的生成ネットワーク）』と呼ばれる手法が多く用いられています。

GANは2014年に誕生したディープラーニングの一種で、「生成ネットワーク」と「識別ネットワーク」という2つのニューラルネットワーク（※1）から構成されています。生成ネットワークがランダムなノイズから偽データを生成し、識別ネットワークはそのデータが本物か偽物かを実際のデータと比較して判定します。この2つのネットワークが互いに競い合いながら学習を繰り返すことで、よりリアルで高精細なデータ生成が可能となります。

ディープフェイクは高精細であるが故に、この技術を悪用した犯罪被害も相次いで報告されています。企業でディープフェイクが悪用された場合のリスクは以下のとおりです。

●なりすまし詐欺による金銭被害

取引先や経営者になりすまして偽メールを送りつけ、送金や振込をさせるビジネスメール詐欺が増加しています。近年ではメールだけでなく、本人を真似てビデオ会議や電話で指示するなど、手口は悪質かつ巧妙に進化しています。

●不正認証による情報漏洩

ディープフェイク技術は、顔認証や声紋認識といったセキュリティシステムの不正認証にも使用されます。認証を突破されると、口座へのアクセスやセキュリティロックの解除が可能になり、個人情報漏洩のリスクが高まります。

●偽広告・偽情報による信頼失墜

ディープフェイクによる偽広告で消費者を偽サイトに誘導して商品を購入させる、商品が安全でないという虚偽の情報を拡散するなどの被害が発生しています。企業のブランドイメージの低下や、経済的な損失にも発展します。

ディープフェイクによる被害は企業の存続にも関わる脅威といえます。自社を守るための対策として、以下の3点が挙げられます。

●検出ツールの導入

ディープフェイク検出ツールを導入することで、被害を未然に防ぐことができます。映像の微細な歪みや不自然な変化を検出し、偽の映像を特定できます。情報をこまめにアップデートし、最新の検出ツールを導入することが重要です。

●情報源の確認

真偽が不明な画像や動画に対して、情報の真偽を必ず確かめることが大切です。情報の発信元・発信時期、正式発表かなど、さまざまな観点から事実確認を行い、公式情報か明確でない場合は使用を控えましょう。

●セキュリティリテラシーの向上

組織全体のセキュリティリテラシーを向上させることで、ディープフェイクによる人為的リスクを軽減できます。「不審なメールを開かない」「ID・パスワードの管理を徹底する」など、社内ルールを策定し、定期的に研修を行いましょう。

ここからは、ディープフェイクを効果的に取り入れている事例を紹介します。

●CGを使った映像・画像編集

エンターテインメント業界では、特殊メイクが必要であった老人などの役柄も、ディープフェイクによる特殊効果でリアルに変身できます。ほかにも、歴史上の人物を再現する、架空の人物モデルを作成して広告に起用するなど、幅広い表現が可能になります。

●AIアナウンサーによるニュース配信

メディア業界では、ディープフェイクを活用したAIアナウンサーを導入し、従来では難しかった24時間365日体制や多言語対応が可能となりました。ニュース配信の効率化やコスト削減に加え、個性的なAIアナウンサーを起用することで、話題づくりや視聴率向上も期待できます。

●医療分野でのサポートに活用

医療業界では新たな手法として、患者のCT画像やMRI画像を元にディープフェイクモデルを作成し、手術のシミュレーションなどが可能となりました。手術や治療のトレーニング、研修に活用できるため、研修医や医学生のスキル向上につなげることもできます。