ChatGPTの情報漏洩リスクとは？
発生理由や事例・対策を紹介

そもそもChatGPTとは？

近年、「生成AI」という言葉をよく聞くようになりました。一般的にAIはデータベースをもとに最適な答えを導き出しますが、生成AIはそれだけにとどまりません。学習したデータを再構築し、新たなデータやコンテンツを「生成」します。それはテキストをはじめ、画像、映像、音楽など、さまざまな分野に及びます。
そんな生成AIを使ったサービスの中で、特に有名なのが「ChatGPT」です。アメリカにあるOpenAI（オープン・エーアイ）という会社によって開発され、2022年11月の公開以来、その突出した精度から大きな注目を集めています。

GPTは「Generative Pre-trained Transformer」の略で、「生成可能な事前学習済み変換器」という意味です。ユーザーがテキストベースで入力した質問に対し、高度な言語処理によって人間と変わらないような、自然な回答を返してくれるのが大きな特徴です。 用途は多種多様で、主なものとして以下が挙げられます。

• 情報収集
• アイデア出しのサポート
• メールの文章作成
• 資料の作成や要約
• 翻訳
• プログラミング

ビジネスシーンでも活用されるChatGPT

ChatGPTはすでに多方面のビジネスシーンで活用されています。企業での活用事例をいくつか紹介しましょう。

●カスタマーサポートに利用

あるBtoBソリューションサービスを担う企業では、ChatGPTをベースにした生成AIツールを開発し、さまざまな業務に活用しています。自社のデータとつなぎ合わせて、顧客対応などのカスタマーサポートにも利用する予定です。

●オペレーション時間を大幅削減

あるインターネット広告事業を展開する企業では、「ChatGPTオペレーション変革室」を設立。ChatGPTを適切に活用することで、広告運用にかかるオペレーションの総作業時間を30%大幅に削減することを目指しています。

●SNS用のPR文を自動生成

あるIT関連サービスを手がける企業では、集客に利用できるSNS用のPR文や商品説明文を自動生成するChatGPTを活用した機能を提供。顧客の利便性向上を新しい価値提供としています。

情報漏洩リスクはゼロではない

文章や資料の作成ができ、アイデアも出してくれるなど、多方面で活用できる便利なChatGPTですが、情報漏洩のリスクはゼロではありません。
開発元のOpenAIでは顧客データの暗号化やデータ侵害の通知、データ漏洩の監視など、さまざまなセキュリティ対策を行っており、基本的な利用についてはまず安全と言ってよいでしょう。しかし、これまでに一部情報が流出した事例もあり、リスクがゼロとは断言できません。やはり企業としては、いざというときのことも考慮に入れて慎重に利用する必要があります。つまりはゼロトラスト（※1）で臨むのが正解です。

情報が流出してしまう3つの理由

過去に何度かChatGPTの情報漏洩が報告されていますが、それによると3つのケースに大別されます。それぞれのケースを詳しく解説します。

① プロンプト情報の漏洩

プロンプトとは、ユーザーがChatGPTへ入力する指示や質問のことです。これらに含まれる重要な情報が外に漏れてしまうというのが、最も典型的なChatGPTの情報漏洩のケースです。
原則としてChatGPTは、ユーザーの入力した情報がデータベースに蓄積されます。つまり「学習」するということなのですが、プロンプトに個人情報や機密情報を入力すると、その情報をAIが学習し、別の質問に対する回答として使ってしまう恐れがあります。知らないうちに情報漏洩が起きてしまうのです。
なおプロンプトの情報を学習するのはWeb版のChatGPTのみで、API版（※2）であれば機密情報を入力しても回答としてほかに使われることはありません。

② アカウント情報の流出

ChatGPTのアカウント情報が流出するというケースもあります。2023年3月にはOpenAIから有料プランである「ChatGPT Plus（プラス）」の会員情報が流出したと発表されました。
流出したのは有料会員のうち約1.2%の個人情報で、ログイン時にほかのユーザーの氏名、住所、メールアドレス、クレジットカード情報の一部などが、約10時間にわたって表示されるという事態になりました。

③ チャット履歴の流出

この「ChatGPT Plus」の会員情報流出とあわせて、一部のユーザーのチャット履歴が別のユーザーに表示されるバグ（※3）も発生しました。
その後バグは修正されましたが、この事例からもプロンプトやチャットの内容が他人に見られてしまうケースが起こり得るということが分かります。会社の機密情報などを入力していたら、不特定多数の人の目に触れていたかもしれないということです。

では、より具体的な情報漏洩事例を2つ見てみましょう。ChatGPTは世界中で利用されているだけに、ひとたびインシデントが生じるとリスクも大きいということが、これらの事例からわかります。

●機密情報が外部に漏洩

韓国の大手テクノロジー企業では、ChatGPTを業務に利用していましたが、2023年3月に機密情報の漏洩が3件発生しました。これは従業員がプログラムのエラーを解消するためにChatGPTにソースコード（※4）を入力したことや、議事録作成のために会議の内容をテキストとして入力したことなどが原因でした。
いずれも機密情報をChatGPTのサーバに保存した時点で外部に情報が漏洩したため、同社では緊急措置としてChatGPTの利用制限を設け、さらにその後、全面的に利用を禁止しました。

●アカウントが闇市場で取引

シンガポールの情報セキュリティ会社が、日本からChatGPTのアカウント情報が漏洩していると発表しました。10万件を超える多くのChatGPTアカウントがダークウェブ（※5）で取引されており、2023年5月までに少なくともそのうち700件近くが日本からの漏洩であると確認されています。
アカウント情報を悪用してChatGPTにアクセスすることで、過去に質問した内容を閲覧することができるため、そこからさらに甚大な被害へとつながる可能性が懸念されています。

情報を漏らさないための7つの方法

ユーザー側が適切な対策を講じてさえいれば、作業の効率化が図れるなど、ChatGPTはビジネスにおいても有効なツールであることは間違いないでしょう。もしかしたら、人手不足を解消する一手段になるかもしれません。
そのためにはセキュアな運用が何よりも重要です。ここからはChatGPTの情報漏洩を防ぐ方法を紹介します。

① 機密情報を入力しない

これはWeb版のChatGPTに関してのみですが、プロンプトに入力した情報をAIが学習して他者に回答する可能性があるため、機密情報を入力することは厳禁です。ただしすでにインターネット上などに公開されている情報であれば構いません。
どうしても機密情報が含まれる場合は、該当箇所をダミー情報に置き換えるなどの工夫が必要です。

② チャット履歴を残さない

ChatGPTには「Chat history & training」という機能がありますが、設定画面でこれをオフにするとチャットのやりとりが保存されなくなります。そうすることで、万が一のことがあっても他者に過去の履歴を見られるのを防ぐことができます。
ただし自分でも履歴を見返すことができないという不便さもあります。重要なことはメモなどに残しておきましょう。

③ API版を利用する

前述したとおりAPI版のChatGPTであれば、機密情報を入力しても何ら問題ありません。API版なら自社の情報をAIに学習させることで、自社専用のChatGPTとして活用することができます。もちろんその学習内容が、ほかのユーザーが使っているAPI版やWeb版に反映されることもないので安心です。

④ 企業用の「ChatGPT Enterprise」プランを利用する

2023年8月に発表された「ChatGPT Enterprise（エンタープライズ）」は、ChatGPTのすべての機能が利用できる企業向けの最新プランです。米国公認会計士協会（AICPA）によって考えられたサイバーセキュリティのフレームワーク「SOC 2」に準拠しており、企業が利用するにふさわしいレベルの高い安全性が確保されています。
API版と同じく機密情報を使ったやりとりが可能で、さらにすべての会話データが暗号化されるため、チャット履歴が流出する心配もありません。

⑤ セキュリティシステム「DLP」を導入する

DLP（Data Loss Prevention）とは、重要なデータや機密情報を自動的に特定する機能です。機密情報の持ち出しが疑われる場合には、アラートの通知や操作のブロックが行われます。DLPは、ユーザーではなく、データを中心としたセキュリティシステムであることが特徴です。
つまり従業員がプロンプトに機密情報を入力したとしても、送信がブロックされるため情報漏洩を防ぐことができます。

⑥ 「Azure OpenAI Service」を利用する

Microsoft（マイクロソフト）が提供する「Azure（アジュール） OpenAI Service」は、ChatGPTをさまざまなアプリケーションに組み込んで使えるサービスです。ブラウザでもAzure（※6）の高度なセキュリティ環境のもとで、ChatGPTを利用することが可能となります。
外部からのアクセス制限もできるため、セキュリティが不安な回線からのアクセスを遮断することで情報漏洩を防ぐことができます。

⑦ アカウントのセキュリティを強化する

アカウント情報の流出や悪用に備えて、アカウントに関するセキュリティ強化を図ることも大切です。通常、ChatGPTはIDとパスワードを入力し、ログインすることで利用できますが、これは情報が漏洩した際に誰でも簡単にログインできるということでもあります。そこで定期的にパスワードを変更するなどして、万が一のことが起きても簡単にログインされないよう、普段から対策しておくことをおすすめします。

企業としてChatGPTを安全に使うためにはどのようなことに気をつければよいのでしょうか。いずれも、経営層がリードしながら、従業員一丸となって取り組みたいことです。

① ChatGPTのためのガイドライン作成

企業としてChatGPTを使う際には、ガイドラインが必要です。ルールを明確にし、すべての従業員が守るべきことや注意すべきことを認識することによって、適切な活用が可能になります。特に個人情報や社外秘の機密情報はどのように取り扱うのか、しっかりと定めておかなければなりません。
ガイドラインの作成に際しては、「一般社団法人 日本ディープラーニング協会（JDLA）」が策定・公開しているひな形も参考にしてみてください。

② ChatGPTに関する教育・研究の実施

ガイドライン作成とあわせて忘れてはならないのが、従業員に対する教育です。ChatGPTの使い方の指導だけでなく、モラルも含めてどのようにこの最新技術と向き合うか、経営層として従業員一人ひとりのITリテラシーの向上に努めることが重要です。
ただしマニュアルを作成し、配付して終わりとでは、あまり意味がありません。時間を設けて研修を実施し、正しい活用方法などをレクチャーしましょう。

③ ChatGPT利用の制限

すぐにChatGPTを頼るのではなく、利用に制限を設けることも安全対策につながります。ChatGPTへの質問を一定の容量に制限する、アクセス権限を付与する従業員を限定するなどは、ほかのセキュリティ対策よりも容易なため、すぐに実践できます。
なお物理的なアクセス制限をかけたい場合は、前述した「Azure OpenAI Service」が便利です。登録されていないIPアドレス（※7）からのアクセスを制限することができます。

④ セキュリティ対策の見直し

セキュリティ強度の高いツールをあわせて使えば、より安全な環境でChatGPTの利用が可能になるでしょう。そのためには、自社がどんなセキュリティ対策を行っているのか、現状を把握する必要があります。ChatGPTの適切な活用をきっかけとして、セキュリティ対策の見直しをおすすめします。

ここまで、ChatGPTの情報漏洩リスク、具体的な情報漏洩の事例、情報漏洩を防ぐための対策などについて紹介してきました。残念ながら、ChatGPTの情報漏洩リスクはゼロとは言い切れません。しかし、適切な対策を講じたうえで活用すれば、業務の効率化に役立つということがご理解いただけたのではないでしょうか。
ChatGPTだけでなく、情報漏洩のリスクはさまざまなところに潜んでいます。これを機に自社のセキュリティ対策を見直してみてはいかがでしょうか？

サクサでは、情報セキュリティに関する中堅・中小企業の課題を解決するツールを多数ご用意しています。お気軽にお問い合わせください。
また、情報漏洩対策のチェックリストをはじめ、さまざまなお役立ち資料も提供しています。ぜひ、ご活用ください。