生成AIの情報漏洩対策を解説｜事例・原因と安全に使う方法

「ChatGPTに入力したあの情報、漏れたりしていないだろうか」
「うちの会社の生成AIの使い方は大丈夫なんだろうか」

ChatGPTをはじめとする生成AIを業務で使う企業は、年々増えてきています。 便利に使える一方で、入力した機密情報や個人情報の漏洩について不安を感じたり、社内でAIの利用ルールが追いついていないと気づいたりした方もいるのではないでしょうか。

しかし、情報漏洩は使い方を誤った一部の企業だけの問題ではありません。 サービス側のバグや、会社が把握していない従業員の利用（シャドーAI）を通じて、知らないうちに被害が広がっていきます。

つまり、生成AIを使うすべての企業に、情報漏洩が起こる可能性があるということです。

そこでこの記事では、自社のセキュリティ対策を見直すために、実際に起きた生成AIの情報漏洩事例と具体的な対策を紹介します。

【この記事でわかること】
・生成AIで情報漏洩が起きる原因
・実際に起きた情報漏洩の事例
・生成AIによる情報漏洩対策

生成AIの情報漏洩に少しでも不安を感じている方は、ぜひ自社のセキュリティ対策を見直してみてください。

生成AIで情報漏洩が起こる原因

生成AIによる情報漏洩は実際に起きています。 被害に遭わないよう原因を把握し、対策しましょう。

この章で解説する内容
・入力した情報がAIの学習データに使われる
・チャット履歴の保存とバグ・不正アクセスによる流出
・マルウェア感染によるアカウント情報の窃取
・シャドーAI（会社が把握していない生成AI利用）

入力した情報がAIの学習データに使われる

生成AIへの入力は、「社外のサーバーへ情報を送信する行為」です。

個人情報保護委員会からも「生成AIサービスの利用に関する注意喚起」が出されており、「個人情報を学習させない形（オプトアウトやビジネスプラン等）で利用すること」が企業や利用者に求められています。

チャット履歴の保存とバグ・不正アクセスによる流出

生成AIのやり取り（チャット履歴）は、クラウド上のサーバーに蓄積されています。そのため、サービス自体の脆弱性やセキュリティ事故によって情報が漏洩するリスクがあります。

自力で防げないリスクだからこそ、「最悪、外部に漏れても実害が出ない情報しか入力しない」という徹底した自己防衛（リスク管理）が必要です。

マルウェア感染によるアカウント情報の窃取

見落とされがちですが、生成AIサービス側ではなく「私たちが使うパソコンやスマホ（端末）」が原因で情報が漏洩するケースです。

生成AIの設定やプロンプトの工夫（使い方）だけでは、端末そのものの乗っ取りは防げません。ウイルス対策ソフトの導入やOSのアップデートなど、「デバイス自体のセキュリティ対策」を徹底することが不可欠です。

シャドーAI（会社が把握していない生成AI利用）

シャドーAIとは、会社の許可を得ずに従業員が個人アカウントなどで生成AIを業務利用することです。

シャドーAI対策の鉄則は、禁止することではなく「隠れて使わなくてもいいように、安全な公式ルートを会社が提供すること」です。

生成AIの利用に限った話ではなく、企業の情報漏洩対策は常に考える必要があります。

ぜひ定期的に対策を見直してみてください。

実際に起きた生成AIの情報漏洩事例【サムスン・OpenAI等】

この章では、実際に起こった生成AIの情報漏洩事例を紹介します。

この章で解説する内容
・サムスン電子｜ChatGPTへの入力で半導体関連の機密情報が流出
・アマゾン｜社員のChatGPT利用で社内データに酷似した出力、機密入力を禁止
・ChatGPT｜共有した会話がGoogle検索に表示される状態に
・ChatGPTのアカウント情報10万件超がダークウェブで売買
・DeepSeek｜データベースが公開状態でチャット履歴等100万行超が閲覧可能に
・OpenAI｜外部分析ツール経由でAPIユーザーの個人情報が流出
・Anthropic｜パッケージングのミスでソースコード51万行超が流出

サムスン電子｜ChatGPTへの入力で半導体関連の機密情報が流出

2023年3月、韓国のサムスン電子で、従業員がChatGPTに機密情報を入力してしまう事案が相次いで発生しました。

半導体部門の従業員が設備関連のソースコードの確認や会議録の作成のためにChatGPTを利用し、社外秘の情報が外部サーバーに送信されたとされています。 社内利用を許可してからわずか20日ほどの間に、設備関連のソースコード入力が2件、会議内容の入力が1件、計3件の事案が確認されました。

この事態を受けて、同社は緊急措置として入力できる容量を制限し、その後ChatGPTの社内利用を禁止しています。

アマゾン｜社員のChatGPT利用で社内データに酷似した出力、機密入力を禁止

2023年1月、アマゾンでも、社員のChatGPT利用をめぐる情報漏洩の懸念が表面化しました。

報道によると、同社の法務担当者が、ChatGPTの回答の中にアマゾンの社内データと酷似した内容を見つけたとされています。 これを受けてアマゾンは、社員に対し、コードや機密情報をChatGPTに入力しないよう警告しました。

サムスンと同じく、ここでも出発点は「社員が業務効率化のために、よかれと思って入力したこと」です。 便利だからと社内の情報を気軽に入力すると、それが外部に渡るリスクがある、という教訓といえます。

ChatGPTで共有した会話がGoogle検索に表示される状態に

2025年7月から8月にかけて、ユーザーが共有したChatGPTの会話が、Google検索の結果に表示される状態になっていたことが明らかになりました。

ChatGPTには、会話に共有リンクを発行し、「このチャットを検索エンジンに表示する」にチェックを入れると、第三者が検索からたどれる機能がありました。

この仕組みで約4,500件の会話が実際にGoogleにインデックスされ、氏名やメールアドレス、職務経歴、悩み相談の内容まで第三者が閲覧できる状態だったとされています。 OpenAIは指摘を受け、2025年8月にこの機能を削除しました。

ChatGPTのアカウント情報10万件超がダークウェブで売買

セキュリティ企業のGroup-IBは2023年6月、10万件を超えるChatGPTのアカウント情報がダークウェブの闇市場で取引されていたと発表しました。

アカウント情報は、インフォスティーラーに感染した端末から盗まれたものです。 感染端末はアジア太平洋地域が約4万1,000台と全体の4割を占めて最も多く、日本の利用者にとっても他人事ではありません。

DeepSeek｜データベースが公開状態でチャット履歴等100万行超が閲覧可能に

2025年1月、セキュリティ企業Wizの調査チームが、中国のAI企業DeepSeekのデータベースが認証なしの公開状態になっているのを発見しました。

外部から誰でもアクセスできる状態のデータベースには、ユーザーのチャット履歴やAPIキーなどを含む100万行を超えるログが保存されていました。 DeepSeekは通知を受けてすぐに保護しましたが、もし発見者が攻撃者だったら、と考えると背筋が寒くなる事例です。

生成AIは、提供元の設定ミスひとつで、利用者が入力した内容そのものが外部から丸見えになる可能性があります。

OpenAI｜外部分析ツール経由でAPIユーザーの個人情報が流出

2025年11月、OpenAIは、外部の分析ツール「Mixpanel」が不正アクセスを受けた影響で、一部の利用者情報が流出したと公表しました。

流出したのは、APIを利用する一部ユーザーの氏名・メールアドレス・ユーザーID・おおよその位置情報などです。 OpenAI自体が侵害されたわけではなく、チャット内容やパスワード、APIキー、決済情報は流出していないと説明されています。

OpenAIは問題発覚後にMixpanelを本番環境から外し、委託先のセキュリティ点検を進めています。

Anthropic｜パッケージングのミスでソースコード51万行超が流出

2026年3月、AI（claude）を開発するAnthropicが、ソフトウェアの更新時に自社のソースコードを流出させました。 設定ファイルの記述漏れにより、npm（プログラム配布の仕組み）の公開リリースに、本来は社外秘のソースコード約51万2,000行が含まれてしまったとされています。

Anthropicは「人為的なミスによるパッケージング上の問題であり、顧客の機密データや認証情報の流出はなく、セキュリティ侵害ではない」と説明しています。

生成AIの使用による情報漏洩が発生する理由は、「使用する側の設定ミス」や「提供する側の管理ミス」などです。そのため、まずは社内で使用する生成AIの設定を見直してみてください。

また対策する際は、サイバーセキュリティ対策もまとめて行うのがおすすめです。

社内でサイバーセキュリティに関するルールが作られていないようなら、以下の資料を参考に対策を始めてみてください。

国内で生成AIの情報漏洩事例が少ない理由

日本国内では「生成AIに入力して情報を漏らした」という企業の事例は、ほとんど公表されていません。 ただし、それは「国内では起きていない」という意味ではない点に注意が必要です。

この章で解説する内容
・国内企業の漏洩事例が表に出にくい理由
・個人レベルでは生成AIを介した情報流出が実際に起きている
・シャドーAIの放置が会社の情報漏洩につながる

国内企業の漏洩事例が表に出にくい理由

日本では、生成AIへの入力が原因の情報漏洩を、企業が公式に認めて発表するケースはほとんど見当たりません。

入力による漏洩は被害の範囲を特定しづらく、「本当に漏れたのか」自体がわかりにくいことが理由のひとつです。 さらに、公表による信用低下を避けたいという企業心理も働きます。

ニュースになっていないからといって、自社が安全だとは限りません。

個人レベルでは生成AIを介した情報流出が実際に起きている

一方で、個人が使う生成AIでは、入力した情報が外部に出てしまう事例が起きています。

たとえば、ChatGPTでは共有設定の操作ミスにより、個人の会話が氏名や相談内容ごとGoogle検索に表示される事態が起きました。 「自分だけのやりとり」のつもりでも、設定や仕組みを誤解していると、入力した内容がそのまま第三者の目に触れてしまいます。

生成AIへの入力は、個人の使い方ひとつで外部に漏れる可能性があることを念頭に置きましょう。

シャドーAIの放置が会社の情報漏洩につながる

会社が把握していない生成AI利用（シャドーAI）を放置すると、従業員が個人アカウントで顧客情報や社外秘の資料を入力してしまうおそれがあります。 共有ミスや、サービス側の不具合が起きれば、会社の情報がそのまま外部へ漏れることになります。

国内で大きく報道された企業事例がまだ少ないのは、たまたま表面化していないだけ、と考えて対策を始めましょう。

「社内では生成AIを導入していないし、業務に使っている人もいないだろう」と放置するのは危険です。業務改善のために、悪意なく許可されていないAIを使っている社員もいるかもしれません。

まずは、アクセスログや社員への匿名アンケートで業務で許可されていないAIを使用しているか確認するところから始めましょう。

UTMがあるとアクセスログを確認しやすくなります。ぜひ導入や見直しを検討してみてください。

【技術面】設定とツールでできる生成AIの情報漏洩対策

生成AIの情報漏洩対策は、「技術」「ルール・運用」「組織・教育」の3方向で考えるのが基本です。 まずは全体像を整理します。

分類	対策
技術面	①オプトアウト設定 ②法人向けプラン・API ③DLP・マスキング ④UTM・エンドポイント対策
ルール・運用面	⑤利用ガイドラインの策定 ⑥入力禁止情報のリスト化 ⑦承認制とログ管理
組織・教育面	⑧従業員教育 ⑨公的ガイドラインの活用 ⑩インシデント対応体制

この章では、技術面の4つの対策から解説します。

この章で解説する内容
・オプトアウト設定で入力内容を学習させない
・法人向けプラン・API利用に切り替える
・DLP・マスキングで機密情報の入力自体をブロックする
・UTM・エンドポイント対策でマルウェア経由の漏洩を防ぐ

①オプトアウト設定で入力内容を学習させない

最初にやるべきは、入力内容をAIの学習に使わせない「オプトアウト設定」です。

ChatGPTのオプトアウト設定手順
1.画面の「設定」を開く
2.「データコントロール」を選択する
3.「すべての人のためにモデルを改善する」をオフにする

数分で終わる設定ですが、学習による漏洩リスクを大きく下げられます。 社内で生成AIを使うなら、全員に必須の設定として徹底してください。

気をつけたいのは、設定が反映されるのは「変更後の会話」だけという点です。 オフにする前に入力した内容には適用されないため、利用開始時に最初に設定するのがコツです。

また、オプトアウトは「学習に使われない」設定であって、「サーバーに保存されない」設定ではありません。 バグや不正アクセスのリスクは残るため、機密情報を入力しない原則は変わらないのです。

②法人向けプラン・API利用に切り替える

業務で本格的に使うなら、法人向けプランやAPI経由での利用へ切り替えるのがおすすめです。従業員に個人アカウントを使わせず、「会社が管理するアカウントへ一本化すること」が、セキュリティ対策の基本になります。

項目	無料版・個人版	法人向けプラン・API
入力データの学習利用	設定によっては学習される	学習に使われない契約・仕様が一般的
管理者によるメンバー管理	メンバーの利用状況を管理できない	利用状況の管理・制御ができる
セキュリティ機能	最低限機能のみ	アクセス管理・監査ログなどが充実

会社で導入するツールを選ぶ際は、以下の要件を満たしているか確認するのがポイントです。

・データの取り扱い： データの保存場所（国内サーバーか等）や保存期間
・第三者認証： 「ISO27001（ISMS）」などのセキュリティ認証を取得しているか
・権限管理： 従業員ごとのアクセス権限の管理や、ログの監査機能があるか

③DLP・マスキングで機密情報の入力自体をブロックする

分かっていても、間違って機密情報を入力してしまう可能性はあります。ヒューマンエラーを技術的に止める仕組みが「DLP（情報漏洩対策ツール）」です。

個人情報や機密情報が生成AIに送信されそうになった時点で、自動的に検知・ブロックできます。 また、入力内容のうち氏名や顧客名などを自動で伏せ字にする、マスキング機能を持つ法人向けAIサービスもあります。

誤入力を想定しておくのも対策の1つです。

④マルウェア経由の漏洩を防ぐ

アカウント情報の窃取は端末のマルウェア感染から始まります。 生成AIの設定をどれだけ固めても、端末が感染していれば意味がありません。

土台として、次の2つを整備しましょう。

基本的なサイバーセキュリティ対策を導入する
・ウイルス対策ソフトで、各端末をインフォスティーラーやウイルスから守る
・UTMで、社内ネットワークの不正な通信を検知・遮断する

生成AIに限らず、フィッシング詐欺やランサムウェア対策にもなる投資なので、未導入の企業はこの機会に検討してみてください。

詳細は以下のページをご覧ください。

【ルール・運用面】社内体制でできる生成AIの情報漏洩対策

ツールを入れただけでは、情報漏洩は防げません。 「誰が・何を・どう使ってよいか」を決める社内ルールが、技術面の対策とセットで必要です。

この章で解説する内容
・生成AI利用ガイドライン（社内ルール）を策定する
・入力禁止情報を具体的にリスト化して明文化する
・利用ツールの承認制とログ管理でシャドーAIを防ぐ

⑤生成AI利用ガイドライン（社内ルール）を策定する

まず整備すべきは、自社の生成AI利用ガイドラインです。最低限、次の項目を盛り込みましょう。

項目	決めること
利用できるツール	会社が許可した生成AIサービスと、その用途
入力ルール	入力してよい情報・してはいけない情報
必須設定	オプトアウト設定など、利用前に行う設定
出力の取り扱い	生成物の事実確認、著作権・他社権利への配慮
事故時の対応	誤入力・漏洩が疑われるときの報告先と手順

経済産業省・総務省の「AI事業者ガイドライン」やデジタル庁の対策資料など、公的なひな形を参考にすれば、自社版を効率よく作成できます。

⑥入力禁止情報を具体的にリスト化して明文化する

「機密情報は入力しない」というルールだけでは、現場の判断がブレます。 何が機密情報にあたるのか、人によって解釈が違うからです。

そのため、入力禁止の情報は具体的に列挙してください。

入力禁止情報の例
・氏名・住所・電話番号などの個人情報
・顧客情報・取引先情報
・未公開の財務情報・経営情報
・ソースコード・設計情報などの社外秘データ
・ID・パスワードなどの認証情報

あわせて「迷ったら入力しない・上長に確認する」という判断ルールも明文化しましょう。 サムスン電子の事例も、入力してよい範囲の線引きがあいまいだったことが背景にあります。

⑦利用ツールの承認制とログ管理でシャドーAIを防ぐ

シャドーAI対策の基本は、「会社が認めた生成AIだけを使える状態」を作ることです。

シャドーAIを防ぐための対策
・利用するAIツールは申請・承認制にする
・会社管理のアカウントを従業員に配布する
・利用状況のログを定期的に確認し、無許可ツールの利用がないか監査する

ここで重要なのは、禁止一辺倒にしないことです。 業務で使える公式ルートをきちんと用意すれば、従業員が隠れて個人アカウントを使う動機はなくなります。 「安全な選択肢を用意したうえで、それ以外を禁止する」のがシャドーAI対策のコツです。

社内にUTMがある場合は、管理画面で以下のドメインへのアクセスをフィルタリングすれば、AIが使われているか確認できます。

・chatgpt.com
・claude.ai
・gemini.google.com
・copilot.microsoft.com

AIサービスへのアクセスが一件も出てこない場合、社員がスマホやデザリングなど社内ネットワークを通さないルートで使用している可能性にも注意が必要です。

「そもそもアクセスログを確認する手段がない、わからない」という場合は、まずはUTMの導入を検討してみてください。

【組織・教育面】人の意識を高める生成AIの情報漏洩対策

ルールを作っても、従業員が理解していなければ機能しません。 最後の柱として、人と組織への対策を整えましょう。

組織・教育面の対策は次の3つです。

この章で解説する内容
・全従業員にAIリテラシー教育を実施する
・公的ガイドライン・チェックリストを活用する
・インシデント発生時の報告・対応体制を整える

⑧全従業員にAIリテラシー教育を実施する

教育のポイントは、「ルールの暗記」ではなく「理由の理解」です。

入力した情報が学習・保存される仕組みから教えると、「なぜ顧客名を入れてはいけないのか」が自分ごととして理解できます。 仕組みを知らないまま使うことが、最大のリスクだからです。

リテラシー教育を行うタイミング
・入社時・異動時の研修に生成AIの利用ルールを組み込む
・年1回の定期研修で、最新の事例とあわせて振り返る
・生成AI関連の事故ニュースが出たら、社内で共有する

一度きりの研修で終わらせず、継続的に意識を更新していくことがポイントです。

⑨公的ガイドライン・チェックリストを活用する

自社ルールの根拠づけには、国が公開している資料が役立ちます。

資料	発行元	活用ポイント
AI事業者ガイドライン	経済産業省・総務省	AIを開発・提供・利用する事業者の指針。社内ガイドラインの土台になる
テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）	デジタル庁	行政向けの資料だが、生成AI特有のリスクと軽減策の整理は民間企業にも参考になる
生成AIサービスの利用に関する注意喚起	個人情報保護委員会	個人情報を入力する際の法的な留意点がわかる

いずれも無料で読めるうえ、内容は随時更新されます。 たとえばAI事業者ガイドラインは、2024年4月の初版公表後も改定が続いています。 ルール策定時だけでなく、年1回の見直しの際にも最新版を確認してみてください。

⑩インシデント発生時の報告・対応体制を整える

どれだけ対策しても、事故の可能性はゼロになりません。 だからこそ「入力してしまった」をすぐに言い出せる体制が必要です。

整えておくべきルール
・報告窓口（情シス・上長など）を明確にして周知する
・報告→影響範囲の確認→対応の流れをフロー化しておく
・正直に報告した従業員を罰しない方針を明示する

気をつけたいのは、報告者を責める文化です。 「怒られるから黙っておこう」と隠蔽されると、対応が遅れて被害が拡大します。 早期報告こそが被害を最小化する、という共通認識を作りましょう。

生成AIに個人情報・機密情報を入力してしまったときの対処法

すでに「入力してしまったかもしれない」という方も、慌てる必要はありません。 やるべきことを順番に整理します。

この章で解説する内容
STEP1｜履歴の削除と学習オフ設定を行う
STEP2｜社内の担当部署へ速やかに報告する
STEP3｜内容に応じて関係者への連絡・法対応を行う

STEP1｜履歴の削除と学習オフ設定を行う

まず、該当するチャット履歴を削除し、学習利用の設定がオンになっていれば、直ちにオフに変更してください。 サービスによっては、入力済みデータの削除申請ができる場合もあります。

ただし、削除操作をしても、サーバー上から即座にデータが消えるとは限りません。 あくまで「これ以上の拡散を止める応急処置」と考え、次のステップへ進みましょう。

STEP2｜社内の担当部署へ速やかに報告する

次に、情報システム部門や上長へ速やかに報告します。

報告の際に整理しておく内容
・入力した内容（誰の・どんな情報か）
・入力した日時と使用したツール・アカウント
・実施済みの対処（履歴削除・設定変更など）

自己判断での放置が、最も危険です。 会社側はこの情報をもとに影響範囲を確認し、対応方針を決定します。

STEP3｜内容に応じて関係者への連絡・法対応を行う

最後に、入力した情報の内容に応じた対応を行います。

ID・パスワードなどの認証情報を入力した場合は、該当アカウントのパスワードを直ちに変更してください。 顧客など第三者の個人情報を漏洩させたおそれがある場合は、個人情報保護法に基づき、個人情報保護委員会への報告や本人への通知が必要になるケースがあります。

生成AIに限らず、企業の情報漏洩は事前に対策しておくと、いざというときに焦らずに対応できるため、取り入れられることから始めてください。

生成AIの情報漏洩対策に関するよくある質問

最後に、生成AIの情報漏洩対策についてよくある質問を紹介します。

Q. 生成AIに入れてはいけない情報は何ですか？

A：氏名・住所などの個人情報、顧客情報、社外秘の資料や会議録、ソースコード、ID・パスワードなどの認証情報が代表例です。 「社外の人に渡せない情報は入力しない」を基本の判断基準にしてください。

Q. 生成AIに個人情報を入力するのは違法ですか？

A：本人の同意なく第三者の個人情報を学習される形で入力すると、個人情報保護法に抵触するおそれがあります。 個人情報保護委員会も2023年6月に注意喚起を出しています。 業務では第三者の個人情報を入力しない運用が安全です。

Q. ChatGPTの無料版と有料の法人プランでは安全性が違いますか？

A：無料版・個人版は入力内容が学習に使われる場合がありますが、法人プランやAPI利用では学習に使われない仕様が一般的です。 管理機能や監査ログも充実しているため、業務利用なら法人プランをおすすめします。

Q. 生成AIで情報漏洩しない方法はありますか？

A：リスクを完全にゼロにする方法はありません。 ただし、オプトアウト設定・法人プランの利用・入力ルールの徹底・端末のマルウェア対策を組み合わせれば、漏洩リスクは大幅に下げられます。

まとめ

生成AIの情報漏洩は、入力内容の学習・サービス側のバグ・アカウント窃取・シャドーAIなどが原因で起こります。

まずは、社内で生成AIが使っているか匿名アンケートやアクセスログの確認を行いましょう。

そのうえで生成AIを「禁止」するのではなく、「安全に使える環境」を整えることが、活用と情報漏洩対策を両立させる近道です。

中でも、マルウェア対策やネットワークの可視化といった技術面の土台づくりは、自社だけで判断するのが難しい部分でもあります。

「うちは情報漏洩対策ができているだろうか」と少しでも気になった方は、UTM・ESETなどの導入も含めて、お気軽に無料相談をご利用ください。