Folta

生成AIの情報漏えい 公表3事例

利用ルールを決めても、情報漏えいは起きています。2023〜2026年に公表された3つの事例を、誰が、何を、どの操作で、どこへ送ったのかで読み直すと、見るべきものはサービス名ではなく操作だと分かります。

生成AIの利用ルールを作っている会社は、もう珍しくありません。それでも、情報漏えいの公表は続いています。

ルールが守られていないから、と考えたくなります。ただ、公表された事例を読み直すと、違う姿が見えてきます。事故は、ルールで禁止した操作ではなく、ルールが想定していなかった場所で起きています。個人のアカウント、承認していないサービス、そして貼り付けやアップロードという、ごく普通の操作です。

この記事では、2023年から2026年に公表された3つの事例を、誰が、何を、どの操作で、どこへ送ったのか、の順で読み直します。最後に、自社で見るべき操作を一覧にしました。

使う側の行動は、ルールでは変わらない

まず数字から。BCGが2025年に11の国と地域で1万人以上に行った調査では、必要なAIツールが会社から提供されない場合、半数以上の従業員が、代わりの手段を見つけて使うと答えました1。IBMの2025年の調査では、5社に1社がシャドーAI、つまり会社の管理外で使われたAIに関わる侵害を経験しています。その侵害の65%で、顧客の個人情報が露出しました2。国内でも、希望者や特定の部署に限って社内AIを導入した企業の約7割がほぼ使われていないと答えた調査があります3。

会社が用意したAIが使いにくければ、人は外のAIを使います。そこで事故が起きます。業種はあまり関係ありません。

公表された3つの事例

社名まで公表された事例は、多くありません。ここでは、当事者の公表と報道で確認できる3件を、古い順に並べます。書いてあるのは出典で確認できることだけで、推測は入れていません。

  1. 2023年3月

    半導体メーカー:解禁から3週間で、社員3名がソースコードや会議の録音をChatGPTに入力

    半導体設備向けデータベースのソースコード、不良機器を判定するプログラムのコード、会議の録音内容。入力欄への貼り付け、アップロード、入力で送られました。相手は社内で解禁されたChatGPTで、会社の管理は及びません。

    The Register、2023.04.06
  2. 2024年12月

    拡張機能の乗っ取り:改ざんされた自動更新で、利用者のCookieや認証トークンが外部へ

    データ保護製品Cyberhavenの拡張機能。開発者アカウントが乗っ取られ、悪意のある版がChromeウェブストアに公開されました。利用者側の操作はなく、同じ手口で十数個の拡張機能が改ざんされ、影響は数十万人規模とされています。

    Sekoia.io、2025.01.22
  3. 2026年9月

    ヘルスケア企業:集計作業の中で、個人契約の生成AIに対象者の個人情報をアップロード

    RIZAPの健康経営・保険者事業部の社員が、特定保健指導の対象者データの一部をアップロード。保険証記号番号、氏名、生年月日、メールアドレスのほか、高血圧症や糖尿病などの疾患情報が含まれていました。

    RIZAP、2026.09.03

半導体メーカーの件に共通するのは、悪意がないことです。3人とも、目の前の仕事を早く終わらせようとしただけでした4。同社はその後、1回の入力を1,024バイトまでに制限し、5月には社用端末での生成AI利用を禁止したと報じられています5。ただ、1,024バイトというのは、ソースコードの断片なら十分に収まる量です。量を制限しても、中身を見なければ同じことは起きます。

拡張機能の件は、利用者に落ち度がないタイプです。拡張機能はブラウザの中で動くので、ページに入力した内容やログイン状態に触れられます7。生成AIを名乗る拡張機能は、この1年でかなり増えました。どの端末に何が入っているか、把握できている会社のほうが少ないかもしれません。

ヘルスケア企業の件で見てほしいのは、経路です。データは持ち出されたのではありません。集計という普通の業務の中で、アップロードされました。しかも、使われたのは会社のアカウントではなく、個人のアカウントです。同社は運営事業者に照会し、第三者に閲覧された可能性やAIの学習に使われた可能性はないと確認しています6。それでも、URLでアクセスを制御するだけでは、この操作は素通りします。

3つに共通すること

URLフィルタ・CASBが見ている範囲ページを開くアクセス入力・貼り付け・アップロード操作の中身と、ログイン中のアカウント外部へ送信生成AI・拡張機能事故が起きる瞬間Foltaセキュアブラウザが見ている範囲(操作の中身、アカウント、拡張機能)
漏えいはページを開いた瞬間ではなく、操作の瞬間に起きている。URLフィルタやCASBが見ているのは最初の段階だけ。

業種も規模も違う3件ですが、起き方は似ています。漏えいは、ページを開いた瞬間には起きていません。貼り付け、入力、アップロードをした瞬間に起きています。経路は、会社が契約したアカウントの外側でした。そして3社とも、事故のあとで、誰が、いつ、何を送ったのかを調べる必要に迫られています。

URLフィルタやCASBが見ているのは、どのサイトを開いたかです。3件が起きた瞬間は、その少し先です。IBMの調査でも、侵害を受けた組織の63%はAIのガバナンス方針を持たず、AIに関わる侵害を受けた組織の97%には適切なアクセス制御がありませんでした2。禁止の文言を増やしても、見えていない操作は見えないままです。

見るのは、サイトではなく操作

3つの事例をブラウザ上の操作に分解すると、下の表になります。右の2列は、Foltaセキュアブラウザでポリシーを作るときの設定項目、イベントと条件の名前です。イベントはどの操作を見るか、条件はその操作のうちどれを引っかけるかを指します。

事例起きた操作見るべきイベント使う条件
ソースコードや会議記録の入力ChatGPTの入力欄への貼り付け、テキスト入力ペースト、テキスト入力ファイル内容や正規表現(機密ワード、識別子の形式)
個人情報を含むデータのアップロード個人アカウントの生成AIへファイルをアップロードアップロード、ログインアカウント確認結果(外部)、ファイル内容
改ざんされた拡張機能拡張機能のインストールと更新拡張機能ブラウザ危険判定、拡張機能名

表を見ると、3件ともアクセスの段階では捕まらないことが分かります。ChatGPTを開くこと自体は、止める理由がないからです。貼り付けやアップロードの瞬間に中身を見る。ログインしているアカウントの種類を見る。拡張機能が入る瞬間を見る。この3つが揃って、はじめて同じ経路を塞げます。

Foltaのポリシー検知ログ画面。検知日時、端末、イベント、アクション、ポリシー名、対象URLが一覧で並ぶ
Foltaのポリシー検知ログ。誰が、いつ、どのサービスで、どの操作をしたかが、イベントとアクションの単位で残ります。

最初は監視だけで始める

監視止めずに記録する幅広い条件で網を張る警告理由を表示して気づかせる記録を見て条件を絞るブロック機密情報の送信だけ止める基準と日付は記録で決める
止めずに記録する → 理由を表示して警告する → 機密情報の送信だけブロックする。切り替えの基準と日付は、記録の実績で決める。

Foltaでは、最初からブロックにすることをおすすめしていません。業務が止まりますし、何が過検知で何が未検知なのかも分からないまま、ルールだけが残るからです。

順番は3段階です。まず、止めずに記録する。個人情報や機密ワード、ファイルのアップロードなど、少し広めの条件で網を張ります。次に、記録を見ながら条件を絞り、リスクの高い操作にだけ警告を出す。警告文に理由を書いておくと、それ自体が社内への説明になります。最後に、業務で認めたAIは残したまま、機密情報の送信につながる操作だけをブロックに切り替えます。

監視の段階では、必ず過検知が出ます。過検知とは、止めなくていい操作まで引っかかることです。たとえば電話番号の形式を正規表現で拾うと、社内の識別子や日時の一部まで引っかかります。これは失敗ではなく、条件を絞り込むための材料です。この順番なら、ガイドラインの文言を大きく変えなくても、何が起きているか、何を止めたかを数字で説明できます。

Foltaのレポート画面。日別の検知件数、検知レベル別の内訳、AIサービスの利用状況が並ぶ
Foltaのレポート画面。検知件数の推移、ブロック・警告・監視の内訳、新しく見つかったAIサービスを確認して、切り替えを判断します。

自社の状態を確認する

ガイドラインを作ること自体は大事です。ただ、守られているかを確かめる手段がないと、事故が起きたときに説明できません。3つの事例が教えてくれるのは、見るべき単位はサービス名ではなく操作だ、ということです。

自社の状態を確認したい方は、下のチェックリストを使ってみてください。半分以上にチェックが付かなければ、まず監視だけで2〜4週間、実態を把握するところから始めるのが現実的です。Foltaでは、監視だけで始めるトライアルを受け付けています。

  • 利用を認める生成AIと、そのアカウント種別(会社・個人)が決まっている
  • 入力してはいけない情報が、個人情報・顧客情報・ソースコードなど具体名で書かれている
  • ルールがサービス名ではなく操作の単位で書かれている
  • 従業員が実際に使っているAIサービスを、自己申告以外の方法で把握している
  • 会社アカウントと個人アカウントでの利用を見分けられる
  • 事故が疑われたとき、誰が・いつ・どのサービスで・何をしたかを記録から説明できる
  • どの拡張機能が入っているかを把握し、インストールを制御できる
監視だけで始めるトライアルのご相談

2〜4週間、止めずに記録して実態を数字にします。初期の検知条件の設計から相談できます。

お問い合わせ

Sources

  1. 1AI at Work 2025: Momentum Builds, but Gaps RemainBoston Consulting Group、2025.06.2611の国と地域、10,600人以上を対象。必要なAIツールがない場合、半数以上が代替手段を見つけて使うと回答
  2. 22025 Cost of a Data Breach Report: Navigating the AI rush without sidelining securityIBM(調査はPonemon Institute)、2025.07.30シャドーAIに関わる侵害を経験した組織は20%。63%がAIガバナンス方針なし、97%がAIへのアクセス制御不十分。シャドーAI関連の侵害で個人情報が露出した割合は65%
  3. 3ChatGPTなど生成AIを「業務で日常使用」は3割、8カ月で約25ポイント増株式会社エクサウィザーズ(Exa Enterprise AI)、2023.12.212023年12月12日実施、522社695人。希望者や部署などに限定的に導入した企業では、約7割がほぼ使われていないと回答
  4. 4Samsung reportedly leaked its own secrets through ChatGPTThe Register(原報道はThe Economist Korea)、2023.04.06
  5. 5Samsung Bans ChatGPT Among Employees After Sensitive Code LeakForbes(Bloombergの報道を引用)、2023.05.02
  6. 6当社における外部生成AIサービスへのお客様情報の誤ったアップロードに関するお詫びとお知らせRIZAP、2026.09.03当事者の公表。対象のデータ、含まれる個人情報と疾患情報の記載あり
  7. 7Targeted supply chain attack against Chrome browser extensionsSekoia.io、2025.01.222024年11月からのフィッシングを起点に、12月24日に改ざん、26日に発覚。約12の拡張機能が同じ手口で改ざんされたと分析

AIを止めずに守る
仕組みを、実際の画面で
お見せします。

オンラインデモでは、AI管理・制御・レポートの画面を実際の操作でご覧いただけます。導入のご相談やトライアルのご依頼も、こちらからどうぞ。

お問い合わせ
Foltaのレポート画面