2026 年 10 月 26 日、Cloudflare はインシデント報告を公表し、2026 年 8 月 27 日から 9 月 9 日までの間に、同社の Workers AI プラットフォーム上の GLM-5.3 モデルの155 件の応答に他の顧客のリクエストのデータが含まれていたことを認めました。影響を受けたのは 681,280 トークンを超える非常に長いリクエストだけで、意図的な悪用の証拠は見つかっていないと Cloudflare は述べています。AI サービスにファイルを送るすべての企業にとって教訓は明確です。事業者のマシンを見知らぬ相手と共有しており、顧客間の分離は破綻することがあります。今週やるべきことは、チームが使うすべての AI サービスを洗い出し、各事業者に以下の 5 つの質問をし、業務に不要な個人データの送信をやめることです。所有者不明の AI モデルに関する記事を読んだ方なら、今回の件は有名な事業者でも保証にならないことを示しています。

何が起きたのか、わかりやすく

Workers AI は、企業が自前のサーバーを買う代わりに、Cloudflare のサーバー上で動く AI モデルを従量課金で使えるサービスです。Cloudflare は GLM-5.3 のコンテキストウィンドウを 1,048,576 トークンと案内しており、非常に長い入力を受け付けられるとしていました。しかし、その入力を処理するためのメモリプールは 681,280 トークン分しかありませんでした。リクエストがそれより長い場合、提供ソフトウェア (SGLang) はエラーで拒否すべきでした。ところが処理を続け、以前のリクエストの残りのメモリページから応答を組み立て、通常の成功した応答として返してしまいました。

その結果、少数の顧客が、他の顧客が送った内容の断片を含む応答を受け取りました。Cloudflare によると、影響は GLM-5.3 のみで、他のモデルには及んでいません。

時系列

  • 2026 年 8 月 27 日：GLM-5.3 が Workers AI で提供開始され、漏えいが始まる。
  • 9 月 8 日：Knostic のセキュリティ研究者 Gadi Evron 氏が、HackerOne 上の Cloudflare のバグ報奨金プログラムを通じて問題を報告。
  • 9 月 9 日 13:22 UTC：Cloudflare がインシデントを宣言。38 分後の 14:00 UTC にモデルを停止。
  • 9 月 9 日 19:40 UTC：メモリプールの修正と提供ソフトウェアへのパッチ適用の後、サービス再開。
  • 10 月 26 日：SGLang の開発者および研究者と調整のうえ公表。

漏えいは 13 日間続き、発見したのは Cloudflare 自身の監視ではなく外部の研究者でした。影響を受けた顧客に個別に通知したかどうかは、報告書に書かれていません。

GLM-5.3 を聞いたこともないサウジ企業にとってなぜ重要か

現在、多くの企業は共有サービスを通じて AI を使っています。顧客のメッセージを読むチャットボット、契約書を要約するツール、請求書を分類するシステムなどです。いずれの場合も、あなたの文章は、同時に何千もの他社のリクエストを処理しているサーバーへ送られます。事業者はそれらを分離すると約束します。今回の事案は、その約束が誤り得る設定の細部に依存していること、そして誤りが何の兆候も示さない場合があることを示しました。影響を受けた顧客が受け取ったのはエラーメッセージではなく、普通の応答でした。

今回のきっかけは非常に長い入力でした。これは多くの企業が向かっている使い方そのものです。契約書のアーカイブ全体や丸一年分のやり取りを、一度のリクエストでアップロードするという使い方です。

AI 事業者に聞くべき 5 つの質問

  1. 自社のデータは共有マシンで処理されますか、それとも自社専用の容量で処理されますか？専用容量は高価ですが、この種のリスクを丸ごと取り除けます。
  2. リクエストがモデルの上限を超えたらどうしますか？正しい答えは明確な拒否であり、黙って切り詰めることでも、別の何かをもとに応答を作ることでもありません。
  3. 自社のデータに関わるインシデントを何時間以内に通知しますか？それは契約書に書かれていますか？自社の義務を果たすために必要です。
  4. リクエストと応答を保存しますか？期間と場所は？保存されないデータは、後で他人の応答に現れることがありません。
  5. バグ報奨金プログラムや外部のセキュリティテストはありますか？今回、欠陥を見つけたのは外部の研究者でした。

サウジアラビアの法律が求めること

自社が選んだ事業者を通じて顧客や従業員の個人データが漏えいしても、責任は事業者に移りません。個人データ保護法 (PDPL) 施行規則第 24 条は、本人に損害を与えるおそれのあるインシデントを知ってから 72 時間以内に所管当局へ通知することを求めています。何も知らせない事業者や、数週間後に知らせる事業者のせいで、知らないうちにこの期限を守れなくなります。だからこそ、上の三つ目の質問は形式的なものではありません。

今週の対応

  • 従業員が独自に使い始めた無料ツールも含め、チームが使うすべての AI サービスを洗い出す。
  • 2026 年 8 月 27 日から 9 月 9 日の間に Workers AI で GLM-5.3 を使っていた場合は、その期間のログで非常に長いリクエストを確認し、Cloudflare に連絡する。
  • 業務上本当に必要な場合を除き、送信前に氏名、身分証番号、電話番号を文章から削除する。
  • モデルを上限ぎりぎりまで使うのではなく、非常に大きな文書は適切なサイズのリクエストに分ける。
  • すべての AI サービス契約に、通知までの時間を明記したインシデント通知条項を加える。

Origami の見解

私たちは今回の事案を、共有型 AI サービスを避ける理由とは考えていません。Cloudflare は 38 分でモデルを停止し、詳細で率直な報告書を公表しました。これは多くの事業者よりも優れた対応です。むしろ、リスクはメモリのサイズ、エラーの扱い方、誰が監視しているかといった、マーケティングページには決して載らない細部に潜んでいるという注意喚起だと捉えています。顧客向けに AI システムを構築する際、私たちはまず、どのデータが本当にモデルに届く必要があるのかを問い、そのデータの機密性に応じて、共有サービスか王国内でホストされる容量かを選びます。

自社で使っている AI サービスと、そこに送られるデータの見直しをご希望の方は、お問い合わせいただくか、サービスをご覧ください。

出典