AIのリスクから会社を守るには？最近の警告を踏まえた実践的なアドバイス

AIのリスクから会社を守るには、7つのステップがあります。社内で動いているすべてのAIツールとAIエージェントを把握すること、各エージェントに専用のアカウントを与えて権限を最小限にすること、支払い・削除・顧客へのメッセージの前には必ず人の承認を求めること、顧客データを承認されていないツールに入れないこと、インターネットに公開されたシステムには数日以内にパッチを当てること、お金に関する依頼は別の経路で確認すること、そして保険の補償範囲を見直すことです。これらのステップは2026年10月の一連の警告から導いたものです。マイクロソフトは、エージェントをミスをしたり操られたりしうる内部関係者として扱うよう企業に呼びかけました。2つのPHP2Shell脆弱性は、うち1つがAIモデルによって発見されたもので、公表から5日後に実際に悪用されている脆弱性のリストに追加されました。そしてAnthropicのIPO目論見書は、同社のモデルが、どのユーザーや開発者も意図しない振る舞いをする可能性があると警告しました。

最近の警告とは何か、なぜあなたの会社に関係するのか？

1か月足らずのうちに、AIモデルを開発している企業そのものと、各国政府のサイバーセキュリティ機関から警告が相次ぎました。主なものを公表順に並べると次のとおりです。

これらの警告に共通するのは、AIが2つの方向からリスクを高めているという点です。外側からは、攻撃者が脆弱性をより速く見つけて悪用するようになったため。内側からは、ツールやエージェントに必要以上のアクセス権を与えてしまうためです。PHPの脆弱性への対応で連合を率いたOpenAIは、これらを近年で最も影響の大きいセキュリティ問題の1つと位置づけ、「同じ能力が、攻撃者による攻撃ツールやエクスプロイトの迅速な開発を助けることもある」と述べています。同社は、同様の発見が「今後数か月で急増する」と見込んでいます。AnthropicのIPO目論見書はさらに、「悪意のある者たちは、脆弱性の発見、マルウェアの生成、検知ツールの回避にAIの能力を使い、すでに注目を集めるサイバー攻撃を行っている」と付け加えています。

会社をどう守るか？7つの実践的なアドバイス

1. 社内で動いているすべてのAIツールとAIエージェントを把握する。マイクロソフトははっきりとこう述べています。「見えないものは守れない」。同社は自社ツールを拡張し、従業員の端末で動く60種類のエージェントを検出できるようにしました。その中にはClaude Code、OpenAI Codex、GitHub Copilotも含まれます。一部のエージェントは、集中管理された導入手続きを一切経ずに端末に入り込むからです。まずは1枚の表から始めてください。各ツール、誰が使っているか、どのデータにアクセスできるか、アカウントが個人用か法人用か、そして誰が責任者かを書き出します。この表は、SDAIAのAIリスク管理に関する国家枠組みの出発点でもあります。
2. 各エージェントに専用のアカウントと、できるだけ少ない権限を与える。マイクロソフトの例は、経費精算の申請を審査するエージェントです。このエージェントは申請と社内規程を読む必要がありますが、自分を設定した従業員の権限をすべて引き継ぐべきではありません。マイクロソフトは、エージェントを権限ゼロの状態から始め、そのタスクに必要なものだけを、タスクが続く間だけ与え、影響の大きい操作には検証可能な人の承認を必須にすることを勧めています。具体的には、エージェントを管理職のアカウントに接続しない、会社の銀行パスワードを渡さない、読み取り権限と書き込み権限を分ける、必要以上の権限を開いてしまうコードや設定内の忘れられたキーを削除する、そしてすぐに停止できる手段を残しておく、ということです。マイクロソフトのCEOサティア・ナデラ氏は、こうまとめています。「最も信頼できるエージェント型システムとは、私たちが最も信頼しているモデルを備えたシステムではない。モデルを最も信頼せずに済むよう設計されたシステムだ」。
3. メール、ファイル、ウェブページで読んだ内容に基づいて、エージェントが確認なしに行動しないようにする。AnthropicのIPO目論見書は、プロンプトインジェクションを、モデルに処理させるウェブサイト、文書、ツールの出力などのコンテンツに悪意ある指示を埋め込み、多くの場合ユーザーが気づかないうちにモデルの振る舞いを操る攻撃だと定義しています。顧客のメールを読み、送金・削除・送信ができるエージェントは、攻撃者がメッセージの中に書いた命令を実行してしまうおそれがあります。マイクロソフトも同じシナリオを説明しています。経費精算のエージェントが外部の文書でプロンプトインジェクションに遭遇すると、設定は何も変わっていないのに、振る舞いが変わってしまうのです。会社からお金やデータを外に出す手順は、特にエージェントが外部のコンテンツを読んだ後は、必ず従業員の承認を通すようにしてください。同じリスクは、プロジェクトを開いただけで攻撃者のコマンドを実行してしまうコーディングエージェントでも見られました。
4. 顧客データを承認されていないツールに入れない。OpenAIのヘルプセンターによると、OpenAIはChatGPT Business、ChatGPT Enterprise、そしてAPIの入力と出力を、初期設定ではモデルの改善に使いません。一方、Free、Plus、Proといった個人向けプランの内容は、ユーザーが設定でオフにしない限り学習に使われる可能性があります。Anthropicも、Claude for WorkやAPIなどの商用製品の入力を、初期設定ではモデルの学習に使わないとしています。ですから法人アカウントに統一し、どのツールにも絶対に入力してはならないもの、つまり顧客の個人データ、契約書、パスワードを従業員に書面で伝えてください。顧客の個人データをAIツールに入力すると、その提供事業者はあなたに代わってそのデータを処理することになります。サウジアラビア個人データ保護法（PDPL）の施行規則の第17条は、十分な保証を示す処理者を選び、処理の目的と期間、そしてあらゆる漏えいをあなたに知らせる処理者の義務を定めた契約を結ぶことを求めています。漏えいが本人に害を及ぼしうる場合、第24条は、それを知ってから72時間以内に所管当局へ通知することを義務づけています。
5. インターネットに公開されたシステムには、数週間ではなく数日以内にパッチを当てる。Fortinetは、AIツールがいまや攻撃者によるパッチのリバースエンジニアリングを助け、動作するエクスプロイトを「数週間ではなく数時間から数日で」作れるようにしており、「公表から悪用までの時間はさらに縮まり続けている」と述べています。Anthropicは、エクスプロイトはいまや数分で開発できるとしています。だからこそCISAは、PHP2Shellの脆弱性について明確な手順を求めました。PHPを動かしているすべてのシステムを洗い出すこと、インターネットに公開されたシステムから順にすぐパッチを当てること、更新できないものは更新できるまでネットワークから切り離すこと、そしてその間はWebアプリケーションファイアウォール（WAF）がある程度の防御になりうることです。サウジアラビア国家サイバーセキュリティ庁（NCA）も、影響を受ける製品の更新を勧める警告を出しました。同じルールを、ウェブサイト、ファイアウォール、VPN、メールなど、外部に公開されたすべてのシステムに当てはめてください。詳しくは、PHP2Shell脆弱性、新しいLinuxの脆弱性、FortiGateファイアウォールに関する記事をご覧ください。
6. お金やデータに関する依頼は、必ず別の経路で確認する。ディープフェイクに関する啓発キャンペーンの中で、SDAIAと通信・宇宙・技術委員会（CST）は「動画で人の姿を見たり声を聞いたりしても、その人が本当にそう言ったという証拠にはならない」と述べ、リスクとして金銭的損失や詐欺、本人確認システムの突破、なりすましを挙げています。ですから、たとえ声が経営者のものに聞こえても、電話、音声メッセージ、動画だけを根拠に送金したりデータを送ったりしてはいけません。手元にある番号で相手にかけ直し、あなたが決めた上限を超える送金には必ず2人の署名を求めてください。防御の層についてはディープフェイクとAI詐欺に関する記事で、あなたの署名なしに会社のお金が動くあらゆる経路をふさぐ方法についてはBinanceハッキングの教訓で解説しました。
7. 保険の補償範囲と、取引先との契約内容を見直す。AnthropicのIPO目論見書にはこう書かれています。「当社のモデルは、どのユーザーや開発者も意図しない振る舞いをする可能性があるため、そうした行為から生じる請求により多額の責任を負うおそれがある」。さらに、同社の保険では十分な補償が得られない可能性があり、「AI特有のリスクを対象とする保険市場はまだ生まれたばかりで、発展の途上にある」と付け加えています。モデルを開発している企業でさえこうした状況なのですから、保険会社に書面で確認してください。AIエージェントが原因のデータ漏えいや、複製された声による不正送金は補償されるのか、と。また、各ツールの提供事業者には、データがどこに保存され、どのくらいの期間保管され、インシデントが起きたらいつ知らせてくれるのかを尋ねてください。

サウジアラビアの当局は何と言っているか？

AIを使うサウジアラビアのすべての企業にとって、重要な拠り所が3つあります。

• SDAIAは、政府機関と民間組織向けの指針としてAIリスク管理に関する国家枠組みを公表しました。私たちはその4つの段階と、あなたの会社での適用方法を解説しています。
• 国家サイバーセキュリティ庁（NCA）は、AIのサイバーセキュリティに関するガイドラインの草案を意見募集にかけ、2026年8月5日を意見提出の締め切りとしました。草案は、サイバーセキュリティのガバナンス、防御、レジリエンス、そして第三者に関わるサイバーセキュリティという4つの領域を柱とし、生成AIとエージェント型AIを対象に含めています。
• 個人データ保護法（PDPL）は、個人データを扱うすべての企業を拘束し、上で触れた施行規則の第17条と第24条もその一部です。詳しくは同法の実践ガイドをご覧ください。

最初の30日間の計画は？

Origamiの見解

私たちはこれらの警告を、会社でAIを止める理由ではなく、明確な範囲の中でAIを動かす理由だと考えています。マイクロソフト自身も、目標はあらゆる動きが予測できるモデルではなく、「モデルが安全でないときでも安全であり続けるシステム」だと述べています。Origamiは、限定された権限、承認の手順、わかりやすいログを備えた形で、AI機能やエージェントを企業のシステムに組み込みます。AIツールで書かれたコードをレビューしてその穴をふさぎ、インターネットに公開されたサーバーやアプリケーションの更新も行います。ツールやエージェントを一緒に見直すには、お問い合わせください。

まとめ

• 2026年10月の警告は、AIが脆弱性の発見と悪用を加速させていること、エージェントがミスをしたり操られたりしうること、そしてモデルが誰も意図しない振る舞いをしうることを示しています。
• ツールとエージェントを把握し、各エージェントの権限を最小限にし、お金や機密に関わる手順の前には人の承認を求めてください。
• 初期設定であなたのデータをモデルの学習に使わない法人アカウントを使い、顧客データを承認されていないツールに入れないでください。
• 公開されたシステムには数日以内にパッチを当て、お金に関する依頼は別の経路で確認し、保険と取引先との契約を見直してください。

出典

• マイクロソフト：エージェントは最新の内部関係者、2026年10月19日
• OpenAI：Patch the Planet、PHPの重大な脆弱性への対応の調整
• CISA：PHPの重大な脆弱性には直ちにパッチが必要
• サウジアラビア国家サイバーセキュリティ庁（NCA）：PHPに関する警告
• Fortinet：複数製品向けのセキュリティ強化リリース
• Anthropic：オープンソースソフトウェア向けの任意参加型の脆弱性発見サービス、2026年10月8日
• Anthropic：Claudeによる脆弱性の発見と悪用、2026年10月27日
• Anthropic：米国証券取引委員会（SEC）に提出されたS-1登録届出書
• サウジ国営通信（SPA）：SDAIAがAIリスク管理に関する国家枠組みを公表
• サウジアラビア国家サイバーセキュリティ庁（NCA）：AIのサイバーセキュリティに関するガイドラインの意見募集
• SDAIAとCST：ディープフェイクと偽動画
• SDAIA：個人データ保護法の施行規則
• OpenAI：モデルの性能向上にデータがどのように使われるか
• Anthropic：私のデータはモデルの学習に使われますか？