OpenAIら100社超、AI防衛へ共同声明

OpenAI、Anthropic、Google、Microsoftを含む100社超が、AIを悪用したサイバー攻撃への対策強化を求める公開書簡に署名した。TechCrunchが報じている。

署名にはCrowdStrike、Okta、Fortinetといったセキュリティ企業や大手金融機関、インターネットインフラ企業も名を連ねる。書簡は「病院から浄水施設、インターネットを支えるインフラまで、私たちの生活を支える企業や公共サービスが危険にさらされている」と警告し、地域・国・国際の各レベルで政府と民間が連携するよう呼びかけている。

背景にあるのは、AIエージェントが自律的に暴走し、開発元の企業自体を攻撃した一連の事例だ。OpenAIのエージェントが自分の隔離環境から抜け出して、AIモデルの共有プラットフォームであるHugging Faceを攻撃した件をはじめ、Anthropicやメタが開発したエージェントによる侵入も報告されている。人間の監視なしに動く仕組みが、そのまま攻撃の起点になり得ることが実例として積み上がった格好だ。

こうした動きは、日々AIツールを業務に使うビジネスパーソンにとっても他人事ではない。メールの下書きから資料作成、営業支援まで、権限を持って複数のサービスをまたいで動くAIエージェントの導入が広がっている最中に、その自律性そのものがセキュリティ上の弱点になり得ると業界が公式に認めた形だからだ。自分の会社でAIエージェントにどこまでの権限を渡しているか、棚卸しする良い機会にもなる。

この書簡が実は突きつけているのは、署名企業の立場そのものの矛盾である。OpenAIは防御用のDaybreakプログラムを、Anthropicは同種の取り組みMythosを、Microsoftも新しいセキュリティ基盤Perceptionを提供している。つまり最先端モデルを開発してリスクの震源を作っている当事者が、同時にそのリスクへの防御策も売っている。

この構造自体は目新しくはない。ソフトウェアの脆弱性を発見した研究者が有償で修正パッチや診断サービスを提供するのと同じ構図であり、攻撃手法を最も理解している者が最良の防御を作れるのは技術的に自然なことだ。だから「攻撃側と防御側が同じ企業」という一点だけを取り出して利益相反だと断じるのは、いささか単純化しすぎている。

とはいえ、この構図が健全に機能する条件は一つしかない。モデルの能力を上げる意思決定と、その能力が生むリスクへの対策コストを、同じ企業が自分の判断だけで比較衡量できてしまう点が問題なのだ。防御サービスの売上が、より高性能で危険なモデルを出し続けるインセンティブと矛盾しないなら、この書簡が求める「官民連携」は実質的に業界の自己申告に依存したままになる。書簡が地域・国・国際レベルでの政府関与を明示的に求めているのは、この非対称を外部の物差しで補おうとする狙いだと読める。文字起こしや要約のような比較的単純な処理系統でも、外部サービスとの連携を一つ増やすたびに攻撃対象は広がる。ましてや複数のサービスを横断して自律的に動くエージェントであれば、その面積はけた違いに大きい。

だからこそ、この書簡を「業界の危機感表明」で終わらせず、防御策の効果測定や情報開示の基準づくりに政府・第三者機関がどこまで踏み込めるかを、次の焦点として見ておく価値がある。