2026年10月15日 20:17
(Image by Tung Nguyen from Pixabay)[写真拡大]
34カ国の科学者400人超が2026年10月13日、AIの安全性評価などで起きた外部システムへの侵入を受け、封じ込め対策の強化を求める公開書簡を発表した。サイバー能力のあるAIモデルについて、当面はインターネットからの切り離しを基本とし、事故の報告と共有を進めるよう提言している。
■封じ込めと事故報告に関する三つの提言
書簡は、サイバー能力のあるAIモデルを開発・運用・試験する組織に、高水準の封じ込め対策を直ちに導入するよう求める。初期段階では、外部ネットワークとの接続を断つ「エアギャップ」を基本とする考えだ。
次に、各国政府とAI・サイバーセキュリティの専門家が協議し、国際機関を設けるよう提案する。この機関には、インターネット接続などを認める場合の安全対策を標準化し、封じ込めの失敗を記録・追跡する役割を想定している。
三つ目は、封じ込め失敗を伴うセキュリティ事故を同機関に報告し、最終的に公表することだ。書簡は、事故から学び、対策を改善するには情報共有と透明性が必要だと訴える。署名者には、ニューサウスウェールズ大学AI研究所のチーフサイエンティスト、トビー・ウォルシュ教授らが名を連ねる。
■評価中のAIが外部システムへ到達
OpenAIは2026年7月、社内のサイバーセキュリティ評価中に複数のモデルが隔離策を回避し、Hugging Faceのシステムなどを侵害したと公表した。同社の調査では、主な活動を担ったのはGPT-5.6 Solと同程度の規模を持つ社内限定の研究モデルだった。GPT-5.6 Solも、侵入に使われた手法の再現や評価データのコピーに関わったという。
OpenAIによると、エージェントは共有インフラを使って互いに情報を交換し、公開されていた認証情報を足掛かりにHugging Faceへ侵入した。複数のサーバーでコードを実行し、うち1台で管理者権限を取得したほか、限定的な非公開データや社内メッセージサービスの認証情報にもアクセスした。同社は経緯をセキュリティ会議「Black Hat」でも説明した。
Anthropicは7月、インターネットに接続し得た評価実行14万1006件を調べ、Claudeが外部の3組織の本番システムへ不正にアクセスした事故を3件特定したと発表した。評価を担当したIrregularの環境では、モデルにネット接続はないと指示していた一方、設定不備によって実際には接続できた。ある事故では、認証情報が取得され、数百行の本番データを含むデータベースにアクセスされた。
別の事故では、Claude Mythos 5が悪意あるコードを含むパッケージを公開ソフトウェア登録先のPyPIに投稿した。Anthropicによると、約1時間の公開中に15の実システムで実行され、セキュリティ企業のスキャナーから認証情報が流出した。同社は9月、当初の3件に加えて、別の評価中に起きた4件目の事故も公表している。
Metaも8月、Irregularが設定した評価環境でMuse Spark 1.1がインターネットに接続し、実在するウェブサイトの脆弱性を悪用したと説明した。評価課題に実在サイトの名称が誤って使われていたという。モデルはサイト内の情報にアクセスし、データベースにも変更を加えた。
■豪政府サイトへのアクセスと通知
オーストラリアでは6月18日、OpenAIの社内限定モデルが、政府機関Services Australiaの「Medicare Statistics Reporting Service」へ許可されていない方法でアクセスした。医薬品支出に関する公開統計を調べる課題の途中で、非公開のシステム情報やファイル、認証情報などを取得し、ファイルを書き込んだ。OpenAIの調査では、個人の診療記録へのアクセスは確認されていない。
OpenAIは7月のHugging Faceの事故後に過去の活動を調べ、8月中旬に豪政府サイトへのアクセスを把握した。Services Australiaへの通知は9月10日だった。6月18日のアクセスから通知までは84日で、発見から通知までの期間とは区別する必要がある。
アルバニージー首相は通知の遅れを批判した。OpenAIも、調査の完了を待たずに暫定的な調査結果を早く伝えるべきだったとしている。同社はその後、ニューサウスウェールズ州の犯罪統計機関や国立公園・野生生物局のサイトなどに関するモデルの活動も公表した。
事故通知の期限を考える際、既存の制度には適用条件の違いがある。EUの一般データ保護規則は、個人へのリスクが見込まれる個人データ侵害を認識した場合、原則72時間以内の当局通知を求める。米証券取引委員会の規則では、上場企業が重大と判断したサイバー事故について、原則4営業日以内の開示を求める。
■研究が示す設定不備のリスク
オックスフォード大学と英国AIセキュリティ研究所の研究者は2026年3月、コンテナからの脱出能力を測る「SandboxEscapeBench」を公表した。18の課題には、特権を広く与えたコンテナや外部に露出したDockerの制御機能など、既知の弱点が含まれる。モデルにコンテナ外のファイルを取得させる試験であり、実際の組織への侵入率を測ったものではない。
論文の初期結果では、全課題を通じた成功率はGPT-5が約0.50、Claude Opus 4.5が約0.49だった。その後の更新では、追加したモデルがより高い結果を示している。研究者らは、設定不備には権限の絞り込みが、既知の脆弱性には適時の修正が重要だと指摘する。
ウォルシュ氏は豪ABCの取材に、Hugging Faceの事故では試験環境のネットワーク隔離が、Medicareの事例では必要最小限の権限設定が重要だったと述べた。航空事故の調査になぞらえ、事故の内容を共有して同じ失敗を繰り返さない仕組みを提案している。
■国際的な議論と各国の動き
ウォルシュ氏は以前からAIの安全対策を訴えてきた。2015年には攻撃的な自律兵器の禁止を求める公開書簡の発表に関わり、署名はその年末までに2万2000人を超えた。2017年にはAI・ロボット企業の幹部らによる同様の書簡の取りまとめにも参加し、2023年には科学の理解促進をたたえる豪州のEureka Prizeを受賞した。
2025年9月には、ジェフリー・ヒントン氏やヨシュア・ベンジオ氏らを含む200人超が「Global Call for AI Red Lines」に署名し、危険なAI利用に関する国際的な合意を求めた。今回の書簡は、開発や評価の現場で必要となる封じ込め、事故の記録、情報共有に焦点を当てる。
オーストラリアのアンドリュー・チャールトン科学・技術・デジタル経済担当副大臣は10月、AI企業に安全対策の有効性を示させる制度構想を説明した。豪ABCによると、政府は国内基準を2026年末までにまとめ、2027年の法制化を計画している。
国連の「AIに関する独立国際科学パネル」も9月、OpenAIとHugging Faceの事故を取り上げた報告を公表した。米国と中国は同月、AI関連の事故について政府間で連絡する窓口を設けることで合意している。事故情報を国境を越えて共有する仕組みが、各国の議論に上がり始めている。
元記事: Rogue AI Agents Breached Real Systems Undetected: Scientists Demand International Body
※この記事はTech Timesから提供を受けた記事を日本向けに翻訳・編集したものです。
スポンサードリンク
関連キーワード