AI はサイバーセキュリティのスピード、規模、経済性を変えつつあります。AI は、防御側による脆弱性の発見と修正、侵入の検知、攻撃への対応を支援できます。しかし、同じ能力が悪意ある攻撃者を利することもあり、AI システムが想定された範囲を超えて動作すれば、新たなリスクも生じます。今は、防御側が先手を打てる限られた機会です。高度なサイバー攻撃能力が広く普及する前に、防御側が高度な AI を使えるようにし、防御を強化する必要があります。
本日、OpenAI は、先に発表したサイバーセキュリティ行動計画とフロンティア AI の安全性確保に向けた構想（新しいウィンドウで開く）を踏まえ、サイバー防御の担い手を支援するための構想を公開します。自社モデルが意図に沿わない挙動を示した事例や、セキュリティインシデントを経験したことで、業界全体で安全対策と説明責任を強化する必要性が改めて浮き彫りになりました。こうした教訓を踏まえ、本構想では次の 3 つの分野で、政府と産業界に向けた具体策を提案しています。
高度な AI の安全性とセキュリティの強化：フロンティアモデルとエージェントのセキュリティ確保、危険な挙動の検知、各組織の管理下にある運用を確実に停止できる制御の維持について、責任をより明確化
知能の時代に向けたサイバーセキュリティの近代化：防御側への高度なツール、訓練、技術支援の提供、長年残されてきたサイバーセキュリティ上の弱点への対処、不可欠なサービスの保護と老朽化したシステムの更新への投資
回復力と適応力を備えた公的機関の構築：政府による評価と独立した技術評価の強化、一貫したインシデント報告要件の策定、連携による対応・復旧体制の改善
AI 研究機関には、自らのシステムが生み出すリスクに対処し、社会の防御力強化に貢献する責任があります。政府もまた、AI の能力が向上するなかで人々を守るために必要な専門知識、資源、権限を備えなければなりません。政策立案者の皆さまには、安全対策を整備し、経験から学び、技術の進化に合わせて要件を強化するため、今すぐ行動することを呼びかけます。
構想の全文はこちら（新しいウィンドウで開く）でご覧いただけます。
