OpenAI の防御強化に向けた次回セキュリティスプリントの準備

OpenAI では、次回の社内セキュリティスプリントを計画しています。新たに参加する研究者やセキュリティパートナーが社内チームと協力し、当社のモデルを使ってシステムを検証・強化します。今回は Cathedral と提携します。同社の研究者は、OpenAI のモデルを使って当社チームとともに防御策を検証します。独自の専門知識とアプローチで弱点を見つけ、当社のプラットフォームの保護を支援します。

また、セキュリティバグ報奨金プログラムについても、重大な脆弱性の発見に対する報奨金を従来の 4 倍超に引き上げるなどの改善を進めています。研究者の皆さんには、私たちの前提を問い直し、システムとその防御手法の両方を強化するために力を貸していただきたいと考えています。

これは、AI を使ってシステムの弱点を継続的に発見・修正する取り組みの一環です。前回のスプリントでは、このアプローチがもたらす成果を確認できました。当社のプロダクトエンジニアの 25% が、システムの弱点の発見と修正に専念しました。エンジニアは Codex を使って検出事項を調査し、隔離環境で脆弱性を再現して、レビューに向けた修正パッチを作成しました。

従来のサイバー防御だけではもはや十分ではないため、私たちはこの取り組みをさらに発展させています。業界で最近発生したインシデントは、脅威がいかに急速に出現するかを示しています。同時に、攻撃者に先んじて弱点を発見・修正するために、防御のサイクルを継続的に回す仕組みを築くことの重要性も浮き彫りにしています。

防御側が先手を打てる時間を確保し続けるには、各組織がフロンティアレベルのサイバー能力を活用し、システムを強化する必要があります。私たちは、当社で最も高性能なモデルを使って自社の防御を強化するとともに、Daybreak のお客様にもこれらのモデルを提供しています。不可欠なサービスやデジタルインフラを最前線で守る防御担当者に向けて、6 か月間で10 億ドル規模の利用費用支援を行うことを約束しています。また、前回のスプリントで用いたアーキテクチャと得られた教訓⁠に加え、産業界と政府のサイバー防御担当者の能力を高めるための構想も公開しています。

今後もモデルの進化を推し進め、それを活用して自社のシステムを強化し、信頼できる防御担当者への提供を拡大していきます。防御側が先手を打てる時間を確保し続けるには、業界全体で行動を起こす必要があります。その取り組みは、今すぐ始めなければなりません。