Připravujeme další bezpečnostní sprint k posílení odolnosti OpenAI

V OpenAI plánujeme další interní bezpečnostní sprint. Zapojíme do něj nové výzkumníky a bezpečnostní partnery, kteří společně s našimi týmy využijí naše modely k testování a posílení zabezpečení našich systémů. Spolupracujeme se společností Cathedral, jejíž výzkumníci budou po boku našich týmů využívat modely OpenAI k prověření naší obrany. Přinesou vlastní odborné znalosti a přístupy k hledání slabých míst a pomohou nám chránit naše platformy.

Také vylepšujeme náš program odměn za nalezení bezpečnostních chyb („Security Bug Bounty“) a mimo jiné více než čtyřnásobně zvyšujeme odměny za odhalení kritických zranitelností. Chceme, aby výzkumníci zpochybňovali naše předpoklady a pomáhali nám posilovat jak naše systémy, tak metody, kterými je chráníme.

Je to součást našeho dlouhodobého úsilí využívat AI k průběžnému hledání a odstraňování slabých míst v našich systémech. Náš poslední sprint ukázal, jaké výsledky může tento přístup přinést. Na hledání a odstraňování slabých míst v našich systémech jsme vyčlenili 25 % našich produktových vývojářů. Pomocí Codexu vývojáři prošetřovali nálezy, reprodukovali zranitelnosti v izolovaných prostředích a připravovali opravy ke kontrole.

Na tuto práci navazujeme, protože tradiční kybernetická obrana už sama o sobě nestačí. Nedávné incidenty napříč odvětvím ukazují, jak rychle se mohou objevit hrozby a jak důležité je zavést nepřetržitý cyklus obrany, který umožní najít a odstranit slabá místa dříve, než je objeví útočníci.

Aby časové okno pro obránce zůstalo otevřené, musí organizace využívat průkopnické schopnosti v oblasti kybernetické bezpečnosti k posílení odolnosti svých systémů. Naše nejschopnější modely využíváme k posílení vlastní obrany a zpřístupňujeme je zákazníkům programu Daybreak. Zavázali jsme se poskytnout během šesti měsíců dotovaný přístup v hodnotě 1 miliardy dolarů obráncům v první linii, kteří chrání základní služby a digitální infrastrukturu. Sdílíme také naši architekturu a poznatky⁠ z posledního sprintu spolu s naším plánem, jak posílit kybernetické obránce v soukromém i veřejném sektoru.

Budeme dál zdokonalovat naše modely, využívat je k posilování vlastních systémů a rozšiřovat přístup pro důvěryhodné obránce. Udržet časové okno pro obránce otevřené bude vyžadovat kroky napříč celým odvětvím. S touto prací je třeba začít hned.