Хамгаалагчдад эмзэг байдал илрүүлсний илүү өндөр шагнал
Бид өөрсдийн туршилтаар анзаараагүй байж болох OpenAI-ийн программ хангамжийн эмзэг байдлыг бие даасан судлаачдаар илрүүлэх ажлыг улам дэмжихээр Аюулгүй байдлын эмзэг байдал илрүүлсний урамшууллын хөтөлбөрийн шагналаа нэмэгдүүлж байна. Мөн эмзэг байдлын талаар илүү чанартай тайлан ирүүлсэн судлаачдад илүү өндөр шагнал олгох шинэ нэмэгдлүүдийг нэвтрүүлж байна.
Аюулгүй байдлын бие даасан судлаачид салбарын хэмжээнд технологийг хамгаалахад чухал үүрэг гүйцэтгэдэг. OpenAI-д эмзэг байдлыг хариуцлагатайгаар мэдээлэхийг урамшуулах нь аюулгүй байдлын арга барилын маань гол хэсэг юм. Энэ нь манай инженерүүд загваруудаа ашиглан сул талыг илрүүлж, дахин үүсгэн шалгаж, засварыг туршдаг Defense Factory ажлыг нөхөж өгдөг.
Өнөөдрийн шинэчлэлүүд нь судлаачдыг урамшуулж, боломжийг нь нэмэгдүүлэхийн зэрэгцээ хамтын ажиллагаанд тулгуурласан, судлаачдын нийгэмлэгийг эрхэмлэсэн аюулгүй байдлын орчныг цаашид бүрдүүлэх зорилготой.
Бид дунд, өндөр, нэн ноцтой эрсдэлтэй эмзэг байдал илрүүлсний шагналын хүрээний дундаж утгыг дунджаар дөрөв дахин гаруй нэмэгдүүлж байна. ChatGPT, Codex, API платформ зэрэг үндсэн бүтээгдэхүүний нэн ноцтой эмзэг байдлыг илрүүлбэл одоо $30,000 хүртэлх шагнал авна. Эдгээр бүтээгдэхүүнээс илрүүлсэн онцгой ноцтой эмзэг байдалд $100,000 хүртэлх шагнал олгох хэвээр бөгөөд нэмэгдлүүдийг оруулбал одоо $172,000 хүртэл авах боломжтой. Дэлгэрэнгүй мэдээллийг аюулгүй байдлын эмзэг байдал илрүүлсний урамшууллын хөтөлбөрөөс(шинэ цонхонд нээгдэнэ) үзнэ үү.
Чанартай тайлангийн үндсэн шагналыг нэмэгдлийн коэффициентоор үржүүлэн олгох боломжтой болно. Алдааг тусад нь ялгаж, ямар нөхцөлд ашиглаж болох болон ямар нөлөө үзүүлэхийг найдвартай харуулсан туршилтын баталгаа нь засварлах ажлыг шууд эхлүүлэхэд тусалдаг. Чанарын үржүүлэгч нь илрүүлсэн эмзэг байдлын мэдээллийг онцгой ач холбогдолтой болгохын тулд хийсэн нэмэлт ажлыг үнэлж буй хэрэг юм.
Урт хугацааны хамтын ажиллагаа бий болгож, аюулгүй байдлын судлаачдын нийгэмлэгээ тасралтгүй дэмжихийн тулд бид тууштай оролцоог урамшуулах шаталсан нэмэгдлийн хөтөлбөр нэвтрүүлж байна. Энэхүү 5 шатлалтай тогтолцоо нь AI технологийг хүн бүрд илүү аюулгүй болгоход бидэнтэй тогтмол хамтран ажилладаг судлаачдын хувь нэмрийг үнэлж, дэмжиж, урамшуулах зорилгоор шатлал ахих тусам нэмэгдэх урамшуулал олгоно.
Технологийн хөгжлийг даган судлаачдын нийгэмлэгийн оролцоог дэмжихийн тулд тэргүүлэх чиглэлийн аянуудад шинээр гарсан боломжуудыг шалгах тусгай урамшууллын сан бүрдүүлнэ. Эдгээр богино хугацааны аян нь судлаачдад шинэ хөгжүүлэлтийг эртнээс туршиж, өндөр шагнал авах, анхлан оруулсан хувь нэмрээ үнэлүүлэх боломж олгоно.
Эмзэг байдлын жишээ | Өмнөх шагналын жишээ | Шинэ шагналын тооцооны жишээ | Шинэ шагнал |
Дунд эрсдэлтэй — ChatGPT (үндсэн бүтээгдэхүүн): Зөвхөн унших эрхтэй гишүүн бичих эрхгүй ч Төсөлд файл байршуулж чадна. | $750 | $2,000 × 1.15 Чанарын нэмэгдэл × 1.05 Тууштай оролцооны Хүрэл шатлалын нэмэгдэл | $2,415 |
Өндөр эрсдэлтэй — Prism (үндсэн бус бүтээгдэхүүн): IDOR эмзэг байдлаар хэрэглэгчийн Төсөлд байршуулсан файлыг унших боломжтой болох | $1,000 | $2,500 × 1.15 Чанарын нэмэгдэл × 1.10 Тууштай оролцооны Алт шатлалын нэмэгдэл | $3,162.50 |
Нэн ноцтой — ChatGPT (үндсэн бүтээгдэхүүн): Хэрэглэгч юу ч дараагүй байхад бүртгэлийг нь булаан авах. | $6,500 | $30,000 × 1.15 Чанарын нэмэгдэл × 1.30 Тэргүүлэх чиглэлийн аяны нэмэгдэл × 1.15 Тууштай оролцооны 31337 шатлалын нэмэгдэл | $51,577 |
Онцгой ноцтой — ChatGPT (үндсэн бүтээгдэхүүн): Аюулгүй байдлын заагийг ноцтой зөрчих (жишээ нь, ChatGPT‑ийн дурын хэрэглэгчийн чат мессежийг үзэх боломжтой болох). | $100,000 | $100,000 × 1.15 Чанар × 1.30 Тэргүүлэх чиглэлийн аян × 1.15 Тууштай оролцооны 31337 шатлал | $171,925 |
Бүх тохиолдол болон өмнөх шагналын дүнг зөвхөн жишээ болгон үзүүлэв.
Та тайлангаа аль хэдийн ирүүлсэн ч бид шагнал хараахан олгоогүй бол шагналын шинэ хүрээг мөрдөнө. Энэ мэдэгдлээс өмнөх 30 хоногт шагнал олгосон бол таны илрүүлсэн эмзэг байдал шинэ хүрээгээр илүү өндөр шагнал авах нөхцөлд зөрүүг нь нөхөн олгоно (Үндсэн шагнал + Тууштай оролцооны шагнал).
11-р сарын 20–21-нд манай аюулгүй байдлын баг Окландад болох PROMPT2PWN(шинэ цонхонд нээгдэнэ) арга хэмжээнд оролцоно. Судлаачид тэнд шалгалтад хамрагдах бүтээгдэхүүнүүдийг биечлэн турших боломжтой. Та тэнд очих бол ямар ажил хийж байгаа болон тантай хэрхэн хамтран ажиллаж болох талаар ярилцахдаа бид баяртай байх болно.
Эмзэг байж болзошгүй зүйлийг судалж, бидэнд мэдээлэхэд цаг гаргасан хүн бүрд баярлалаа. Бидний анзаараагүй зүйлийг олсон үедээ та дахин хандахыг хүсдэг баг нь OpenAI байгаасай гэж бид хүсэж байна.
