OpenAI

Демократско управување со гранична ВИ, дел II: Зајакнување на бранителите во сајберпросторот

ВИ ги менува брзината, обемот и економските аспекти на сајбербезбедноста. Таа може да им помогне на тимовите за сајберодбрана да пронаоѓаат и отстрануваат ранливости, да откриваат упади и да реагираат на напади. Но истите способности можат да им помогнат и на злонамерните актери и да создадат нови ризици кога системите со ВИ дејствуваат надвор од предвидените граници. Сега имаме ограничена можност да им дадеме предност на тимовите за сајберодбрана: да им ја ставиме напредната ВИ на располагање и да ја зајакнеме заштитата пред напредните способности за сајбернапади да станат широко достапни.

Денес објавуваме план за зајакнување на бранителите во сајберпросторот, кој се надоврзува на нашиот претходен акциски план за сајбербезбедност и на планот за безбедност на граничната ВИ⁠(се отвора во нов прозорец). Нашето искуство со неусогласеност на сопствените модели со предвидените цели и со безбедносни инциденти поврзани со нив ја истакнува потребата од посилни заштитни мерки и поголема отчетност во целата индустрија. Врз основа на тие поуки, планот нуди конкретни предлози за владите и индустријата во три области:

  • Зајакнување на безбедноста и заштитата на напредната ВИ: Појасно утврдување на одговорностите за заштита на граничните модели и агенти, откривање опасно однесување и одржување сигурни механизми за исклучување на операциите што се под контрола на секоја организација.

  • Модернизирање на сајбербезбедноста за ерата на интелигенцијата: Обезбедување напредни алатки, обука и техничка поддршка за тимовите за сајберодбрана; отстранување на долгогодишните слабости во сајбербезбедноста; и вложување во заштита на основните услуги и замена на застарените системи.

  • Градење отпорни и приспособливи јавни институции: Унапредување на владините евалуации и независните технички процени, воспоставување доследни барања за пријавување инциденти и подобрување на координираното реагирање и закрепнување.

Лабораториите за ВИ имаат одговорност да се справуваат со ризиците што ги создаваат нивните системи и да помогнат во зајакнувањето на одбраната на општеството. И владите мора да располагаат со стручност, ресурси и овластувања за да ја заштитат јавноста додека способностите на ВИ напредуваат. Ги повикуваме креаторите на политики да дејствуваат сега — да воспостават заштитни мерки, да учат од искуството и да ги заоструваат барањата како што се развива технологијата.

Прочитајте го целиот план тука⁠(се отвора во нов прозорец).

Автор

OpenAI