Демократично управление на авангарден ИИ, част II: Повече възможности за киберзащитниците
ИИ променя скоростта, мащаба и икономическите аспекти на киберсигурността. Той може да помага на специалистите по киберзащита да откриват и отстраняват уязвимости, да засичат прониквания и да реагират на атаки. Същите тези възможности обаче могат да улеснят злонамерени участници и да създадат нови рискове, когато системите с ИИ действат извън предвидените за тях граници. Сега имаме ограничен период, в който можем да дадем предимство на специалистите по киберзащита: да им предоставим усъвършенстван ИИ и да укрепим защитите, преди усъвършенстваните възможности за кибератаки да станат широко достъпни.
Днес публикуваме план за предоставяне на повече възможности на специалистите по киберзащита, който надгражда предишния ни план за действие в областта на киберсигурността и плана ни за безопасност на авангардния ИИ(отваря се в нов прозорец). Опитът ни с отклонения от поставените цели и инциденти със сигурността, свързани със собствените ни модели, подчертава необходимостта от по-силни защитни мерки и по-голяма отчетност в целия сектор. Въз основа на тези поуки планът предлага конкретни мерки за правителствата и сектора в три области:
Укрепване на безопасността и сигурността на усъвършенствания ИИ: По-ясно определяне на отговорностите за защитата на авангардни модели и агенти, откриването на опасно поведение и поддържането на надеждни механизми за спиране на операциите, които са под контрола на съответната организация.
Модернизиране на киберсигурността за епохата на изкуствения интелект: Осигуряване на усъвършенствани инструменти, обучение и техническа поддръжка за специалистите по киберзащита; отстраняване на дългогодишни слабости в киберсигурността; инвестиции в защитата на основни услуги и подмяната на остарели системи.
Изграждане на устойчиви и адаптивни публични институции: Подобряване на оценките, извършвани от държавните органи, и на независимите технически оценки, въвеждане на единни изисквания за докладване на инциденти и подобряване на координираната реакция и възстановяването.
Лабораториите за ИИ носят отговорност да предприемат мерки срещу рисковете, които техните системи създават, и да помагат за укрепването на защитата на обществото. Правителствата също трябва да разполагат с необходимите експертни знания, ресурси и правомощия, за да защитават обществото с развитието на възможностите на ИИ. Призоваваме отговорните за политиките да действат още сега — да въвеждат защитни мерки, да се учат от опита и да затягат изискванията с развитието на технологията.
Прочетете пълния план тук(отваря се в нов прозорец).
