Демократичне врядування передовим ШІ, частина II: розширення можливостей кіберзахисників
ШІ змінює швидкість, масштаби та економічні засади кібербезпеки. Він може допомагати захисникам знаходити й усувати вразливості, виявляти вторгнення та реагувати на атаки. Проте ті самі можливості можуть сприяти діям зловмисників і створювати нові ризики, коли системи ШІ виходять за передбачені для них межі. Зараз для захисників відкрите вікно можливостей: у нас є обмежений час, щоб надати їм передовий ШІ та посилити захист, перш ніж потужні засоби кібератак стануть широкодоступними.
Сьогодні ми публікуємо план розширення можливостей кіберзахисників, що спирається на наш попередній план дій із кібербезпеки та план забезпечення безпеки передового ШІ(відкривається у новому вікні). Наш досвід невідповідності поведінки власних моделей заданим цілям та інцидентів безпеки за їхньої участю підкреслює потребу в надійніших запобіжних заходах і підзвітності в усій галузі. З огляду на ці уроки план містить конкретні пропозиції для урядів і галузі за трьома напрямами:
Посилення безпеки та захисту передового ШІ: чіткіше визначити відповідальність за захист передових моделей і агентів, виявлення небезпечної поведінки та підтримання надійних механізмів припинення операцій, які перебувають під контролем кожної організації.
Модернізація кібербезпеки для епохи ШІ: забезпечити захисників передовими інструментами, навчанням і технічною підтримкою; усунути давні недоліки в кібербезпеці; інвестувати в захист життєво важливих послуг і заміну застарілих систем.
Розбудова стійких і адаптивних державних інституцій: посилити державне оцінювання та незалежну технічну експертизу, запровадити єдині вимоги до звітування про інциденти й поліпшити координацію реагування та відновлення.
Лабораторії ШІ зобов’язані протидіяти ризикам, які створюють їхні системи, і допомагати зміцнювати захист суспільства. Уряди також повинні мати необхідні знання, ресурси та повноваження, щоб захищати громадян у міру розширення можливостей ШІ. Ми закликаємо тих, хто формує політику, діяти вже зараз: запроваджувати запобіжні заходи, вчитися на досвіді та посилювати вимоги в міру розвитку технології.
Ознайомтеся з повним планом тут(відкривається у новому вікні).
