AI는 사이버보안의 속도와 규모, 비용 구조를 바꾸고 있습니다. AI는 사이버 방어자가 취약점을 찾아 수정하고, 침입을 탐지하며, 공격에 대응하도록 도울 수 있습니다. 하지만 바로 그 역량이 악의적인 행위자에게도 힘을 실어줄 수 있으며, AI 시스템이 의도된 범위를 벗어나 작동하면 새로운 위험을 초래할 수 있습니다. 지금은 방어 역량을 강화할 수 있는 한시적인 기회의 시기입니다. 고도화된 사이버 공격 역량이 널리 보급되기 전에 사이버 방어자에게 첨단 AI를 제공하고 보호 조치를 강화해야 합니다.
오늘 OpenAI는 앞서 발표한 사이버보안 실행 계획과 프런티어 안전 청사진(새 창에서 열기)을 바탕으로, 사이버 방어자의 역량을 강화하기 위한 청사진을 공개합니다. 자체 모델이 의도에 어긋나게 작동한 사례와 보안 사고를 겪으며, OpenAI는 업계 전반에 걸쳐 안전장치와 책임성을 강화해야 한다는 점을 확인했습니다. 이러한 교훈을 바탕으로, 이번 청사진은 정부와 업계가 추진할 구체적인 방안을 세 가지 영역에서 제시합니다.
첨단 AI의 안전 및 보안 강화: 프런티어 모델과 에이전트의 보안을 확보하고, 위험한 행동을 탐지하며, 각 조직이 통제하는 작업을 확실하게 중단할 수 있는 수단을 유지하도록 책임을 더 명확히 규정합니다.
지능의 시대에 맞춘 사이버보안 현대화: 사이버 방어자에게 첨단 도구와 교육, 기술 지원을 제공하고, 오랜 사이버보안 취약점을 해결하며, 필수 서비스의 보안 확보와 노후 시스템 교체에 투자합니다.
회복력과 적응력을 갖춘 공공기관 구축: 정부의 평가와 독립적인 기술 평가를 강화하고, 일관된 사고 보고 요건을 마련하며, 공조를 통한 대응 및 복구 역량을 개선합니다.
AI 연구소는 자체 시스템이 초래하는 위험에 대응하고 사회의 방어 역량을 강화하는 데 기여할 책임이 있습니다. 정부 역시 AI 역량이 발전하는 상황에서 국민을 보호할 수 있도록 전문성과 자원, 권한을 갖춰야 합니다. 정책 입안자들이 지금 행동에 나설 것을 촉구합니다. 안전장치를 마련하고, 경험에서 배우며, 기술의 발전에 따라 요건을 강화해야 합니다.
청사진 전문은 여기(새 창에서 열기)에서 읽어보세요.
