ממשל דמוקרטי של frontier AI, חלק ב׳: העצמת מגיני סייבר
בינה מלאכותית משנה את המהירות, את היקף הפעילות ואת ההיבטים הכלכליים של אבטחת הסייבר. היא יכולה לסייע למגינים לאתר חולשות ולתקן אותן, לזהות חדירות ולהגיב למתקפות — אך אותן יכולות עלולות גם לסייע לגורמים זדוניים וליצור סיכונים חדשים כשמערכות בינה מלאכותית פועלות מעבר לגבולות שנקבעו להן. אנו נמצאים בחלון הזדמנויות למגינים: הזדמנות מוגבלת בזמן להעמיד בינה מלאכותית מתקדמת לרשות המגינים ולחזק את אמצעי ההגנה, לפני שיכולות תקיפת סייבר מתקדמות יהפכו לזמינות לכול.
היום אנו מפרסמים מתווה להעצמת מגיני סייבר, המבוסס על תוכנית הפעולה הקודמת שלנו לאבטחת סייבר ועל המתווה לבטיחות מודלי חזית(נפתח בחלון חדש). הניסיון שלנו עם התנהגות שאינה תואמת את הכוונות האנושיות ועם אירועי אבטחה שבהם היו מעורבים המודלים שלנו מדגיש את הצורך באמצעי הגנה חזקים יותר ובאחריותיות רבה יותר בכל התעשייה. על בסיס הלקחים הללו, המתווה מציג הצעות מעשיות לממשלות ולתעשייה בשלושה תחומים:
חיזוק הבטיחות והאבטחה של בינה מלאכותית מתקדמת: להגדיר באופן ברור יותר את תחומי האחריות לאבטחת מודלי חזית וסוכנים, לזיהוי התנהגות מסוכנת ולתחזוקת מנגנוני השבתה אמינים לפעולות שבשליטת כל ארגון.
התאמת אבטחת הסייבר לעידן הבינה: לצייד מגינים בכלים מתקדמים, בהכשרה ובתמיכה טכנית; לטפל בחולשות ותיקות באבטחת הסייבר; ולהשקיע באבטחת שירותים חיוניים ובהחלפת מערכות מיושנות.
בניית מוסדות ציבור חסינים ובעלי יכולת הסתגלות: לחזק את יכולות ההערכה הממשלתיות ואת ההערכות הטכניות העצמאיות, לקבוע דרישות אחידות לדיווח על אירועים ולשפר את התיאום במאמצי התגובה וההתאוששות.
על מעבדות בינה מלאכותית מוטלת האחריות להתמודד עם הסיכונים שהמערכות שלהן יוצרות ולסייע בחיזוק ההגנות של החברה. גם לממשלות חייבים להיות המומחיות, המשאבים והסמכות להגן על הציבור ככל שהיכולות מתקדמות. אנו מעודדים קובעי מדיניות לפעול כבר עכשיו — לקבוע אמצעי הגנה, ללמוד מהניסיון ולהחמיר את הדרישות ככל שהטכנולוגיה מתפתחת.
לקריאת המתווה המלא כאן(נפתח בחלון חדש).
