חיזוק הפיקוח הדמוקרטי בתחום הביטחון הלאומי

בינה מלאכותית משנה את האופן שבו ממשלות דמוקרטיות מגינות על תושביהן. היא יכולה לסייע בעצירת מתקפות סייבר, באבטחת תשתיות קריטיות, בזיהוי מוקדם של איומים ובמתן תמונת מצב ברורה יותר לעובדי ציבור בעת משבר. בשימוש נכון, הכלים האלה יכולים לחזק את הביטחון הלאומי.

פיקוח דמוקרטי מסייע להבטיח שמי שמפעילים סמכות ציבורית יישארו מחויבים לתת דין וחשבון לציבור שאותו הם משרתים. ככל שבינה מלאכותית מאיצה את הפעילות בתחום הביטחון הלאומי ומרחיבה את יכולותיה, גם המוסדות האחראים לפיקוח על פעילות זו צריכים להדביק את הקצב. בינה מלאכותית יכולה לפעול במהירות ובהיקף נרחב על סמך הקשר חסר או מיושן, יעדים שהוגדרו באופן שגוי או הנחות שאינן תואמות את המטרות. במצב כזה קשה יותר לזהות טעויות בבדיקה ידנית לפני שהן מתפשטות. לפיקוח יש חשיבות מיוחדת בשימוש בבינה מלאכותית לצורכי ביטחון לאומי, שכן החלטות בתחום עשויות לחייב סודיות ולהוביל להשלכות כבדות משקל.

בהתאם לעקרונות הביטחון הלאומי שלנו, אנו משלבים בהטמעת מערכות לצורכי ביטחון לאומי אמצעי הגנה, שיקול דעת אנושי בעל משקל ופיקוח הולם, במיוחד במצבים שבהם ההשלכות עשויות להיות כבדות משקל. עקרונות אלה גם מגדירים כעדיפות את הסיוע למוסדות המופקדים על הפיקוח בבניית יכולתם לפקח על שימוש בבינה מלאכותית במהירות ובהיקף נרחב.

למוסדות ממשלתיים כבר יש סמכויות ותחומי אחריות מוגדרים לפיקוח על פעילות בתחום הביטחון הלאומי. כאשר בינה מלאכותית משתלבת בפעילות זו, ייתכן שיהיה צורך להתאים גם את הפיקוח. הפיקוח המסורתי דורש עבודה רבה, והופך לכמעט בלתי אפשרי כאשר צוותים קטנים, המשתמשים בשיטות מעידן הנייר, נדרשים לבחון מערכות הפועלות במהירות של מכונה.

ב-OpenAI אנו מאמינים שמערכות בעלות יכולות מתקדמות יותר מחייבות פיקוח הדוק יותר, ומיישמים את העיקרון הזה גם על עצמנו. במסגרת Preparedness Framework שלנו, מודלים מתקדמים עוברים בדיקה קפדנית לפני כניסתם לשימוש, כדי להבין את יכולותיהם ולקבוע אם אמצעי ההגנה מספקים. הבחינה הקפדנית נמשכת גם לאחר הכניסה לשימוש, באמצעות ניטור שוטף וסקירת תקריות. הלקחים שאנו מפיקים משמשים לחיזוק אמצעי ההגנה ולפיתוח מודלים עתידיים.

OpenAI אינה מפקחת על הממשלה, וגם אין זה מתפקידה לעשות זאת. האחריות לכך מוטלת על נבחרי הציבור ועל המוסדות הציבוריים שהוקמו למטרה זו. במקום זאת, אנו יכולים לסייע למוסדות הפיקוח באמצעות הטכנולוגיה שלנו בביצוע התפקידים שכבר הוטלו עליהם.

שלושה עקרונות ינחו את העבודה הזו.

ראשית, בינה מלאכותית צריכה לחזק את שיקול הדעת האנושי והמוסדי, ולא להחליף אותו. הקביעה אם התנהלות הממשלה חוקית, ראויה ותואמת את הכללים והמדיניות החלים עליה נתונה בידי רשויות מוסמכות וגופי פיקוח שהוקמו על פי דין.

שנית, השימוש הממשלתי בבינה מלאכותית צריך להיות מובן וניתן למעקב עבור גורמי פיקוח מוסמכים. הגורמים הבודקים צריכים להיות מסוגלים להבין כיצד בינה מלאכותית תרמה להחלטה, תוך הגנה על מידע מסווג, פרטי ורגיש מבחינה ביטחונית.

שלישית, יש להשתמש בבינה מלאכותית לחיזוק מוסדות הפיקוח הדמוקרטיים. פיקוח ידני על השימוש הממשלתי בבינה מלאכותית אינו יכול לעמוד בקצב התרחבותו של השימוש. ככל שבינה מלאכותית משתלבת בתחום הביטחון הלאומי ובפעילות ממשלתית אחרת בעלת השלכות כבדות משקל, גם גופי הפיקוח צריכים להשתמש בה באופן אחראי ומובן, בהתאם לסמכויותיהם.

במהלך השנה הקרובה אנו מתכננים לקדם את היוזמה בדרכים הבאות:

• נעבוד עם גורמים מוסמכים כדי לזהות הזדמנויות מעשיות שבהן כלי בינה מלאכותית או תמיכה טכנית יכולים לייעל את הפיקוח.

• נעמיד לרשות גופי פיקוח ממשלתיים במדינות דמוקרטיות הדרכות, תמיכה טכנית וקרדיטים של OpenAI בשווי כולל של 5 מיליון דולר, כדי לתמוך באימוץ ובהערכה אחראיים של כלי בינה מלאכותית.

• נעבוד עם מוסדות פיקוח כדי לערוך ניסויים ראשוניים בכלים שיסייעו לגורמי בדיקה מוסמכים לבחון את התיעוד הנוגע להחלטות ממשלתיות שהתקבלו בסיוע בינה מלאכותית, לרבות קלט, פלט ושימוש בכלים הרלוונטיים להן, כדי להבין טוב יותר כיצד הבינה המלאכותית השפיעה על התוצאות. ככל שהדבר אפשרי, הכלים יוכלו לפעול בשילוב עם מערכות אחרות או ללא תלות במודל מסוים. המוסדות המשתתפים, ולא OpenAI, ישמרו בידיהם את השליטה בראיות, בתוצרים ובממצאים, ואלה יישארו נגישים רק לגורמים ממשלתיים מוסמכים.

• נשתף גורמים מהחברה האזרחית ומומחים טכניים, כדי שנקודות המבט שלהם יסייעו לעצב את האופן שבו OpenAI מפתחת את הכלים האלה וניגשת לאחריות הכרוכה בהם.

בינה מלאכותית יכולה לרכז כוח, או לסייע למוסדות דמוקרטיים להפעיל כוח ולרסן אותו ביתר יעילות. הטכנולוגיה לבדה לא תקבע איזה עתיד מצפה לנו; הבחירות שמוסדות וחברות עושים כעת הן שיכריעו.

נמדוד את התקדמות היוזמה לפי השיפור ביכולתם של גורמי בדיקה מוסמכים למלא את חובותיהם, ולפי המידה שבה יהיה לציבור בסיס מוצק יותר לתת אמון בכך שמערכות בינה מלאכותית ממשלתיות משמשות למטרות שיועדו להן.

ככל שהשימוש הממשלתי בבינה מלאכותית יתפתח, OpenAI תמשיך לתמוך במוסדות האחראים לפיקוח עליו.