ממשלות מתחילות להשתמש במערכות frontier AI למשימות בעלות חשיבות הולכת וגדלה, גם בתחום הביטחון הלאומי. מגמה זו מחייבת מעבדות לבינה מלאכותית, ממשלות וארגוני חברה אזרחית לשתף פעולה בקביעת אופן השימוש הראוי בכלים האלה בהקשרים רגישים.
אנו מאמינים שחברות דמוקרטיות צריכות להיות מסוגלות להשתמש בבינה מלאכותית כדי להגן על אנשים ועל תשתיות קריטיות, לספק שירותים ציבוריים ולהתמודד עם איומים מתפתחים. הדבר נכון גם בתחומים כמו הגנת סייבר וביטחון ביולוגי, שבהם בינה מלאכותית יכולה להעניק יתרון משמעותי לגורמי ההגנה. אך ככל שיכולותיהן של מערכות בינה מלאכותית מתקדמות, יש להטמיע אותן בדרכים שמחזקות אחריותיות דמוקרטית, שיקול דעת אנושי משמעותי ואת שלטון החוק, ומבצרות את המוסדות הדמוקרטיים במקום לרכז כוח.
היום אנו מפרסמים את עקרונות הביטחון הלאומי של OpenAI, כדי לשקף בשקיפות את גישתנו לשותפויות עם ממשלות ולשימושים בטכנולוגיה שלנו לצורכי ביטחון לאומי.
עקרונות אלה משקפים מאמץ כלל־חברתי לפתח גישה מקיפה יותר לעבודתנו בתחומי הביטחון הלאומי ואכיפת החוק, ככל שהטכנולוגיה שלנו ממשיכה להתקדם. נעזרנו בדייוויד קריס, מומחה מוביל לביטחון לאומי, כדי לסייע בהובלת התהליך ולספק חוות דעת עצמאית. קיימנו מפגשי הקשבה ברחבי החברה ושיתפנו עובדים ממגוון צוותים, ממחקר ובטיחות ועד מדיניות ושותפויות עם ממשלות.
אנו מפרסמים אותם כעת, עם הרחבת עבודתנו עם ממשלת ארה״ב ושותפים במדינות בעלות בריתה בתחומי הגנה קריטיים, ובפרט סייבר וביטחון ביולוגי. בחודש האחרון, במסגרת תוכנית הגנת הסייבר שלנו Daybreak, כבר יצרנו שותפויות לגישה מהימנה לסייבר עם אוסטרליה, קנדה, יפן, קוריאה הדרומית, צרפת, גרמניה, פולין, הולנד ומוסדות של האיחוד האירופי כגון ENISA. לצד זאת, יש לנו שותפות הולכת ומתרחבת המבוססת על אמון עם ממשלת בריטניה בתחומי הסייבר, הבדיקות וההערכה. אנו נוקטים גישה דומה בתחום הביטחון הביולוגי. בחודש שעבר הכרזנו גם על הרחבת הגישה המהימנה למודל GPT‑Rosalind שלנו עבור גורמים נבחרים בממשלת ארה״ב ושותפים במדינות בעלות בריתה, התומכים במשימות בתחום בריאות הציבור וההגנה הביולוגית.
עקרונות אלה חלים על השותפויות הנוכחיות והעתידיות שלנו בתחומי הביטחון הלאומי ואכיפת החוק, לרבות עבודתנו הקיימת עם משרד המלחמה. כשהכרזנו על ההסכם שלנו מוקדם יותר השנה, פירטנו כמה מגבלות חוזיות: איסור על שימוש בטכנולוגיה של OpenAI למעקב המוני בתוך המדינה, איסור על שימוש בטכנולוגיה של OpenAI להפעלת מערכות נשק אוטונומיות, ואיסור על שימוש בטכנולוגיה של OpenAI לקבלת החלטות אוטומטיות בעלות השלכות כבדות משקל. מגבלות אלה עולות בקנה אחד עם העקרונות שאנו מפרסמים היום.
אנו מאמינים שהדרך הנכונה היא להבהיר אילו שימושים בטכנולוגיה שלנו מותרים ואילו אסורים, ולנהוג בשקיפות בנושא. אך רבות מהשאלות המשמעותיות ביותר בנוגע לשימוש בבינה מלאכותית בממשל, ובייחוד בביטחון הלאומי, צריכות להיות מוכרעות בתהליך הדמוקרטי. תפקידן של חברות כמו שלנו הוא לסייע בקבלת החלטות מושכלות, ולא לקבל אותן לבדן. לכן אנו תומכים ביוזמות חקיקה לקביעת מנגנוני הגנה לחלק מהשימושים הצבאיים המסוכנים ביותר בבינה מלאכותית, לרבות מעקב בתוך המדינה, מערכות נשק אוטונומיות ושימושים אחרים בסיכון גבוה שמשפיעים ישירות על הביטחון הלאומי של ארה״ב.
אפשר לקרוא את העקרונות כאן(נפתח בחלון חדש).
