ארצות הברית מקדמת בטיחות בבינה מלאכותית באמצעות פעולה מדינתית ופדרלית
באמצעות פדרליזם הפוך, המדינות מגבשות אמצעי הגנה משותפים לבינה מלאכותית, בעוד הממשל הפדרלי מתקדם לקראת תקן לאומי — וכך מונחים היסודות למסגרת עולמית בהובלת ארצות הברית.
מאת כריס ליהיין, סמנכ״ל עניינים עולמיים
מבירות המדינות ברחבי ארצות הברית, דרך וושינגטון ועד כינוסים בינלאומיים, מתגבשות גישות רציניות לאסדרת frontier AI. יחד הן מקדמות חזון דמוקרטי לבינה מלאכותית.
קליפורניה, ניו יורק ולאחרונה גם אילינוי קידמו חקיקה לבטיחות מודלי חזית, המסייעת לארצות הברית להתקדם לעבר בסיס משותף לאסדרת מערכות הבינה המלאכותית החזקות ביותר.
המאמצים האלה משקפים תנופה מאחורי מה ש-OpenAI מכנה פדרליזם הפוך: מדינות המסייעות להתוות כיוון משותף באמצעות מסגרת משותפת. ככל שהעבודה בהובלת המדינות משתלבת במאמצים הנעשים ברמה הפדרלית, מתחיל להתגבש תקן לאומי המניח את היסודות למסגרת עולמית לבינה מלאכותית בהובלת ארצות הברית. אנו מאמינים שהדרך הטובה ביותר להבטיח שבינה מלאכותית תועיל לרבים, ולא רק למעטים, היא שהחלטות מכריעות — ובראשן החלטות על בטיחות מודלי חזית — יתקבלו בידי ממשלות דמוקרטיות, ולא רק בידי מעבדות המפתחות מודלי חזית.
בסופו של דבר, מסגרת לאומית המבוססת על העיקרון הזה תהיה הפתרון הטוב ביותר עבור ארצות הברית. אך בהיעדרה, המדינות יכולות לקדם אותנו לשם באמצעות חקיקת חוקים דומים זה לזה. צעד אחר צעד, הן יכולות ליצור תקן לאומי בפועל.
ואם הבטיחות היא בראש סדר העדיפויות, תקן לאומי כזה הוא גישת המדיניות הטובה ביותר להבטיח שני דברים: (א) שארצות הברית תמשיך להוביל בחדשנות, בלי שפסיפס של תקנות יערער את מעמדה ויאט את בנייתו של מערך טכנולוגי עולמי של בינה מלאכותית דמוקרטית. מערך זה ייתן עדיפות להעמדת הכלים הדרושים לרשות גורמים הפועלים לטובה, כדי שיוכלו להתגונן מפני גורמים זדוניים המבקשים לנצל לרעה בינה מלאכותית בתחומים כגון אבטחת סייבר; (ב) שארצות הברית תהיה בעמדה הטובה ביותר להסתמך על התקן הלאומי וליצור גישה עולמית לשימוש בטוח בבינה מלאכותית, המבוססת על ערכים דמוקרטיים. אם ברצוננו ליצור מסגרת בטיחות שתיתן עדיפות אמיתית לכינון תקן לאומי ובינלאומי — הדבר שיתמוך בצורה הטובה ביותר בשימוש בטוח בבינה מלאכותית — יידרשו עבודה קשה, מחויבות רצינית למטרה ואסטרטגיה המחברת בין המדינות, הממשל הפדרלי והשיח הבינלאומי. פעולות למראית עין או הפגנות צדקנות לא ישיגו כאן את המטרה. כאוס ברמת המדינות לא יסייע לבסס גישה יציבה לבטיחות לאורך זמן — הוא רק יוביל לעוד כאוס.
כדי שהגישה הזאת תצליח, על המדינות להמשיך להתכנס סביב מרכיבי הליבה, כפי שעשו קליפורניה, ניו יורק ואילינוי. בקווים כלליים, אלה המרכיבים:
מסגרת בטיחות מתועדת הכוללת הערכות סיכונים למודלי חזית ופרסום ההערכות ותוצאותיהן לציבור.
דיווח על אירועי בטיחות חמורים.
ממשל ואחריותיות באמצעות ביקורות עצמאיות ואובייקטיביות.
במשותף, שלוש המדינות האלה שילבו פיקוח דמוקרטי בהכנסת frontier AI לשימוש. קליפורניה קבעה את מסגרת הליבה לחובת הגילוי. ניו יורק הראתה שאפשר לאמץ את הגישה בתחומי שיפוט שונים. אילינוי השלימה אותה בדרישה לאימות עצמאי של מידע מרכזי הנמסר במסגרת חובת הגילוי.
אנו מכירים בכך שחקיקה כוללת לעיתים הוראות נוספות כדי להבטיח את הקולות הדרושים לאישורה. אך אנו מאמינים שאלה המרכיבים החיוניים ליצירת תקן לאומי בפועל באמצעות פדרליזם הפוך. ללא ההקפדה הזאת, אנו מסתכנים בהתרחבות הדרגתית של המדיניות מעבר לייעודה ובפסיפס של חוקים מדינתיים שקשה לרגולטורים לאכוף ולצרכנים להתמצא בהם. חוקים כאלה גם מסיטים משאבי פיתוח — במיוחד בחברות הזנק ובחברות קטנות — שמוטב היה להשקיע בבטיחות. בפרט, וכפי שהמחישו השבועות האחרונים, ככל שיכולותיהם של מודלי הבינה המלאכותית גדלות, אנו זקוקים למערכת אחידה שתאפשר לנו להעמיד את הכלים לרשות הממשלה, גורמי תשתיות קריטיות, בעלות ברית ושותפים מהימנים.
על קובעי המדיניות להישמר גם מפני הרחבה הדרגתית של תחומי האחריות מעבר לייעודם המקורי. אין לצפות ממדינות לנהל סיכונים משמעותיים לביטחון הלאומי, או לקבל בפועל החלטות ביטחון לאומי בשם ארצות הברית כולה. גם אין לצפות מהן לבצע בדיקות הדורשות מומחיות טכנית מעמיקה, שמוטב להפקיד בידי מומחים פדרליים בעלי המשאבים, המומחיות, הגישה למערכות מסווגות והיכולת לעבוד בשיתוף פעולה הדוק עם הצוותים שלנו.
ברמה הפדרלית, ממשל טראמפ ממשיך לעבוד עם מומחים טכנולוגיים ומומחי ביטחון לאומי על מסגרת לבדיקת יכולות הסייבר של מודלי הבינה המלאכותית בעלי היכולות הגבוהות ביותר בידי ממשלת ארצות הברית. המסגרת תקבע תקנים, לוחות זמנים ותהליכים לבדיקות. OpenAI מקיימת דיונים בונים עם הממשל, חברות עמיתות, ארגונים עסקיים ובעלי עניין נוספים המסייעים בעיצוב המהלך.
העבודה המתמשכת על הערכות בתחום הסייבר ממחישה מדוע עקביות חשובה. כיום, ובצדק, מודלים נבדקים עוד לפני שהושלמה המסגרת הפדרלית. במהלך העבודה של מעבדות המחקר על התהליך הזה התברר לקח אחד: אנחנו זקוקים לגישה עקבית שניתן ליישם שוב ושוב, הן ברמת המדינות והן ברמה הפדרלית. זהו תנאי חיוני אם ברצוננו להעמיד את המודלים בעלי היכולות הגבוהות ביותר לרשות הממשלה, הגורמים המגינים על תשתיות קריטיות, בעלות ברית ושותפים מהימנים נוספים. אנו מברכים על היעד שהציב הממשל להעמיד את המסגרת הזאת על כנה עד תחילת אוגוסט.
מסגרת בדיקות פדרלית תסייע להעמיד כלי בינה מלאכותית מתקדמים לרשות הממשלה, הגורמים המגינים על תשתיות קריטיות, בעלות ברית ושותפים מהימנים נוספים. כך היא תחזק מוסדות דמוקרטיים ותסייע לבנות מערך טכנולוגי של בינה מלאכותית דמוקרטית בהובלת ארצות הברית. זה הזמן לרתום את יתרונה של ארצות הברית בחדשנות לקידום בינה מלאכותית דמוקרטית.
לא תהליך פדרלי שאינו מוגדר ולא פסיפס של חוקים מדינתיים יניבו מערך אסדרה אחיד לבטיחות מודלי חזית. אנו זקוקים לגישה שתבטיח שהבודקים הטובים ביותר יעריכו את המודלים בעלי היכולות הגבוהות ביותר, ושגורמי הגנה מהימנים יקבלו גישה לכלים האלה במהירות שתאפשר להם להקדים גורמים זדוניים.
גם הקונגרס פועל לקידום הנושא. מחוקקים בשני בתי הקונגרס ומשתי המפלגות — ובהם לאחרונה חברי בית הנבחרים ג׳יי אוברנולט ולורי טרהאן — נתנו את דעתם להתפתחויות במדינות וברשות המבצעת והגישו הצעות למסגרת פדרלית. שום טיוטה לדיון שיש לה סיכוי ממשי לעבור בחקיקה לא תהיה מושלמת. אך אנו רואים בעבודה הזאת צעד מועיל קדימה, ומאמינים שרבות מההוראות המוצעות בה שקולות וראויות לתמיכה.
מעודד אותנו גם שמנהיגי הסנאט ובית הנבחרים משקיעים מאמץ רציני בהצעות לאסדרה לאומית ולבטיחות מודלי חזית, וקיימנו שיחות בונות עם רבים מהם. בהתחשב בגודלן ובהשפעתן של המדינות שכבר חוקקו חוקים בעלי כיוון משותף, שילוב הגישות האלה בחקיקה הפדרלית צפוי להקל על כינון מערך אסדרה לאומי אחיד לבטיחות מודלי חזית.
תוכנית המתאר של OpenAI לבטיחות מודלי חזית מציגה את המרכיבים שלדעתנו חיוניים למסגרת הזאת.
ראשית, על הממשל הפדרלי להוביל את הבדיקות וההערכה של המערכות המתקדמות ביותר. frontier AI מעוררת שאלות של ביטחון לאומי ובטיחות הציבור, הדורשות מומחיות טכנית, משאבים ויכולות גישה שאף מדינה אינה יכולה להעמיד במלואם בעצמה.
העבודה הזאת צריכה לחזק את המרכז לתקנים ולחדשנות בבינה מלאכותית (CAISI), שהוקם בתקופת הנשיא ביידן וחוזק בתקופת הנשיא טראמפ. CAISI יכול לספק את היכולת הפדרלית היציבה הנדרשת להערכת מודלים מתקדמים, ולמקד את בטיחות מודלי החזית במניעת נזק לפני שהוא מתרחש, במקום להסתמך בעיקר על נשיאה באחריות בדיעבד. בכל חקיקה פדרלית יש לשקול בקפידה כיצד CAISI צריך לעבוד עם יתר גופי הממשל, ואיזה תפקיד עליו למלא כגוף מרכזי במערך הבדיקות.
שנית, חברות המפתחות את המערכות בעלות היכולות הגבוהות ביותר צריכות לעמוד בדרישות ברורות, ובהן ביקורות עצמאיות, דיווח על אירועים, תקני אבטחה מחמירים והגנה על חושפי שחיתויות.
שלישית, המאמצים הפדרליים והמדינתיים צריכים לחזק זה את זה. חוקי המדינות לא יהיו זהים בכל מקום, ואנו מצפים לעבוד עם קובעי מדיניות ברחבי ארצות הברית כדי להבטיח שהם יחזקו את הבטיחות ובה בעת ימצו את התועלת הכלכלית של הבינה המלאכותית.
על המדינות להמשיך לשמש גם כמעבדות לדמוקרטיה בתחומים שמעבר לבטיחות מודלי חזית, ובהם הגנה על צעירים, מדיניות חשמל וסביבה, וחינוך ואוריינות בתחום הבינה המלאכותית.
מסגרת פדרלית נותרת חיונית. frontier AI מעוררת שאלות של ביטחון לאומי, כושר תחרות כלכלי ובטיחות הציבור, שבסופו של דבר מחייבות תקנים, יכולות ומוסדות ברמה הלאומית כדי לתמוך בבינה מלאכותית דמוקרטית.
חקיקה לאומית חיונית גם למסגרת בינלאומית לתקני בינה מלאכותית בהובלת ארצות הברית. הרעיון נדון לפני כמה שבועות בכינוס ה-G7, בהשתתפות ברזיל, מצרים, הודו, קניה וקוריאה. בכינוס דנו מנכ״לי מעבדות מובילות המפתחות מודלי חזית בצורך במסגרת כזאת. בעקבות המפגש, מנכ״ל OpenAI סם אלטמן הציע בפייננשל טיימס(נפתח בחלון חדש) ״פורום בינלאומי בהובלת ארצות הברית, שיקבע תקנים מוסכמים, יספק ניתוח מקצועי ובלתי מוטה של יכולות וסיכונים, ויעמיד את הטכנולוגיה לרשות מדינות וחברות שישתתפו בו ויפעלו לפי הכללים״. השבוע הציג גם מנכ״ל Google DeepMind דמיס הסאביס רעיונות מעמיקים במאמר חדש. חקיקה פדרלית — שתידרש בהכרח לתמיכה של שתי המפלגות — תספק בסיס איתן למאמץ הבינלאומי הזה.
התנופה ניכרת כעת בכל הרמות. המדינות מגבשות גישות משותפות. הקונגרס והרשות המבצעת מתקדמים לקראת מסגרת לאומית. ומנהיגים ברחבי העולם מתחילים לדון בתקנים בינלאומיים. אם המהלכים בכל רמה יתבססו על אלה שברמות האחרות, ארצות הברית תוכל להוביל פיתוח של מסגרת עולמית המבוססת על חזון דמוקרטי לבינה מלאכותית. והגישה הזאת, המבוססת על תיאום דמוקרטי בתחום הבינה המלאכותית, היא שנותנת לבטיחות עדיפות אמיתית.
