קידום מחקר עצמאי בנושא הלימה של בינה מלאכותית

ככל שמערכות בינה מלאכותית נעשות בעלות יכולות גבוהות יותר ועצמאיות יותר, מחקר ההלימה צריך גם לעמוד בקצב וגם להרחיב את מגוון הגישות הנחקרות. ב-OpenAI אנחנו משקיעים רבות במחקר הלימה ובטיחות בחזית התחום, משום שהוא חיוני למימוש המשימה שלנו. אנחנו גם מאמינים ששום ארגון אינו יכול להבטיח לבדו ש-AGI תהיה בטוחה ומועילה לכולם, ורוצים לתמוך במחקר עצמאי ובגישות מושגיות שאפשר לפתח מחוץ למעבדות החזית.

היום אנחנו מכריזים על מענק בסך 7.5 מיליון דולר ל-The Alignment Project⁠(נפתח בחלון חדש), קרן עולמית למחקר עצמאי בהלימה שהקים המכון הבריטי לאבטחת בינה מלאכותית (UK AISI). ארגון Renaissance Philanthropy מסייע בניהול המענק. התרומה מסייעת להפוך את The Alignment Project לאחת מיוזמות המימון הגדולות ביותר עד כה המוקדשות למחקר עצמאי בהלימה, ומחזקת את קהילת המחקר העצמאית הרחבה.

למעבדות חזית כמו OpenAI יש אפשרות ייחודית לערוך מחקר הלימה שתלוי בגישה למודלי חזית ובמשאבי מחשוב ניכרים — מחקר שלחוקרים עצמאיים קשה לעיתים קרובות לבצע. אנחנו מקדישים חלק ניכר מעבודת ההלימה בתוך הארגון לפיתוח שיטות שאפשר להרחיב את היקפן, כדי שההתקדמות בהלימה תעמוד בקצב התקדמות היכולות. אנחנו מאמינים שהטמעה איטרטיבית⁠ — הרחבת היכולות בהדרגה לצד חיזוק אמצעי ההגנה — מסייעת לחשוף בעיות מוקדם ומספקת לנו ראיות מוחשיות למה שעובד בפועל. כמו כן, אנחנו מאמינים שפיתוח אחראי דורש עבודה נרחבת על הלימה ובטיחות, המשולבת באופן הדוק בבניית המודלים ובהטמעתם.

במקביל, התחום מפיק תועלת מהשקעה מתמשכת במחקר עצמאי וגישושי, שיכול להרחיב את מרחב הרעיונות ולגלות כיוונים חדשים. המחקר העצמאי נותר חיוני; בסוגים רבים של מחקר מועיל, למעבדות אין יתרון יחסי. קהילת מחקר הלימה בריאה תלויה בצוותים עצמאיים שבוחנים הנחות מגוונות, מפתחים מסגרות חלופיות וחוקרים רעיונות מושגיים, תאורטיים וחופשיים מאילוצים מעשיים, שלא בהכרח משתלבים היטב בתוכנית העבודה של ארגון מסוים.

ומכיוון שההתקדמות לעבר AGI עשויה בסופו של דבר להיות תלויה בפריצות דרך יסודיות שישנו את אופייה של בעיית ההלימה ואת הגישות המועילות ביותר לפתרונה, חשוב לתמוך במחקר שיהיה בעל ערך גם אם יתברר שלא ניתן להרחיב את השיטות המובילות כיום באופן שאנחנו מצפים לו. בתרחישים כאלה, חשוב במיוחד שתהיה קהילת מחקר חיצונית חזקה, שעוסקת במחקר יסודי ומושגי בכיוונים שאינם תלויים זה בזה. סוגיית ההלימה והבטיחות של בינה מלאכותית היא בעלת חשיבות חסרת תקדים, ונדרשת התגייסות של כולם, שכן עדיין איננו יודעים אילו גישות יוכיחו את עצמן לאורך זמן ככל שהיכולות ימשיכו להתפתח.

המענק שלנו — כ-5.6 מיליון ליש״ט לפי שערי החליפין הנוכחיים — ישתתף במימון The Alignment Project⁠(נפתח בחלון חדש), לצד מימון מגורמים נוספים במגזר הציבורי, בפילנתרופיה ובתעשייה. היקף הקרן הכולל עולה על 27 מיליון ליש״ט, והיא נועדה לתמוך במגוון רחב של פרויקטי מחקר בהלימה ברחבי העולם, בנושאים מגוונים ובהם תורת הסיבוכיות החישובית, תאוריה כלכלית ותורת המשחקים, מדעי הקוגניציה, תורת המידע וקריפטוגרפיה. כל פרויקט מקבל בדרך כלל מימון של 50,000 עד מיליון ליש״ט, ועשוי לקבל גם אפשרות לגישה למשאבי מחשוב ולתמיכה ממומחים.

המימון שלנו אינו יוצר תוכנית חדשה או הליך בחירה חדש, וגם אינו משפיע על ההליך הקיים; הוא מגדיל את מספר הפרויקטים⁠(נפתח בחלון חדש) האיכותיים שכבר עברו בדיקה וניתן לממן בסבב הנוכחי.

UK AISI ערוך היטב להקצות מימון למחקר הלימה בהיקף ובמגוון כאלה. המכון מביא עימו קואליציה בין-מגזרית מבוססת הכוללת גורמי ממשל, אקדמיה, פילנתרופיה ותעשייה, לצד תהליך הענקת מענקים שכבר פועל ומאגר גדול של הצעות שעברו בחינה של מומחים. כארגון מחקר ממשלתי בריטי הפועל במסגרת משרד המדע, החדשנות והטכנולוגיה (DSIT), הוא גם מופקד על עיסוק בסיכונים חמורים של בינה מלאכותית ומנוסה בניהול תוכניות למימון מחקר.

מכיוון שעתיד הבינה המלאכותית לא יתפתח בדיוק לפי התחזיות של איש — וההתקדמות עשויה להיות מהירה מאוד — אנחנו מאמינים שדמוקרטיזציה, ״חוסן מול בינה מלאכותית״ והטמעה איטרטיבית הם מרכיבים חיוניים. לצד המשך קידום מחקר ההלימה והבטיחות בחזית התחום ב-OpenAI, קהילת מחקר חזקה, מגוונת ועצמאית, הבוחנת גישות משלימות ככל שהיכולות מתפתחות, תתרום להתקדמות. המענק הזה הוא צעד אחד לקראת המטרה הזאת. אנחנו מצפים להמשך שיתוף הפעולה עם קהילת המחקר הרחבה ככל שהתחום מתקדם.