OpenAI ו-NASK הפולני משתפים פעולה לקידום הבטיחות והאבטחה של בינה מלאכותית
OpenAI ומכון המחקר הלאומי של פולין NASK חתמו על הסכם לבחינת שיתוף פעולה בתחומי הבטיחות והאבטחה של בינה מלאכותית ובמחקר טכני. השותפות תשלב את המומחיות של שני הארגונים כדי להבין טוב יותר סיכונים מתפתחים, לחזק אמצעי הגנה ולבחון כיצד בינה מלאכותית מתקדמת יכולה לתרום לסביבה דיגיטלית מאובטחת ועמידה יותר.
ככל שיכולותיהן של מערכות בינה מלאכותית מתרחבות, שיתוף פעולה בינלאומי בין מפתחים למוסדות מחקר ציבוריים יהיה חיוני להבנת הסיכונים הכרוכים בהן ולפיתוח אמצעי הגנה חזקים יותר. העבודה הקיימת של OpenAI עם המרכז האמריקאי לקידום תקנים וחדשנות בתחום בינת־העל (CAISSI), המכון הבריטי לאבטחת בינה מלאכותית (AISI) ומוסדות מחקר ציבוריים נוספים ברחבי העולם כבר סייעה לחזק אמצעי הגנה, לזהות ולתקן חולשות אבטחה בסוכני בינה מלאכותית ולקדם את בטיחות ה-frontier AI.
במסגרת ההסכם, המרכז לחקר בטיחות בינה מלאכותית של NASK – המשמש כמכון הפולני לבטיחות בינה מלאכותית (AISI) – ו-OpenAI ישתפו פעולה במחקר בטיחות בינה מלאכותית. הם יבחנו דרכים להעריך מערכות בינה מלאכותית בעלות יכולות הולכות וגדלות, לזהות חולשות אפשריות ולחזק אמצעי הגנה.
OpenAI קראה לארה״ב לעבוד עם מדינות ברחבי העולם על תקנים טכניים בינלאומיים ל-frontier AI, תוך הסתמכות על המומחיות של מכונים לבטיחות בינה מלאכותית וגופי תקינה. גישות משותפות להערכת יכולות וסיכונים, לבדיקת אמצעי הגנה ולדיווח על תקריות יכולות לסייע למדינות להשוות ממצאים ולהגיב לסיכונים חוצי גבולות. שיתוף הפעולה עם NASK משקף את הערך שבשילוב מומחיות לאומית במאמץ הרחב הזה.
במקרה של NASK, מומחיות זו נשענת על מחקר נרחב בבטיחות בינה מלאכותית, שמיושם ישירות בהגנה על שירותים ציבוריים ועל סביבת המידע הדיגיטלי של פולין. ללא שותפים לאומיים כמו NASK, תקנים עולמיים לבטיחות בינה מלאכותית עלולים להישאר מנותקים מהמציאות שבה נעשה שימוש בבינה מלאכותית בפועל.
ההסכם נשען גם על העבודה הקיימת של OpenAI עם אנשי הגנת סייבר בפולין. ביולי, CERT Polska, הפועל במסגרת NASK, קיבל גישה(נפתח בחלון חדש) למודלים של OpenAI בעלי יכולות סייבר דרך Daybreak. הצוות נעזר במודלים של OpenAI כדי לגלות שש חולשות ב-MikroTik RouterOS, ובהן פגמים שניתן לשלב כדי להשתלט על מכשירים פגיעים ללא אימות. הספק פרסם תיקונים, ו-CERT Polska אישר שהם מנעו את המתקפות שבהן הבחין.
