קידום בטיחות והזדמנויות לצעירים באמצעות מנהיגות עולמית
OpenAI קוראת לפעולה עולמית למען בטיחות צעירים בשימוש בבינה מלאכותית באמצעות מכון ייעודי לבטיחות בינה מלאכותית
בינה מלאכותית יכולה להיות כלי רב־עוצמה עבור צעירים. היא יכולה לעזור לתלמידים להבין מושג מורכב, לתרגל שפה חדשה, להתכונן לריאיון עבודה, לפתח רעיונות יצירתיים או לרכוש מיומנות חדשה. כשם שהמאמצים להנחלת קרוא וכתוב ברחבי העולם באמצע המאה ה־20 הצריכו הפצה המונית של טקסטים מודפסים וגישה למורים מיומנים, כך הנגשת בינה מלאכותית בטוחה כיום תפתח הזדמנויות חדשות ללמידה מותאמת אישית, תעזור לצמצם חסמים בפני אוכלוסיות שאינן מקבלות מענה מספק ותשפר את המוכנות לשוק העבודה.
מאחר שהתועלת הפוטנציאלית כה משמעותית, חיוני לאפשר לצעירים להשתמש בבינה מלאכותית בדרכים בטוחות, מותאמות גיל ותומכות בהתפתחות בריאה. האחריות לכך לא צריכה להיות מוטלת בעיקר על ההורים או על הצעירים עצמם. על חברות, ובהן OpenAI, מוטלת האחריות לפתח מוצרים עם מנגנוני הגנה מתאימים המופעלים כברירת מחדל, ובמקביל להעניק למשפחות כלים ומידע שיסייעו להן לכוון את אופן השימוש בבינה מלאכותית.
כשראשי המדינות יתכנסו בפסגת מנהיגי ה־G7 באוויאן שבצרפת בהמשך החודש, בטיחותם של צעירים בשימוש בבינה מלאכותית תהיה אחד הנושאים המרכזיים. OpenAI תשתתף בדיונים על הרחבת שיתוף הפעולה למען בטיחות צעירים, על הדרכים שבהן נוכל לפעול יחד להעלאת הסטנדרטים בתעשייה ועל קריאתה החדשה של OpenAI להקמת מכון בינלאומי לבטיחות צעירים.
פסגת מנהיגי ה־G7 היא הזדמנות נדירה לתיאום עולמי בנושא בטיחות צעירים. אך מכון ייעודי יוכל לספק את הרציפות ואת המשך העשייה הנדרשים מעבר לפסגה אחת, ולסייע לממשלות, לחוקרים, לחברה האזרחית ולתעשייה להמשיך לעבוד יחד כדי לשתף ממצאים, לגבש הנחיות ולהעלות את הסטנדרטים לאורך זמן.
יש כמה דרכים מעשיות לעשות זאת: להקים מכון בינלאומי חדש, או להעניק למכון לאומי לבינה מלאכותית, קיים או חדש, מנדט עולמי לשיתוף מחקרים, ממצאים והנחיות עם שותפים ברחבי העולם. החשוב ביותר הוא התפקיד שימלא. בטיחות צעירים בשימוש בבינה מלאכותית מחייבת תשומת לב מתמשכת, ממצאים מהימנים והנחיות מעשיות שמתעדכנות בקצב התפתחות הטכנולוגיה.
מכון כזה יוכל להתבסס על יוזמות מתהוות, כמו המכון לבטיחות צעירים בשימוש בבינה מלאכותית של Common Sense Media, הנתמך על ידי OpenAI Foundation, וכן על שיתופי פעולה מעשיים עם אנשי חינוך, ובהם העבודה של OpenAI עם הפדרציה האמריקאית של המורים. עליו גם ללמוד מהטמעות בשטח, כמו ההטמעה הארצית של ChatGPT בבתי הספר באסטוניה, שבה OpenAI עובדת עם חוקרים מסטנפורד ומאסטוניה כדי לחקור את ההשפעה ולגבש תובנות לשימוש בטוח ויעיל יותר בלמידה.
OpenAI מברכת על ההזדמנות לעבוד עם ממשלת צרפת, עם ממשלות נוספות בקבוצת ה־G7 ועם שותפים מהחברה האזרחית, מהאקדמיה ומהתעשייה על המשימה החיונית הזו, ולהעלות את הסטנדרטים העולמיים לבטיחות צעירים.
אנו מאמינים שמסגרות מדיניות איתנות לבטיחות צעירים בשימוש בבינה מלאכותית, לרבות כל הסכם שעשוי להתגבש במפגשי ה־G7, צריכות להיות מונחות על ידי העקרונות שאנו מציגים כאן.
על חברות לדעת מתי משתמש הוא קטין ולהחיל הגנות מותאמות גיל. לשם כך יש לדרוש מספקים להשתמש באמצעים כגון הערכת גיל יעילה ששומרת על הפרטיות כדי להבחין בין קטינים לבגירים, ולהפעיל מנגנוני הגנה כברירת מחדל כשאי אפשר לקבוע את גיל המשתמש. בלי התשתית הזו, גם הגנות שנועדו לצעירים מתוך הכוונות הטובות ביותר עלולות שלא להגיע אל מי שהן אמורות להגן עליהם.
על חברות להעריך באופן קבוע הן את הסיכונים והן את התועלת לצעירים ולנקוט צעדים בהתאם — לפני שנגרם נזק. לשם כך יש לדרוש מספקים לבצע מדי שנה הערכות סיכונים לבטיחות צעירים וליישם מנגנוני הגנה מידתיים בהתאם לסיכונים שזיהו. הערכות אלה צריכות לבחון סיכונים לצעירים בהתחשב בשלב ההתפתחותי שלהם, בממצאים אמפיריים מהשימוש בפועל ובמחקרים או בהנחיות רגולטוריות רלוונטיים. עליהן לבחון לא רק נזקים אפשריים, אלא גם אם הבינה המלאכותית מקדמת תוצאות חיוביות כמו למידה, יצירתיות, פיתוח מיומנויות וגישה להזדמנויות.
להורים ולאפוטרופוסים צריכים לעמוד כלי בקרה נגישים וקלים לשימוש, שיסייעו להם להנחות את ילדיהם בשימוש במוצרים תוך תמיכה בעצמאות מותאמת גיל. אלה צריכים לכלול כלים לניהול הגדרות מרכזיות, ובהן זיכרון, שימוש בנתונים והגבלות זמן. יש לפעול באופן יזום להגברת המודעות לכלים להורים, כדי שהורים ידעו על קיומם ויבינו כיצד להשתמש בהם.
למשפחות מגיע מידע ברור ומובן על האופן שבו חברות מגינות על משתמשים צעירים, לצד מידע מהותי על התועלת ועל הסיכונים שבשימוש של צעירים בבינה מלאכותית. על חברות לפרסם מדיניות בטיחות שמסבירה אילו מנגנוני הגנה מופעלים כדי להגן על צעירים, אילו כלים זמינים להורים וכיצד ההגנות מתעדכנות ככל שהסיכונים משתנים. שקיפות זו בונה אמון ועוזרת להורים לקבל החלטות מושכלות.
על חברות לקבוע נהלים ברורים לטיפול במצבי סיכון חמורים, ובהם פגיעה עצמית, ניצול, טיפוח קשר למטרות ניצול מיני, תוכן של ניצול מיני ואינטראקציות אחרות בסיכון גבוה. נהלים אלה צריכים לכלול תמיכה במסגרת השירות, הפניה למקורות סיוע מתאימים והודעות להורים בזמן, כאשר הדבר מתאים. על חברות גם לתכנן את המערכות שלהן כך שלא יפיקו תוכן שאינו בטוח לילדים או שאינו תואם את שלב התפתחותם, לרבות תיאורים מיניים מפורשים או תיאורי אלימות גרפיים.
מערכות בינה מלאכותית המשמשות צעירים צריכות להיות מתוכננות לתמוך בלמידה, בהתפתחות ובקשרים בעולם האמיתי — ולא להחליף אותם. בינה מלאכותית צריכה לשמש כלי שעוזר לצעירים ללמוד, ליצור, לפתח מיומנויות ולהתכונן לעתיד. במקביל, על חברות להציב גבולות ברורים בתחומים שבהם התפתחות בריאה תלויה בשיקול דעת אנושי, בקשרים בעולם האמיתי ובתמיכה מקצועית.
יש להגן על המידע האישי של קטינים. לשם כך יש לאסור פרסום ממוקד לצעירים הפוגע בפרטיות, ולאסור על חברות למכור מידע אישי.
מסגרות מדיניות לבטיחות צעירים צריכות לקדם הזדמנויות, אוריינות והגנה. לצעירים צריכה להיות גישה לכלי בינה מלאכותית שתומכים בלמידה, ביצירתיות, בפיתוח מיומנויות ובהזדמנויות עתידיות. לצד זאת, יש להקנות להם את הידע ואת מיומנויות החשיבה הביקורתית הנדרשים לשימוש בטוח ואחראי בבינה מלאכותית. לשם כך יש לקדם אוריינות בינה מלאכותית ולעזור לצעירים להבין את ההזדמנויות ואת המגבלות של מערכות בינה מלאכותית, כדי שיוכלו לפעול בביטחון ובאחריות במרחבים דיגיטליים.
מנגנונים איתנים להבטחת אחריותיות, לרבות ביקורות בלתי תלויות, חיוניים כדי לוודא שההגנות האלה אפקטיביות בפועל. הביקורות צריכות להתבסס על מערכת של סטנדרטים משותפים שתאפשר תאימות בין ביקורות בתחומי שיפוט שונים. מסגרות חקיקה צריכות לכלול אמצעי פיקוח ואכיפה שיאפשרו לממשלות להעריך אם חברות מיישמות ביעילות מנגנוני הגנה לבטיחות צעירים, מצמצמות סיכונים שזוהו ועומדות בחובותיהן בנוגע לבטיחותם ולפרטיותם של צעירים.
העקרונות האלה באים לידי ביטוי באופן שבו אנו מפתחים ומפעילים את ChatGPT, מהתנהגות המודל ועיצוב המוצר ועד לשילוב תובנות של מומחים ותמיכה בעולם האמיתי. חיזקנו את מנגנוני ההגנה למשתמשים מתחת לגיל 18, השקנו בקרת הורים עם התראות יזומות, וכן מערכות מתקדמות לחיזוי גיל, כדי ש־ChatGPT יוכל להחיל הגנות מוגברות כשייתכן שמשתמש הוא מתחת לגיל 18. ספציקציית המודל שלנו, המגדירה כיצד המודלים שלנו אמורים להתנהג, כוללת גם עקרונות ייעודיים למשתמשים מתחת לגיל 18(נפתח בחלון חדש), שנותנים עדיפות לבטיחות בני נוער, לחוויות מותאמות גיל, לתמיכה בעולם האמיתי ולציפיות ברורות. בפועל, המשמעות היא מנגנוני הגנה מחמירים יותר בנושאים של פגיעה עצמית, פעילויות מסוכנות, תוכן גרפי, דימוי גוף ושמירת סודות, לצד עידוד לפנות לגורמי תמיכה מהימנים מחוץ לרשת או למקורות סיוע בשעת משבר, לפי הצורך. כשאין ודאות לגבי הגיל, אנו מחילים הגנות מוגברות כברירת מחדל.
בינה מלאכותית שפותחה עם מנגנוני הגנה חזקים ומוצעת עם הנחיות ברורות ותמיכה מצד משפחות ואנשי חינוך יכולה לעזור לצעירים ליהנות בבטחה מכלים שמרחיבים את אפשרויות הלמידה, היצירה וההזדמנויות העומדות בפניהם. בינה מלאכותית יכולה לעזור לתלמידים להבין מושגים מורכבים, לתרגל שפות, לשפר את הכתיבה, ללמוד לתכנת, לארגן חומרי מחקר, לפתח רעיונות יצירתיים ולהתכונן למקצועות שכבר עוברים שינוי. במסגרת חינוך למדינות, OpenAI עובדת עם ממשלות ואנשי חינוך על הטמעות מבוססות מחקר, כלי למידה מותאמים למקום והכשרת מורים, כדי שאימוץ הבינה המלאכותית יתבסס על ממצאים ועל הצרכים האמיתיים בכיתה. עבודה זו כבר תומכת ביוזמות חינוך לאומיות במדינות השותפות שלנו, ובהן אסטוניה, יוון וסינגפור.
בנוסף להשתתפות בפסגת המנהיגים, נקיים בפריז את פורום OpenAI(נפתח בחלון חדש) לדיון מעשי בשאלה כיצד ממשלות, חוקרים, החברה האזרחית, אנשי חינוך והתעשייה יכולים לתרגם יעדים משותפים לבטיחות צעירים למנגנוני הגנה, לסטנדרטים ולשיטות יישום קונקרטיים. שגרירת צרפת לענייני בינה מלאכותית ודיגיטל, קלרה שאפאז, תצטרף למנהל העניינים העולמיים הראשי של OpenAI, כריס ליהיין, למובילי תחום בטיחות הצעירים מ־iRaise/Everyone.AI ולמומחים נוספים, לדיון בשאלה כיצד צעירים יכולים להפיק תועלת מבינה מלאכותית תוך צמצום הסיכונים.
