אנחנו מפרסמים עדכון לספציקציית המודל שלנו — המסמך המגדיר את הכללים, הערכים והציפיות להתנהגות הרצויה של מודלי הבינה המלאכותית שלנו, במיוחד במצבים קשים או בעלי השלכות משמעותיות — ובו עקרונות לבני פחות מ-18 (U18)(נפתח בחלון חדש). להתנהגות המודל יש חשיבות מכרעת באופן שבו אנשים מתקשרים עם בינה מלאכותית, ולבני נוער יש צרכים התפתחותיים שונים מאלה של מבוגרים.
עקרונות U18 מנחים כיצד ChatGPT צריך לספק חוויה בטוחה ומותאמת לגיל לבני נוער בגילי 13 עד 17. גישה זו מבוססת על מדעי ההתפתחות ומעניקה עדיפות למניעה, לשקיפות ולהתערבות מוקדמת. במהלך גיבוש העקרונות הצגנו אותם לעיון מוקדם של מומחים חיצוניים, ובהם אגודת הפסיכולוגים האמריקאית, כחלק מהמאמץ המתמשך שלנו לקבל משוב שיחזק את גישתנו.
עקרונות ספציקציית המודל ממשיכים לחול הן על משתמשים מבוגרים והן על בני נוער. העדכון מבהיר כיצד יש ליישם אותם בהקשרים הנוגעים לבני נוער, במיוחד כששיקולי הבטיחות של קטינים עשויים להיות משמעותיים יותר.
עקרונות U18 מבוססים על ארבע מחויבויות מנחות:
להעמיד את בטיחות בני הנוער בראש סדר העדיפויות, גם כשהיא עשויה להתנגש עם מטרות אחרות
לקדם תמיכה בעולם האמיתי באמצעות עידוד קשרים מחוץ לרשת ופנייה למקורות סיוע מהימנים
להתייחס לבני נוער כבני נוער, בלי להתנשא עליהם ובלי להתייחס אליהם כמבוגרים
לפעול בשקיפות באמצעות תיאום ציפיות ברור
בהתאם לתוכנית לבטיחות בני נוער שלנו, עקרונות אלה הנחו עד כה את עבודתנו בתחום, לרבות ההגנות בתחום התוכן שאנחנו מחילים על משתמשים שמציינים בעת ההרשמה שטרם מלאו להם 18, וכן באמצעות בקרת הורים. בהקשרים אלה יישמנו אמצעי הגנה שמנחים את המודל לנקוט זהירות יתרה בשיחות על נושאים בסיכון מוגבר, ובהם פגיעה עצמית והתאבדות, משחקי תפקידים רומנטיים או בעלי אופי מיני, תוכן גרפי או מפורש, פעילויות וחומרים מסוכנים, דימוי גוף ודפוסי אכילה מופרעים, ובקשות לשמור בסוד התנהגות לא בטוחה.
אגודת הפסיכולוגים האמריקאית, שבחנה טיוטה מוקדמת של ספציקציית המודל לבני פחות מ-18 והציעה תובנות חשובות לטווח הארוך, מדגישה את חשיבות ההגנה על בני נוער:
"אגודת הפסיכולוגים האמריקאית (APA) מעודדת מפתחי בינה מלאכותית לספק אמצעי זהירות המותאמים לשלב ההתפתחותי של משתמשים צעירים במוצריהם, ולנקוט גישה מגוננת יותר כלפי משתמשים בגילים צעירים יותר. ילדים ובני נוער עשויים להפיק תועלת מכלי בינה מלאכותית אם השימוש בהם ישולב באופן מאוזן עם אינטראקציות אנושיות, שהמחקר המדעי מראה כי הן חיוניות להתפתחות חברתית, פסיכולוגית, התנהגותית ואף ביולוגית. יש לפקח בקפידה על התנסויותיהם של צעירים עם בינה מלאכותית ולדון בהן עם מבוגרים שהם סומכים עליהם, כדי לעודד בחינה ביקורתית של מה שבוטים מבוססי בינה מלאכותית מציעים, וכדי לעודד פיתוח חשיבה עצמאית ומיומנויות בקרב צעירים." — ד"ר ארתור סי. אוונס ג'וניור, מנכ"ל אגודת הפסיכולוגים האמריקאית
העדכון גם מבהיר כיצד העוזר צריך להגיב כשעולה חשש לבטיחותם של בני נוער. המשמעות היא שכאשר שיחות עוברות לנושאים בסיכון מוגבר, בני נוער אמורים לקבל הגנה מחמירה יותר, חלופות בטוחות יותר ועידוד לפנות לתמיכה מהימנה מחוץ לרשת. כשיש סכנה מיידית, בני הנוער מקבלים הנחיה לפנות לשירותי חירום או לגורמי סיוע במצבי משבר.
כמו שאר ספציקציית המודל, גם עקרונות U18 משקפים את ההתנהגות שאנחנו מייעדים למודל. נמשיך לשכלל אותם על סמך מחקרים חדשים, משוב ממומחים וניסיון משימוש בפועל.
לצד עדכון ספציקציית המודל, אימצנו גישה רב-שכבתית לחיזוק בטיחות בני הנוער בכל חלקי ChatGPT, הכוללת אמצעי הגנה במוצר, תמיכה במשפחות והכוונה מקצועית ממומחים.
מאז שהשקנו בקרת הורים(נפתח בחלון חדש), הרחבנו את ההגנות למוצרים חדשים, ובהם צ'אטים קבוצתיים, דפדפן ChatGPT Atlas ואפליקציית Sora. העדכונים האלה עוזרים להורים להתאים את חוויית ChatGPT של ילדיהם המתבגרים גם כשאנחנו משיקים מוצרים ותכונות חדשים.
בהתאם להמלצות מומחים, אנחנו מעודדים שיח מתמשך בין הורים לבני נוער על שימוש בריא ואחראי בבינה מלאכותית במשפחה. כדי לתמוך בשיחות האלה, הוספנו למרכז המידע להורים(נפתח בחלון חדש) חומרי עזר חדשים שנבדקו בידי מומחים, ובהם מדריך למשפחה שיעזור לבני נוער להשתמש בבינה מלאכותית באחריות(נפתח בחלון חדש) וטיפים להורים(נפתח בחלון חדש) לשיחה עם ילדיהם על בינה מלאכותית. החומרים נבדקו בידי ConnectSafely וחברים במועצת המומחים שלנו לרווחה נפשית ולבינה מלאכותית. נמשיך להוסיף חומרי עזר נוספים בהמשך. אנחנו גם מעודדים שימוש בריא ישירות במוצר, באמצעות תזכורות מובנות לצאת להפסקה במהלך שימוש ממושך, כדי לעזור לשמור על שימוש מודע ומאוזן ב-ChatGPT.
עבודתנו בתחום בטיחות בני הנוער מונחית על ידי שיתוף פעולה הדוק עם מומחים ממגוון תחומים והתמחויות. באוקטובר הקמנו מועצת מומחים לרווחה נפשית ולבינה מלאכותית, כדי לסייע בייעוץ ובהגדרת האופן שבו אינטראקציות בריאות עם בינה מלאכותית צריכות להיראות בכל גיל. עבודה זו סייעה בגיבוש הנחיות בנושא בקרת הורים והתראות להורים. אנחנו משלבים גם מומחיות קלינית באמצעות רשת הרופאים העולמית שלנו, כדי להנחות את מחקרי הבטיחות ולהעריך את התנהגות המודל. בין היתר, הדבר מסייע לשפר את האופן שבו ChatGPT מזהה מצוקה ומכוון אנשים לטיפול מקצועי בעת הצורך. המשכנו לפתח את היסודות האלה עם GPT‑5.2, וגם הרחבנו את הגישה לתמיכה בעולם האמיתי באמצעות הצגת קווי סיוע מקומיים ב-ChatGPT וב-Sora, במסגרת השותפות שלנו עם ThroughLine(נפתח בחלון חדש).
אנחנו בשלבים הראשונים של הטמעת מודל לחיזוי גיל(נפתח בחלון חדש) במסלולי ChatGPT לצרכנים פרטיים. המודל יעזור לנו להחיל באופן אוטומטי אמצעי הגנה לבני נוער כשאנחנו מעריכים שחשבון מסוים שייך לקטין. אם איננו בטוחים בגילו של משתמש או שהמידע שבידינו אינו מלא, ברירת המחדל תהיה חוויה המותאמת לבני פחות מ-18, ונציע למבוגרים דרכים לאמת את גילם.
חיזוק בטיחות בני הנוער הוא מאמץ מתמשך. נמשיך לשפר את בקרת ההורים ואת יכולות המודל, להרחיב את חומרי העזר להורים ולעבוד עם ארגונים, חוקרים ושותפים מומחים, ובהם המועצה לרווחה נפשית ורשת הרופאים העולמית.
אנחנו מחויבים לפתח הגנות חזקות לבני נוער ולשפר אותן לאורך זמן, כדי לתמוך טוב יותר בבני נוער ובמשפחות.
