דוח על בטיחות הקהילה והגנות חדשות לנוער

ChatGPT הוא אחד ממוצרי הבינה המלאכותית הנפוצים ביותר בעולם, והשקענו בבניית כמה מהמערכות המתקדמות ביותר בתעשייה לזיהוי פגיעה אפשרית, לבחינת פעילות מדאיגה ולהעברת איומים ממשיים לטיפול הגורמים המתאימים. אנחנו מכריזים על שני צעדים נוספים לקידום העבודה שלנו בתחום: דוח בטיחות הקהילה החדש והגבלות נוספות על תוכן בנושא כלי ירייה לקטינים.

שמירה על ביטחון הקהילות⁠ ממשיכה להיות עדיפות עליונה עבור OpenAI. העבודה שלנו כוללת הבאת איומים מיידיים באלימות לידיעת רשויות אכיפת החוק, ו ברבעון השלישי של 2026 העברנו לרשויות אכיפת החוק יותר מ-200 הפניות. ההפניות האלה תורמות ל השפעה⁠(נפתח בחלון חדש) חיובית⁠(נפתח בחלון חדש) על סיכול מזימות אלימות, ואנחנו ממשיכים להיעזר במומחים לבריאות הנפש ולהתנהגות כדי לסייע לנו להעריך מקרים מורכבים.

אנחנו מכירים בכך שלחברות בתחום הבינה המלאכותית יש תפקיד ייחודי לצד רשויות אכיפת החוק, בני משפחה, אנשי ונשות מקצוע בתחום בריאות הנפש וקובעי מדיניות, המביאים עמם סמכות חיונית, הבנה של ההקשר ויכולת לפעול בעולם האמיתי. אנחנו מחויבים למצות את התפקיד הזה באמצעות חיזוק מתמיד של המערכות שלנו, שיתוף התובנות שאנחנו צוברים ועבודה ישירה עם הגורמים המתאימים ביותר לפעול בעולם האמיתי.

אנחנו מחזקים כל הזמן את הצעדים שאנחנו נוקטים כדי לסייע בהגנה על אנשים וקהילות. לשם כך אנחנו בונים אמצעי הגנה חזקים, וגם מקפידים על שקיפות לגבי מידת היעילות שלהם ומה שאנחנו עושים כדי לשפר אותם. אנחנו רוצים להציג לאנשים תמונה ברורה של הגישה שלנו, של האופן שבו המודלים שלנו מזהים התנהגות מזיקה ומגיבים אליה, של הסיכונים שאנחנו רואים בפועל ושל הצעדים שאנחנו נוקטים כדי להתמודד איתם.

אנחנו מתחייבים לפרסם את דוח בטיחות הקהילה, שיעסוק במניעת אלימות ובסוגיות נוספות של בטיחות הקהילה, וכן ביעילות אמצעי ההגנה שלנו. הדוח יסביר איך אנחנו מאמנים את המערכות שלנו לזהות, לחקור ולהגיב לסוגיות של בטיחות הקהילה. נשתף דוגמאות אנונימיות לאופן שבו מתבטא נזק הקשור לאלימות ולמה שאנחנו לומדים, נציג אמצעי צמצום סיכונים חדשים ושינויים במדיניות, ונכלול נתונים רלוונטיים לתמיכה בממצאים האלה.

נפרסם את הדוח הראשון שלנו בתחילת 2027, והוא יעסוק במחצית השנייה של 2026. לאחר מכן נפרסם עדכונים מדי שישה חודשים. המחויבות שלנו היא לשתף ממצאים משמעותיים על האופן שבו אנחנו מזהים, בוחנים ומגיבים לתוכן שעלול להזיק.

המודלים שלנו מאומנים שלא לתת הוראות שיסייעו למישהו לתכנן מעשי אלימות או לבצע אותם. כעת אנחנו מטילים מגבלות נוספות על האופן שבו ChatGPT משיב לשאלות על מתקפות המוניות בעבר ועל מי שביצעו אותן, ומנחים את המודל לספק מידע פחות מפורט בנושאים האלה, גם אם הוא זמין במקורות אחרים באינטרנט. חשוב שאנשים יוכלו לבקש מ-ChatGPT עזרה בהבנת האירועים האלה, בהבנת השפעתם על הקורבנות ועל הקהילות, ובלמידה כיצד לזהות סימני אזהרה ולמנוע אלימות בעתיד. עם זאת, אנחנו מחמירים את המדיניות שלנו כדי להגביל שחזורים של מתקפות המוניות בעבר, לרבות פרטים על כלי הנשק והציוד שבהם נעשה שימוש ועל אופן השגתם, וכן השוואות מפורטות של היקף הנזק שעלולות להעצים את הפרסום שזוכה לו התוקף. המגבלות האלה חלות ללא קשר לגיל המשתמש או לסיבה שבגללה הוא שואל.

לפעמים בקשה שנראית רגילה בפני עצמה מקבלת משמעות אחרת לאור שיחה קודמת. במאי שיתפנו כיצד ChatGPT יכול להשתמש בסיכומים קצרים ועובדתיים⁠ של סימני אזהרה קודמים כדי להגיב בזהירות רבה יותר בשיחה מאוחרת יותר. אנחנו ממשיכים לפתח את היכולת הזו, כך שכאשר בשיחות האחרונות מופיעים סימני אזהרה לאלימות אפשרית, ChatGPT ינהג בזהירות רבה יותר במסירת מידע שעלול לשמש לרעה. אנחנו גם פועלים להחלת המגבלות המחמירות האלה כשאנחנו מעריכים שמשתמש הוא מתחת לגיל 18, גם אם אין בשיחות שלו סימנים לכוונה אלימה.

אנחנו חוסמים חשבונות שקבענו כי הפרו את המדיניות שלנו בנושא פעילות אלימה⁠. אנחנו גם עובדים עם מומחים לבריאות הנפש ולמניעת אלימות על דרכים אוטומטיות נוספות להתערב בשלב מוקדם יותר. כשבשיחה מופיעים סימנים לכך שמישהו עסוק באופן כפייתי באלימות או ברעיון לפגוע באדם אחר פגיעה חמורה, ChatGPT יוכל לסיים את השיחה אוטומטית כדי לקטוע את הדפוס הזה באותו רגע. אם ChatGPT יסיים כמה שיחות מסיבה זו, ייתכן שנשעה את החשבון באופן זמני. זהו מאמץ מתמשך, ואנחנו ממשיכים לחזק אמצעי הגנה טכניים ומעשיים ולהשקיע בהם, בין היתר כדי לזהות סימני אזהרה באופן מהימן ולקבוע מתי וכיצד להתערב.

ChatGPT לבני נוער⁠ מפעיל אמצעי הגנה מותאמי גיל למשתמשים מתחת לגיל 18, עם הגנות מחמירות יותר ומגבלות נוספות לצמצום החשיפה לתוכן רגיש. כעת אנחנו מטילים מגבלות נוספות על מידע בנושא כלי נשק שבני נוער יכולים לקבל, גם כשהשאלה נראית תמימה. 

המדיניות שלנו כבר אוסרת לסייע בתכנון של מעשי אלימות או בביצועם, ומגבילה סיוע לבני ובנות נוער במציאת כלי נשק או בהשגתם. אנחנו מרחיבים את ההגנות האלה כדי להגביל גם מידע מעשי על כלי נשק ועל מערכות אבטחה, שעלול לשמש לרעה כדי לאפשר אלימות, גם כשאין סימנים לכוונה אלימה. בני ובנות נוער עדיין יכולים להשתמש ב-ChatGPT כדי לסייע במניעת אלימות ובהפחתת ההסלמה שלה, לקבל תמיכה וליצור קשר עם מבוגר או מבוגרת שהם סומכים עליהם. 

בשנה שעברה השקנו מערכת חיזוי גיל⁠, שמנתחת מגוון סימנים, כגון דפוסי התנהגות, כדי להעריך אם משתמש עשוי להיות מתחת לגיל 18 או מעליו. חיזקנו את מערכת חיזוי הגיל שלנו כדי להעריך באופן שוטף סימנים חדשים בזמן שאנשים משתמשים ב-ChatGPT, ולהעביר בני נוער לחוויית השימוש למי שמתחת לגיל 18 כשמתאים. למשתמשים ששויכו בטעות לחוויית השימוש למי שמתחת לגיל 18 תהיה תמיד דרך מהירה ששומרת על פרטיותם לאשר שהם בגירים ולהסיר את ההגנות הנוספות לבני נוער באמצעות Persona, השותפה שלנו לאימות גיל. 

בקרת הורים⁠ מאפשרת להורים לקשר את חשבונות ChatGPT שלהם לאלה של ילדיהם המתבגרים ולנהל יחד את הגדרות הבטיחות. חשבונות מקושרים כוללים התראות בטיחות⁠ שעשויות להישלח כשבודקים שעברו הכשרה ייעודית מזהים חשש חמור לפגיעה עצמית והתנהגויות שעשויות להיות קשורות לדפוסי אכילה לא תקינים. ביולי הרחבנו את ההתראות האלה כך שהורים יקבלו הודעה אם החשבון של ילדם המתבגר הושבת עקב הפרה של מדיניות השימוש שלנו בנושא אלימות. אנחנו פועלים להוסיף הודעות להורים למקרים שבהם נשעה את החשבון של ילדם המתבגר עקב שיחות חוזרות על אלימות, כמפורט לעיל.

מעשי אלימות בעולם האמיתי הם אירועים קורעי לב ומורכבים, שגורמים רבים תורמים להתרחשותם. הם גם תזכורת קשה לכך שעלינו להמשיך לתכנן ולשפר את המערכות שלנו תוך התחשבות במורכבות הטבועה בהתנהגות האנושית. פיתוח אמצעי הגנה יעילים מפני אלימות במערכות בינה מלאכותית מחייב פתרון של אתגרים חדשים בזיהוי סיכונים ובמתן תגובות מתאימות. נמשיך להשקיע, לשפר ולשתף תובנות  על הדרך הטובה ביותר ליישם את ההגנות שאנו מפתחים. אמצעי ההגנה המפורטים כאן יתחילו להיפרס במהלך השבועות הקרובים, ונמשיך לשפר אותם. אנחנו מחויבים להמשיך לצמצם את הסיכונים לפגיעה במסגרת השימוש ב-ChatGPT, לחזק את שכבות ההגנה שלנו, לנטר שימוש לרעה, לאכוף את הכללים שלנו ולשלב תמיכה והתערבות בעולם האמיתי כשהמצב דורש זאת.