קולות סינתטיים: התמודדות עם אתגרים ומימוש הזדמנויות

OpenAI מחויבת לפיתוח בינה מלאכותית בטוחה שתועיל לכלל⁠. היום אנו משתפים תובנות ותוצאות ראשוניות מהתנסות מוקדמת ומצומצמת במודל בשם Voice Engine, שמשתמש בקלט טקסט ובדגימת אודיו אחת באורך 15 שניות כדי ליצור דיבור טבעי שדומה מאוד לקולו של הדובר המקורי. מרשים שמודל קטן יכול ליצור קולות מלאי הבעה ומציאותיים על סמך דגימה אחת של 15 שניות בלבד.

פיתחנו לראשונה את Voice Engine בסוף 2022, והשתמשנו בו להפעלת הקולות המוגדרים מראש שזמינים בממשק ה־API להמרת טקסט לדיבור⁠(נפתח בחלון חדש), וכן בChatGPT Voice ובתכונת ההקראה בקול⁠. בה בעת, אנו נוקטים גישה זהירה ומושכלת להנגשה רחבה יותר של הטכנולוגיה, בשל האפשרות לשימוש לרעה בקולות סינתטיים. אנו מקווים לפתוח בשיח על שימוש אחראי בקולות סינתטיים ועל הדרכים שבהן החברה יכולה להסתגל ליכולות החדשות האלה. על סמך השיח הזה ותוצאות הבדיקות המצומצמות, נוכל לקבל החלטה מושכלת יותר אם להעמיד את הטכנולוגיה לשימוש נרחב, וכיצד לעשות זאת.

כדי להבין טוב יותר את השימושים האפשריים בטכנולוגיה הזו, התחלנו בסוף השנה שעברה לבדוק אותה באופן לא פומבי עם קבוצה קטנה של שותפים מהימנים. התרשמנו מהיישומים שפיתחה הקבוצה הזו. השימושים האלה בהיקף מצומצם מסייעים לנו לגבש את הגישה שלנו, את אמצעי ההגנה ואת החשיבה על הדרכים שבהן Voice Engine יכול להועיל במגוון ענפים. הנה כמה דוגמאות מוקדמות:

• מתן סיוע בקריאה למי שאינם יודעים לקרוא ולילדים, באמצעות קולות טבעיים ומלאי הבעה המייצגים מגוון רחב יותר של דוברים מכפי שמתאפשר עם קולות מוגדרים מראש. Age of Learning⁠(נפתח בחלון חדש), חברת טכנולוגיה חינוכית הפועלת לקידום הצלחתם של ילדים בלימודים, משתמשת בטכנולוגיה ליצירת תוכן קריינות על סמך תסריטים שנכתבו מראש. החברה משתמשת גם ב־Voice Engine וב־GPT‑4 כדי ליצור תגובות מותאמות אישית בזמן אמת לצורך אינטראקציה עם תלמידים. בזכות הטכנולוגיה הזו, Age of Learning הצליחה ליצור יותר תוכן לקהל רחב יותר.

• תרגום תוכן, כגון סרטונים ופודקאסטים, כדי שיוצרים ועסקים יוכלו להגיע ליותר אנשים ברחבי העולם, בדיבור שוטף ובקולם שלהם. אחת המאמצות הראשונות של הטכנולוגיה היא HeyGen⁠(נפתח בחלון חדש), פלטפורמה מבוססת בינה מלאכותית לסיפור חזותי, שעובדת עם לקוחותיה הארגוניים ליצירת אווטרים דמויי אדם בהתאמה אישית למגוון סוגי תוכן, משיווק מוצרים ועד הדגמות מכירה. החברה משתמשת ב־Voice Engine לתרגום סרטונים, כך שהיא יכולה לתרגם את דבריו של הדובר לשפות רבות בקולו שלו ולהגיע לקהל עולמי. כשמשתמשים ב־Voice Engine לתרגום, הוא שומר על המבטא של שפת האם של הדובר המקורי: לדוגמה, יצירת דיבור באנגלית על סמך דגימת אודיו של דובר צרפתית תפיק דיבור במבטא צרפתי.

• הגעה לקהילות ברחבי העולם, באמצעות שיפור מתן השירותים החיוניים באזורים מרוחקים. Dimagi⁠(נפתח בחלון חדש) מפתחת כלים לעובדי בריאות בקהילה, שיסייעו להם לספק מגוון שירותים חיוניים, כגון ייעוץ לאימהות מניקות. כדי לעזור לעובדים האלה לפתח את כישוריהם, Dimagi משתמשת ב־Voice Engine וב־GPT‑4 למתן משוב אינטראקטיבי בשפתו העיקרית של כל עובד, לרבות סווהילי או שפות בלתי רשמיות יותר כמו שנג, שפה המשלבת כמה שפות ונפוצה בקניה.

• תמיכה באנשים שאינם מתקשרים בדיבור, למשל באמצעות יישומים טיפוליים לאנשים עם מצבים רפואיים המשפיעים על הדיבור, וכלים חינוכיים משופרים לאנשים עם צורכי למידה מיוחדים. Livox⁠(נפתח בחלון חדש), אפליקציה לתקשורת חלופית המבוססת על בינה מלאכותית, מפעילה מכשירי תקשורת תומכת וחליפית (תת״ח) המאפשרים לאנשים עם מוגבלויות לתקשר. באמצעות Voice Engine, החברה יכולה להציע לאנשים שאינם מתקשרים בדיבור קולות ייחודיים שאינם נשמעים רובוטיים, בשפות רבות. המשתמשים שלה יכולים לבחור את הקול שמייצג אותם בצורה הטובה ביותר, ומשתמשים רב־לשוניים יכולים לשמור על קול אחיד בכל השפות שבהן הם מדברים.

• סיוע למטופלים להשיב לעצמם את קולם, במקרים של הפרעות דיבור שהופיעו בפתאומיות או נובעות ממחלות ניווניות. המכון למדעי המוח על שם נורמן פרינס ב־Lifespan⁠(נפתח בחלון חדש), רשת שירותי בריאות ללא כוונת רווח המשמשת כשותפה המרכזית להכשרה קלינית של בית הספר לרפואה באוניברסיטת בראון, בוחן שימושים בבינה מלאכותית במסגרות קליניות. המכון מפעיל תוכנית ניסיונית המציעה את Voice Engine לאנשים עם פגיעה בדיבור שמקורה אונקולוגי או נוירולוגי. מכיוון ש־Voice Engine דורש דגימת אודיו קצרה כל כך, ד״ר פאטימה מירזה, ד״ר רוהאיד עלי וד״ר קונסטנטינה סבוקוס הצליחו לשחזר את קולה של מטופלת צעירה שאיבדה את יכולתה לדבר בשטף עקב גידול בכלי הדם במוח, בעזרת אודיו מסרטון שהוקלט לפרויקט בית־ספרי.

אנו מודעים לכך שיצירת דיבור הדומה לקולם של אנשים כרוכה בסיכונים משמעותיים, שמעוררים דאגה מיוחדת בשנת בחירות. אנו מקיימים שיח עם שותפים בארה״ב וברחבי העולם מתחומי הממשל, התקשורת, הבידור, החינוך, החברה האזרחית ועוד, כדי לוודא שאנו משלבים את המשוב שלהם בתהליך הפיתוח. השותפים שבודקים כיום את Voice Engine הסכימו למדיניות השימוש⁠ שלנו, שאוסרת על התחזות לאדם אחר או לארגון אחר ללא הסכמה או זכות חוקית. בנוסף, התנאים שלנו מול שותפים אלה מחייבים הסכמה מפורשת ומדעת של הדובר המקורי, ואיננו מאפשרים למפתחים לבנות כלים שיאפשרו למשתמשים פרטיים ליצור קולות משלהם. השותפים גם נדרשים להבהיר לקהל שלהם שהקולות שהם שומעים נוצרו באמצעות בינה מלאכותית. לבסוף, יישמנו שורה של אמצעי בטיחות, ובהם הטמעת סימני מים לאיתור המקור של כל אודיו שנוצר באמצעות Voice Engine, וכן ניטור יזום של השימוש בו. אנו סבורים שכל שימוש נרחב בטכנולוגיית קול סינתטי צריך להיות מלווה בתהליכי אימות קולי, שיוודאו שהדובר המקורי מוסיף את קולו לשירות ביודעין, וברשימת קולות אסורים, שתאפשר לזהות ולמנוע יצירה של קולות הדומים מדי לאלה של דמויות מוכרות.

Voice Engine הוא המשך למחויבות שלנו להבין את חזית הטכנולוגיה ולשתף בגלוי את האפשרויות שנפתחות בזכות בינה מלאכותית. בהתאם לגישה שלנו לבטיחות בינה מלאכותית⁠ ולהתחייבויות שנטלנו על עצמנו מרצון⁠, אנו בוחרים להציג כעת את הטכנולוגיה בתצוגה מקדימה, אך לא להעמיד אותה לרשות הציבור הרחב. אנו מקווים שהתצוגה המקדימה הזו של Voice Engine תמחיש את הפוטנציאל שלו וגם תעודד פעולה לחיזוק החוסן החברתי מול האתגרים שמציבים מודלים גנרטיביים שתוצריהם נעשים משכנעים יותר ויותר. בפרט, אנו מעודדים צעדים כגון:

• הפסקה הדרגתית של השימוש באימות קולי כאמצעי אבטחה לגישה לחשבונות בנק ולמידע רגיש אחר

• בחינת מדיניות להגנה על זכויותיהם של אנשים בנוגע לשימוש בקולם בבינה מלאכותית

• הסברה לציבור על היכולות והמגבלות של טכנולוגיות בינה מלאכותית, כולל האפשרות ליצירת תוכן מטעה באמצעותן

• האצת הפיתוח והאימוץ של שיטות לאיתור המקור של תוכן קולי וחזותי, כדי שתמיד יהיה ברור אם האינטראקציה היא עם אדם אמיתי או עם בינה מלאכותית

חשוב שאנשים ברחבי העולם יבינו לאן הטכנולוגיה הזו מתקדמת, בין שבסופו של דבר נעמיד אותה בעצמנו לשימוש נרחב ובין שלא. אנו מצפים להמשך השיח עם קובעי מדיניות, חוקרים, מפתחים ויוצרים על האתגרים וההזדמנויות שטמונים בקולות סינתטיים.