รายงานความปลอดภัยของชุมชนและมาตรการคุ้มครองวัยรุ่นเพิ่มเติม
ChatGPT เป็นหนึ่งในผลิตภัณฑ์ที่มีผู้ใช้งานมากที่สุดในกลุ่มผลิตภัณฑ์ AI ทั่วโลก โดย OpenAI ได้ลงทุนพัฒนาระบบที่มีความก้าวหน้าในระดับแนวหน้าของอุตสาหกรรม สำหรับตรวจจับความเสี่ยงที่อาจนำไปสู่อันตราย ตรวจสอบกิจกรรมที่น่ากังวล และส่งต่อภัยคุกคามที่มีหลักฐานน่าเชื่อถือให้ผู้เกี่ยวข้องดำเนินการ วันนี้เรามีประกาศสำคัญ 2 เรื่องเพื่อยกระดับการดำเนินงานด้านนี้ ได้แก่ รายงานความปลอดภัยของชุมชนฉบับใหม่ และมาตรการจำกัดเนื้อหาเกี่ยวกับอาวุธปืนสำหรับผู้เยาว์ที่เข้มงวดยิ่งขึ้น
การดูแลความปลอดภัยของผู้คนและชุมชนยังคงเป็นหนึ่งในภารกิจสำคัญสูงสุดของ OpenAI โดยเรามีมาตรการแจ้งเจ้าหน้าที่บังคับใช้กฎหมายเมื่อพบภัยคุกคามที่อาจนำไปสู่ความรุนแรงในระยะเวลาอันใกล้ โดยในไตรมาสที่ 3 ของ พ.ศ. 2569 เราได้ส่งต่อกรณีดังกล่าวให้เจ้าหน้าที่บังคับใช้กฎหมายมากกว่า 200 ครั้ง การดำเนินการเหล่านี้ช่วยสกัดกั้นแผนก่อเหตุรุนแรงได้อย่างเป็นรูปธรรม (เปิดในหน้าต่างใหม่)(เปิดในหน้าต่างใหม่)และเรายังคงอาศัยความเชี่ยวชาญของผู้เชี่ยวชาญด้านสุขภาพจิตและพฤติกรรมในการประเมินกรณีที่ซับซ้อน
บริษัท AI ไม่สามารถดูแลความปลอดภัยของผู้คนได้เพียงลำพัง เราตระหนักว่าบทบาทของเราต้องดำเนินควบคู่กับการทำงานของเจ้าหน้าที่บังคับใช้กฎหมาย สมาชิกในครอบครัว ผู้เชี่ยวชาญด้านสุขภาพจิต และผู้กำหนดนโยบาย ซึ่งมีอำนาจหน้าที่ ความเข้าใจบริบท และความสามารถในการรับมือกับสถานการณ์จริงที่สำคัญ เราจึงมุ่งพัฒนาระบบให้เข้มแข็งขึ้นอย่างต่อเนื่อง แบ่งปันความรู้จากประสบการณ์ และทำงานโดยตรงกับผู้ที่มีความพร้อมและเหมาะสมที่สุดในการเข้าไปจัดการสถานการณ์ที่เกิดขึ้นจริง
เรากำลังเสริมความเข้มแข็งให้กับแนวทางที่ใช้ช่วยปกป้องผู้คนและชุมชนอย่างต่อเนื่อง นั่นหมายถึงการสร้างมาตรการป้องกันที่แข็งแกร่ง และเปิดเผยอย่างโปร่งใสด้วยว่ามาตรการเหล่านั้นได้ผลดีเพียงใด และเรากำลังทำอะไรเพื่อปรับปรุงมาตรการเหล่านั้นให้ดียิ่งขึ้น เราต้องการให้ผู้คนเห็นภาพแนวทางของเราอย่างชัดเจน ทั้งวิธีที่โมเดลของเราระบุและตอบสนองต่อพฤติกรรมที่เป็นอันตราย ความเสี่ยงที่เราพบในการใช้งานจริง และขั้นตอนที่เราดำเนินการเพื่อจัดการกับความเสี่ยงเหล่านั้น
เรามุ่งมั่นที่จะเผยแพร่รายงานความปลอดภัยในชุมชนเกี่ยวกับการป้องกันความรุนแรงและประเด็นอื่นๆ ด้านความปลอดภัยในชุมชน ตลอดจนประสิทธิผลของมาตรการป้องกันที่เรานำมาใช้ โดยรายงานจะอธิบายว่าเราฝึกระบบให้ตรวจจับ สอบสวน และรับมือกับปัญหาด้านความปลอดภัยของชุมชนอย่างไร พร้อมยกตัวอย่างกรณีอันตรายที่เกี่ยวข้องกับความรุนแรงโดยปกปิดข้อมูลที่สามารถระบุตัวบุคคลได้ เพื่อแสดงให้เห็นว่าภัยเหล่านี้เกิดขึ้นในลักษณะใดและเราได้เรียนรู้อะไรบ้าง นอกจากนี้ เรายังจะนำเสนอมาตรการใหม่เพื่อลดความเสี่ยง การเปลี่ยนแปลงนโยบาย และข้อมูลที่เกี่ยวข้องเพื่อสนับสนุนข้อค้นพบในรายงาน
รายงานฉบับแรกจะเผยแพร่ในช่วงต้นปี 2570 โดยนำเสนอข้อมูลจากครึ่งหลังของปี 2569 จากนั้นเราจะอัปเดตรายงานทุก 6 เดือน เพื่อแบ่งปันข้อค้นพบที่เป็นประโยชน์เกี่ยวกับการตรวจจับ การตรวจสอบ และการรับมือกับเนื้อหาที่อาจเป็นอันตราย
โมเดลของเราได้รับการฝึกไม่ให้คำแนะนำที่ช่วยให้บุคคลวางแผนหรือก่อเหตุรุนแรง ขณะเดียวกัน เรายังเพิ่มข้อจำกัดเกี่ยวกับการตอบคำถามเรื่องเหตุโจมตีครั้งใหญ่ในอดีตและผู้ที่อยู่เบื้องหลัง โดยกำหนดให้โมเดลให้ข้อมูลในรายละเอียดน้อยลง แม้ข้อมูลเหล่านั้นจะหาได้จากแหล่งอื่นบนอินเทอร์เน็ตก็ตาม ผู้ใช้ยังสามารถสอบถามเพื่อทำความเข้าใจเหตุการณ์ ผลกระทบต่อผู้เสียหายและชุมชน ตลอดจนวิธีสังเกตสัญญาณเตือนและป้องกันเหตุรุนแรงในอนาคตได้ตามปกติ แต่เราจะจำกัดข้อมูลที่อาจนำไปใช้สร้างเหตุการณ์โจมตีในอดีตขึ้นมาใหม่ เช่น รายละเอียดของอาวุธและอุปกรณ์ที่ใช้ แหล่งที่มาและวิธีจัดหา หรือการเปรียบเทียบระดับความเสียหายอย่างละเอียดที่อาจทำให้ผู้ก่อเหตุเป็นที่รู้จักมากขึ้น ข้อจำกัดเหล่านี้มีผลกับผู้ใช้ทุกคน ไม่ว่าจะอายุเท่าใดหรือมีเหตุผลใดในการสอบถามก็ตาม
บางครั้งคำถามที่ดูเหมือนเป็นเรื่องทั่วไป หากพิจารณาร่วมกับบทสนทนาก่อนหน้า ก็อาจมีความหมายต่างออกไป เมื่อเดือนพฤษภาคมที่ผ่านมา เราได้อธิบายว่า ChatGPT สามารถใช้ข้อมูลสรุปสั้นๆ ที่เป็นข้อเท็จจริงเกี่ยวกับสัญญาณเตือนที่พบก่อนหน้านี้ เพื่อช่วยให้ตอบกลับในแชตครั้งต่อไปได้อย่างระมัดระวังยิ่งขึ้น ขณะนี้เรากำลังต่อยอดความสามารถดังกล่าว เพื่อให้ ChatGPT เพิ่มความระมัดระวังในการให้ข้อมูลที่อาจถูกนำไปใช้ในทางที่ผิด หากพบสัญญาณเตือนที่บ่งชี้ว่าอาจเกิดความรุนแรงจากแชตล่าสุด นอกจากนี้ เรายังอยู่ระหว่างพัฒนาให้ใช้ข้อจำกัดที่เข้มงวดขึ้นเหล่านี้กับผู้ใช้ที่ระบบคาดการณ์ว่ามีอายุต่ำกว่า 18 ปีด้วย แม้ว่าบทสนทนาของผู้ใช้จะไม่มีสัญญาณบ่งชี้เจตนาก่อเหตุรุนแรงก็ตาม
เราระงับบัญชีที่ตรวจสอบแล้วว่าละเมิดนโยบายเกี่ยวกับการใช้ความรุนแรงของเรา ขณะเดียวกัน เรากำลังร่วมมือกับผู้เชี่ยวชาญด้านสุขภาพจิตและการป้องกันความรุนแรง เพื่อพัฒนาวิธีรับมือโดยอัตโนมัติเพิ่มเติมให้สามารถเข้าแทรกแซงได้ตั้งแต่เนิ่นๆ หากบทสนทนามีสัญญาณว่าผู้ใช้กำลังหมกมุ่นอยู่กับความรุนแรงหรือความคิดที่จะทำร้ายผู้อื่นอย่างร้ายแรง ChatGPT จะสามารถยุติแชตโดยอัตโนมัติเพื่อหยุดรูปแบบพฤติกรรมดังกล่าวในขณะนั้น และหาก ChatGPT ยุติแชตด้วยเหตุผลนี้หลายครั้ง เราอาจระงับการใช้งานบัญชีชั่วคราว เรายังคงพัฒนามาตรการเหล่านี้อย่างต่อเนื่อง พร้อมลงทุนเสริมทั้งระบบทางเทคนิคและแนวทางป้องกันในทางปฏิบัติ โดยเฉพาะการตรวจจับสัญญาณเตือนให้ได้อย่างน่าเชื่อถือ และการพิจารณาว่าควรเข้าแทรกแซงเมื่อใดและอย่างไร
ChatGPT for Teens ใช้มาตรการป้องกันที่เหมาะสมกับวัยสำหรับผู้ใช้ที่อายุต่ำกว่า 18 ปี พร้อมเพิ่มการคุ้มครองและข้อจำกัดเพื่อลดการเข้าถึงเนื้อหาที่ละเอียดอ่อน ขณะนี้เรากำลังเพิ่มข้อจำกัดเกี่ยวกับข้อมูลด้านอาวุธที่วัยรุ่นได้รับ แม้คำถามจะดูเหมือนไม่เป็นอันตราย
นโยบายของเรามีข้อห้ามไม่ให้ความช่วยเหลือในการวางแผนหรือก่อเหตุรุนแรงอยู่แล้ว และยังจำกัดการให้ความช่วยเหลือวัยรุ่นในการค้นหาหรือจัดหาอาวุธด้วย ขณะนี้เรากำลังเพิ่มมาตรการคุ้มครองให้เข้มงวดขึ้น โดยจำกัดการให้ข้อมูลเกี่ยวกับอาวุธและระบบรักษาความปลอดภัยที่อาจนำไปใช้ก่อเหตุรุนแรงได้จริง แม้ผู้ใช้จะไม่ได้แสดงเจตนาที่จะใช้ความรุนแรงก็ตาม ทั้งนี้ วัยรุ่นยังสามารถใช้ ChatGPT เพื่อหาวิธีป้องกันเหตุรุนแรง ลดความตึงเครียดของสถานการณ์ ขอความช่วยเหลือ หรือติดต่อผู้ใหญ่ที่ตนไว้วางใจได้ตามเดิม
เมื่อปีที่แล้ว เราได้เปิดตัวระบบคาดการณ์อายุผู้ใช้ ซึ่งวิเคราะห์ข้อมูลหลายด้าน เช่น รูปแบบพฤติกรรม เพื่อประเมินว่าผู้ใช้อาจมีอายุต่ำกว่าหรือมากกว่า 18 ปี ต่อมาเราได้ปรับปรุงระบบให้สามารถประเมินข้อมูลใหม่ๆ ได้อย่างต่อเนื่องระหว่างที่ผู้ใช้ใช้งาน ChatGPT และปรับไปใช้ประสบการณ์สำหรับผู้ที่มีอายุต่ำกว่า 18 ปีเมื่อเห็นว่าเหมาะสม หากระบบจัดผู้ใช้ที่เป็นผู้ใหญ่ให้อยู่ในกลุ่มอายุต่ำกว่า 18 ปีโดยผิดพลาด ผู้ใช้จะมีช่องทางยืนยันว่าตนเป็นผู้ใหญ่ได้อย่างรวดเร็วและเป็นส่วนตัวผ่าน Persona ซึ่งเป็นพาร์ทเนอร์ด้านการยืนยันอายุของเรา เพื่อให้ยกเลิกมาตรการคุ้มครองเพิ่มเติมสำหรับวัยรุ่นได้
ผู้ปกครองสามารถใช้ฟีเจอร์การควบคุมโดยผู้ปกครองเพื่อเชื่อมต่อบัญชี ChatGPT ของตนกับบัญชีของบุตรหลานวัยรุ่น และช่วยกันกำหนดการตั้งค่าความปลอดภัยได้ เมื่อเชื่อมโยงบัญชีแล้ว ผู้ปกครองอาจได้รับการแจ้งเตือนด้านความปลอดภัย หากผู้ตรวจสอบที่ผ่านการฝึกอบรมเฉพาะทางพบความเสี่ยงร้ายแรงที่ผู้ใช้จะทำร้ายตนเอง หรือพบพฤติกรรมที่อาจเกี่ยวข้องกับภาวะการกินผิดปกติ ในเดือนกรกฎาคมที่ผ่านมา เราได้ขยายการแจ้งเตือนให้ครอบคลุมกรณีที่บัญชีของวัยรุ่นถูกปิดใช้งานเนื่องจากละเมิดนโยบายการใช้งานเกี่ยวกับความรุนแรงด้วย ขณะนี้เรากำลังพัฒนาระบบแจ้งเตือนผู้ปกครองเพิ่มเติม หากเราระงับการใช้งานบัญชีของวัยรุ่นชั่วคราวเนื่องจากมีการพูดคุยเกี่ยวกับความรุนแรงซ้ำหลายครั้ง ตามที่อธิบายไว้ข้างต้น
เหตุรุนแรงในโลกจริงเป็นเรื่องน่าสะเทือนใจและซับซ้อน โดยมีปัจจัยหลายอย่างประกอบกัน เหตุการณ์เหล่านี้ยังย้ำเตือนอย่างชัดเจนว่า เราต้องออกแบบและปรับปรุงระบบอย่างต่อเนื่องเพื่อให้สามารถรับมือกับความซับซ้อนของพฤติกรรมมนุษย์ที่เกิดขึ้นในชีวิตจริงได้ การสร้างมาตรการป้องกันความรุนแรงที่มีประสิทธิผลในระบบ AI จำเป็นต้องหาวิธีแก้ปัญหารูปแบบใหม่ ทั้งการประเมินความเสี่ยงและการตอบสนองอย่างเหมาะสม เราจึงจะเดินหน้าลงทุน พัฒนาแนวทาง และแบ่งปันบทเรียนที่ได้รับ เพื่อค้นหาวิธีนำมาตรการป้องกันเหล่านี้มาใช้ให้เกิดประสิทธิผลสูงสุด มาตรการป้องกันที่กล่าวถึงในบทความนี้จะทยอยเริ่มเปิดใช้ในอีกไม่กี่สัปดาห์ข้างหน้า และเราจะปรับปรุงมาตรการเหล่านี้อย่างต่อเนื่อง เรายังคงมุ่งมั่นลดความเสี่ยงที่จะเกิดอันตรายจากการใช้ ChatGPT เสริมมาตรการป้องกันหลายชั้นให้เข้มแข็งขึ้น เฝ้าระวังการใช้งานในทางที่ผิด บังคับใช้นโยบายอย่างจริงจัง และประสานความช่วยเหลือหรือการดำเนินการจากผู้เกี่ยวข้องในโลกจริงเมื่อสถานการณ์จำเป็น
