Олон нийтийн аюулгүй байдлын тайлан ба өсвөр насныханд зориулсан шинэ хамгаалалт
ChatGPT нь дэлхийд хамгийн өргөн хэрэглэгддэг AI бүтээгдэхүүний нэг бөгөөд бид болзошгүй хор хөнөөлийг илрүүлэх, санаа зовоосон үйл ажиллагааг хянан шалгах, бодитой гэж үзсэн заналхийллийг холбогдох шатанд шилжүүлэн мэдэгдэх салбарын хамгийн дэвшилтэт системүүдийг бүтээхэд хөрөнгө оруулсан. Энэ чиглэлийн ажлаа өргөжүүлэхийн тулд бид Олон нийтийн хамгаалалтын арга хэмжээний шинэ тайлан гаргах, мөн насанд хүрээгүй хүмүүст зориулсан галт зэвсгийн агуулгад тавих хязгаарлалтыг нэмэгдүүлэх гэсэн хоёр зүйлийг зарлаж байна.
Олон нийтийн аюулгүй байдлыг хангах нь OpenAI-ийн нэн тэргүүний зорилтуудын нэг хэвээр байна. Бидний ажилд хүчирхийллийн ойрын аюул заналыг хууль сахиулах байгууллагын анхааралд хүргэх ажил багтдаг бөгөөд 2026 оны 3-р улиралд бид хууль сахиулах байгууллагад 200 гаруй удаа мэдээлэл хүргүүлсэн. Эдгээр мэдээлэл нь хүчирхийллийн үйлдлийн төлөвлөгөөг таслан зогсооход эерэг(шинэ цонхонд нээгдэнэ) нөлөө(шинэ цонхонд нээгдэнэ) үзүүлж байгаа бөгөөд бид хүнд хэцүү тохиолдлуудыг үнэлэхэд туслуулахын тулд сэтгэцийн эрүүл мэнд, зан үйлийн мэргэжилтнүүдэд үргэлжлүүлэн түшиглэж байна.
Хууль сахиулах байгууллага, гэр бүлийн гишүүд, сэтгэцийн эрүүл мэндийн мэргэжилтнүүд болон бодлого боловсруулагчид чухал эрх мэдэл, нөхцөл байдлын талаарх ойлголт, бодит орчинд хүрч ажиллах боломжийг бүрдүүлдэг. Тэдэнтэй зэрэгцэн AI компаниуд өөрийн гэсэн онцгой үүрэг гүйцэтгэхийг бид хүлээн зөвшөөрдөг. Бид системээ тасралтгүй бэхжүүлж, сурч мэдсэн зүйлээ хуваалцаж, бодит амьдрал дээр арга хэмжээ авах хамгийн боломжтой талуудтай шууд хамтран ажиллах замаар энэ үүргээ аль болох үр дүнтэй биелүүлэхээр зорьж байна.
Бид хүмүүс болон олон нийтийг хамгаалахад туслах алхмуудаа байнга бэхжүүлж байна. Үүнд найдвартай хамгаалалт бий болгохын зэрэгцээ хамгаалалт хэр үр дүнтэй ажиллаж байгаа, түүнийг сайжруулахын тулд юу хийж байгаагаа ил тод мэдээлэх нь багтана. Бид өөрсдийн арга барил, манай загварууд хор хөнөөлтэй зан үйлийг хэрхэн таньж, хариу үзүүлдэг, бодит хэрэглээнд ямар эрсдэл ажиглагддаг, тэдгээрийг шийдвэрлэхийн тулд бид ямар арга хэмжээ авдаг талаар хүмүүст тодорхой ойлголт өгөхийг хүсэж байна.
Бид хүчирхийллээс урьдчилан сэргийлэх болон бусад олон нийтийн аюулгүй байдлын асуудлууд, мөн бидний хамгаалалтын арга хэмжээний үр нөлөөний талаарх Олон нийтийн аюулгүй байдлын тайланг гаргахаар амлаж байна. Тус тайланд бид олон нийтийн аюулгүй байдлын асуудлыг илрүүлэх, судлах, хариу арга хэмжээ авахын тулд системүүдээ хэрхэн сургадаг талаар тайлбарлах болно. Хүчирхийлэлтэй холбоотой хор хөнөөл хэрхэн манифест болон бид юу сурч мэдэж байгааг харуулсан нэр нууцалсан жишээг хуваалцаж, эрсдэлийг бууруулах шинэ арга хэмжээ болон бодлогын өөрчлөлтийг онцлон, эдгээр дүгнэлтийг батлах холбогдох мэдээллийг оруулна.
Бид 2027 оны эхээр 2026 оны хоёрдугаар хагасыг хамарсан анхны тайлангаа нийтэлж, түүнээс хойш зургаан сар тутам шинэчлэлт гаргана. Болзошгүй хор хөнөөлтэй агуулгыг хэрхэн илрүүлж, хянаж, хариу арга хэмжээ авдгийнхаа талаар ач холбогдолтой үр дүнг хуваалцах нь бидний амлалт юм.
Манай загварууд хүнийг хүчирхийлэл төлөвлөх эсвэл үйлдэхэд туслах заавар өгөхгүй байхаар сургагдсан. Одоо бид өмнө нь олныг хамарсан халдлага болон түүнийг үйлдсэн хүмүүсийн тухай асуултад ChatGPT хэрхэн хариулахад нэмэлт хязгаарлалт тавьж, эдгээр сэдвээр бусад онлайн эх сурвалжид байгаа байсан ч загварт бага дэлгэрэнгүй мэдээлэл өгөхийг чиглүүлж байна. Хүмүүс эдгээр үйл явдлыг ойлгох, хохирогчид болон олон нийтэд хэрхэн нөлөөлснийг мэдэх, аюулын дохиог таних, ирээдүйн хүчирхийллээс урьдчилан сэргийлэх талаар суралцахад нь ChatGPT‑ээс тусламж хүсэх боломжтой байх ёстой. Гэхдээ бид өмнөх олныг хамарсан халдлагыг сэргээн дүрслэхийг хязгаарлахын тулд бодлогоо чангатгаж байна. Үүнд ашигласан зэвсэг, тоног төхөөрөмж болон тэдгээрийг хэрхэн олж авсан талаарх дэлгэрэнгүй мэдээлэл, мөн халдагчийн муу нэрийг улам дэвэргэж болзошгүй хохирлын цар хүрээний дэлгэрэнгүй харьцуулалтууд багтана. Эдгээр хязгаарлалт нь хэрэглэгчийн нас эсвэл асууж буй шалтгаанаас үл хамааран үйлчилнэ.
Заримдаа дангаар нь харахад энгийн мэт хүсэлт өмнөх яриатай нь холбож үзэхэд өөр утгатай болдог. Тавдугаар сард бид өмнө нь илэрсэн аюулын дохионы тухай баримтад тулгуурласан товч хураангуйг ChatGPT хэрхэн ашиглаж, дараагийн чатад илүү болгоомжтой хариулж болохыг танилцуулсан. Бид энэ ажлаа үргэлжлүүлэн хөгжүүлж байна. Ингэснээр сүүлийн үеийн чатуудад хүчирхийлэл үйлдэж болзошгүй шинж илэрсэн бол ChatGPT буруугаар ашиглаж болох мэдээлэл өгөхдөө илүү болгоомжтой хандана. Мөн хэрэглэгчийг 18 нас хүрээгүй гэж таамагласан бол чатад нь хүчирхийлэл үйлдэх санаархлын шинж илрээгүй байсан ч эдгээр хатуу хязгаарлалтыг хэрэгжүүлэхээр ажиллаж байна.
Бид хүчирхийллийн үйл ажиллагааны талаарх бодлогыг зөрчсөн гэж тогтоосон бүртгэлүүдийг хаадаг. Мөн бид сэтгэцийн эрүүл мэнд болон хүчирхийллээс урьдчилан сэргийлэх чиглэлийн мэргэжилтнүүдтэй хамтран эрт шатанд арга хэмжээ авах нэмэлт автомат арга замуудыг боловсруулж байна. Ярианаас тухайн хүн хүчирхийлэлд эсвэл өөр хүнд ноцтой хор хүргэх санаанд хэт автсан шинж илэрвэл ChatGPT тухайн мөчид энэ хэв маягийг тасалдуулахын тулд чатыг автоматаар дуусгах боломжтой болно. Хэрэв ChatGPT ийм шалтгаанаар хэд хэдэн чатыг дуусгавал бид тухайн бүртгэлийг түр хугацаагаар түдгэлзүүлж болно. Энэ бол үргэлжилж буй ажил бөгөөд бид анхааруулах шинж тэмдгийг найдвартай таньж, хэзээ, хэрхэн арга хэмжээ авахаа тодорхойлох зэрэг техникийн болон практик хамгаалалтыг бэхжүүлж, тэдгээрт хөрөнгө оруулсаар байна.
Өсвөр насныханд зориулсан ChatGPT нь 18-аас доош насны хэрэглэгчдэд насанд нь тохирсон хамгаалалт хэрэгжүүлж, эмзэг агуулгатай таарах боломжийг бууруулахын тулд илүү хатуу хамгаалалт болон нэмэлт хязгаарлалт тавьдаг. Асуулт нь хоргүй мэт санагдсан ч өсвөр насныхны авч болох зэвсэгтэй холбоотой мэдээлэлд бид одоо нэмэлт хязгаарлалт тавьж байна.
Манай бодлогууд хэн нэгэнд хүчирхийлэл төлөвлөх эсвэл үйлдэхэд нь туслахыг аль хэдийн хориглож, өсвөр насныханд зэвсэг хайж олох эсвэл олж авахад нь туслахыг хязгаарладаг. Бид эдгээр хамгаалалтыг өргөжүүлж, хүчирхийлэл үйлдэхэд буруугаар ашиглаж болзошгүй зэвсэг болон аюулгүй байдлын системийн талаарх практик мэдээлэл өгөхөд туслахыг хязгаарлаж байна. Хүчирхийлэл үйлдэх санаа зорилгын шинж тэмдэг огт байхгүй байсан ч энэ хязгаарлалт үйлчилнэ. Өсвөр насныхан хүчирхийллээс урьдчилан сэргийлэх, хурцадмал байдлыг намжаах, дэмжлэг эрэх болон итгэдэг насанд хүрсэн хүнтэй холбогдоход туслуулахын тулд ChatGPT‑г ашиглаж болно.
Бид өнгөрсөн жил нас таамаглах системийг нэвтрүүлсэн. Энэ нь хэрэглээний хэв маяг зэрэг олон үзүүлэлтийг шинжилж, хэрэглэгч 18 нас хүрээгүй эсвэл түүнээс дээш настай байж болзошгүй эсэхийг таамагладаг. Бид нас таамаглах системээ сайжруулж, хүмүүс ChatGPT‑г ашиглах явцад илрэх шинэ дохиог тасралтгүй үнэлж, шаардлагатай үед өсвөр насны хэрэглэгчдийг 18-аас доош насныханд зориулсан горимд шилжүүлдэг болсон. 18-аас доош насныханд зориулсан горимд андуурч оруулсан хэрэглэгчид нас баталгаажуулах түнш Persona-гаар дамжуулан насанд хүрсэн гэдгээ хурдан, хувийн нууцаа хамгаалсан байдлаар баталгаажуулж, өсвөр насныханд зориулсан нэмэлт хамгаалалтыг цуцлуулах боломж үргэлж нээлттэй байна.
Манай эцэг эхийн хяналт нь эцэг эхчүүдэд өөрсдийн ChatGPT бүртгэлийг өсвөр насны хүүхдийнхээ бүртгэлтэй холбож, аюулгүй байдлын тохиргоог хамтдаа удирдах боломж олгодог. Холбосон бүртгэлүүдэд тусгайлан бэлтгэгдсэн хяналтын ажилтнууд өөрийгөө гэмтээх ноцтой эрсдэл болон хооллох зан үйлийн алдагдалтай холбоотой байж болзошгүй үйлдлийг илрүүлсэн үед илгээж болох аюулгүй байдлын сэрэмжлүүлэг багтана. Долдугаар сард бид өсвөр насны хүүхдийн бүртгэлийг хүчирхийллийн талаарх ашиглалтын бодлогоо зөрчсөний улмаас идэвхгүй болгосон тохиолдолд эцэг эхэд нь мэдэгдэхээр эдгээр сэрэмжлүүлгийг өргөжүүлсэн. Дээр дэлгэрэнгүй тайлбарласны дагуу, өсвөр насны хүүхэд хүчирхийллийн талаар удаа дараа ярилцсаны улмаас бүртгэлийг нь түр түдгэлзүүлбэл эцэг эхэд нь мэдэгдэл илгээх боломжийг нэвтрүүлэхээр ажиллаж байна.
Бодит амьдралд гардаг хүчирхийллийн үйлдлүүд нь сэтгэл эмзэглүүлсэн, олон хүчин зүйлээс үүдэлтэй ээдрээтэй байдаг. Тэдгээр нь хүний зан үйлийн угаасаа ээдрээтэй бодит байдлыг харгалзан системээ үргэлжлүүлэн зохион бүтээж, сайжруулах ёстойг бидэнд тод сануулдаг. AI системд хүчирхийллээс хамгаалах үр дүнтэй арга хэмжээг боловсруулахын тулд эрсдэлийг таньж, зохих ёсоор хариу үйлдэл үзүүлэхтэй холбоотой шинэ асуудлуудыг шийдвэрлэх шаардлагатай. Бид хэрэгжүүлэхээр зорьж буй хамгаалалтыг хэрхэн хамгийн сайн хэрэгжүүлэх талаар үргэлжлүүлэн хөрөнгө оруулж, сайжруулж, олж авсан сургамжаа хуваалцах болно. Энд дэлгэрэнгүй тайлбарласан хамгаалалтуудыг ойрын хэдэн долоо хоногт нэвтрүүлж эхлэх бөгөөд бид цаашид ч сайжруулсаар байх болно. Бид ChatGPT‑д хор хөнөөл учрах эрсдэлийг бууруулах, олон давхар хамгаалалтаа бэхжүүлэх, зүй бус хэрэглээг хянах, дүрмээ мөрдүүлэх, шаардлагатай нөхцөлд бодит амьдрал дахь тусламж дэмжлэг, хөндлөнгийн оролцоог татан оролцуулахын төлөө тууштай ажилласаар байна.
