Topluluk güvenliği raporu ve gençler için yeni koruma önlemleri
ChatGPT, dünyanın en yaygın kullanılan yapay zeka ürünlerinden biri. Olası zararları tespit etmek, endişe verici faaliyetleri incelemek ve inandırıcı bulunan tehditleri ilgili birimlere iletmek için sektörün en gelişmiş sistemlerinden bazılarını oluşturmaya yatırım yaptık. Bu alandaki çalışmalarımızı ilerletmek üzere iki yeni adım duyuruyoruz: Topluluk Güvenlik Önlemleri Raporu ve reşit olmayan kullanıcıların ateşli silahlarla ilgili içeriklere erişimine yönelik ek kısıtlamalar.
Toplulukların güvenliğini sağlamak, OpenAI'ın başlıca önceliklerinden biri olmaya devam ediyor. Bu çalışmalar kapsamında, şiddet eylemlerinin gerçekleşmek üzere olduğunu gösteren tehditleri kolluk kuvvetlerine bildiriyoruz. 2026'nın 3. çeyreğinde kolluk kuvvetlerine 200'den fazla bildirimde bulunduk. Bu bildirimler, şiddet planlarını boşa çıkarmada olumlu(yeni bir pencerede açılır) sonuçlar(yeni bir pencerede açılır) veriyor. Zorlu vakaları değerlendirirken ruh sağlığı ve davranış uzmanlarının desteğinden yararlanmaya devam ediyoruz.
Kolluk kuvvetleri, aile üyeleri, ruh sağlığı uzmanları ve politika yapıcılar; sahip oldukları yetkiler, duruma ilişkin bilgiler ve gerçek hayatta müdahale edebilme olanaklarıyla kritik katkılar sağlıyor. Yapay zeka şirketlerinin de bu kişi ve kurumların yanında kendilerine özgü bir rolü olduğunun farkındayız. Sistemlerimizi sürekli güçlendirerek, öğrendiklerimizi paylaşarak ve gerçek hayatta harekete geçebilecek en uygun kişi ve kurumlarla doğrudan çalışarak bu rolü en iyi şekilde yerine getirmeye kararlıyız.
İnsanları ve toplulukları korumak için aldığımız önlemleri sürekli geliştiriyoruz. Hem güçlü güvenlik önlemleri oluşturuyor hem de bunların ne ölçüde işe yaradığını ve nasıl geliştirildiğini şeffaf biçimde paylaşıyoruz. Yaklaşımımızı, modellerimizin zararlı davranışları nasıl tespit edip bunlara nasıl yanıt verdiğini, uygulamada karşılaştığımız riskleri ve bu riskleri gidermek için attığımız adımları açıkça ortaya koymak istiyoruz.
Şiddetin önlenmesini, topluluk güvenliğiyle ilgili diğer konuları ve güvenlik önlemlerimizin etkinliğini ele alan Topluluk Güvenliği Raporu'nu yayınlamayı taahhüt ediyoruz. Raporda, topluluk güvenliğine ilişkin sorunları tespit etmek, araştırmak ve bunlara müdahale etmek üzere sistemlerimizi nasıl eğittiğimizi açıklayacağız. Şiddetle bağlantılı zararların nasıl ortaya çıktığını gösteren anonimleştirilmiş örnekleri ve öğrendiklerimizi paylaşacağız. Riskleri azaltmaya yönelik yeni önlemleri ve politika değişikliklerini öne çıkarıp bulgularımızı destekleyen ilgili verilere de yer vereceğiz.
İlk raporumuzu 2027'nin başlarında yayınlayacağız. Rapor, 2026'nın ikinci yarısını kapsayacak ve sonrasında altı ayda bir güncellenecek. Zarar verme potansiyeli taşıyan içerikleri nasıl tespit ettiğimiz, incelediğimiz ve bunlara nasıl müdahale ettiğimiz konusunda anlamlı bulgular paylaşmayı taahhüt ediyoruz.
Modellerimizi, şiddet eylemlerinin planlanmasına veya gerçekleştirilmesine yardımcı olacak talimatlar vermemeleri için eğitiyoruz. Şimdi de ChatGPT'nin geçmişteki kitlesel saldırılar ve bunları gerçekleştiren kişiler hakkındaki sorulara verdiği yanıtlara ek kısıtlamalar getiriyoruz. Bu konularda başka online kaynaklarda bulunabilen bilgileri bile daha az ayrıntıyla sunması için modeli yönlendiriyoruz. İnsanlar, bu olayları anlamak, mağdurların ve toplulukların nasıl etkilendiğini öğrenmek için ChatGPT'den yardım alabilmeli. Uyarı işaretlerini fark etme ve gelecekteki şiddet eylemlerini önleme konusunda da bilgi edinebilmeli. Bununla birlikte, geçmişteki kitlesel saldırıların nasıl gerçekleştirildiğinin yeniden anlatılmasını kısıtlamak için politikalarımızı sıkılaştırıyoruz. Bu kısıtlamalar, kullanılan silah ve ekipmanların neler olduğu ve nasıl temin edildiği gibi ayrıntıları da kapsıyor. Ayrıca, saldırganın kötü şöhretini artırabilecek şekilde, verilen zararın boyutuna dair ayrıntılı karşılaştırmalara da sınır getiriyoruz. Bu sınırlar, kullanıcının yaşı veya soruyu sorma amacı ne olursa olsun geçerlidir.
Bazen tek başına sıradan görünen bir istek, önceki bir konuşma dikkate alındığında farklı bir anlam kazanabilir. Mayıs ayında, ChatGPT'nin önceki uyarı işaretlerine ilişkin kısa ve olgulara dayalı özetleri kullanarak sonraki bir sohbette nasıl daha dikkatli yanıt verebildiğini paylaştık. Bu çalışmayı geliştiriyoruz. Böylece yakın zamandaki sohbetlerde olası şiddete ilişkin uyarı işaretleri görüldüğünde ChatGPT, kötüye kullanılabilecek bilgileri paylaşırken daha temkinli davranacak. Bir kişinin 18 yaşından küçük olduğunu tahmin ettiğimizde, sohbetlerinde şiddet niyetine dair hiçbir işaret bulunmasa bile bu daha sıkı sınırları uygulamak için de çalışıyoruz.
Şiddet içeren faaliyetlere ilişkin politikalarımızın ihlal edildiğini tespit ettiğimiz hesapları kullanıma kapatıyoruz. Daha erken müdahale edebilmek için ruh sağlığı ve şiddeti önleme uzmanlarıyla birlikte ek otomatik yöntemler üzerinde de çalışıyoruz. Bir konuşmada, kişinin şiddete ya da bir başkasına ciddi zarar verme düşüncesine takılıp kaldığını gösteren işaretler varsa ChatGPT, bu düşünce döngüsünü o anda kesmek için sohbeti otomatik olarak sonlandırabilecek. ChatGPT bu nedenle birden fazla sohbeti sonlandırırsa hesabı geçici olarak askıya alabiliriz. Bu çalışmalar devam ediyor. Teknik önlemleri ve uygulamaya yönelik korumaları güçlendirip bunlara yatırım yapmayı sürdürüyoruz. Bu kapsamda, uyarı işaretlerini güvenilir biçimde tespit etmenin ve ne zaman, nasıl müdahale edileceğini belirlemenin yollarını da geliştiriyoruz.
Gençler için ChatGPT, 18 yaşından küçük kullanıcılara yaşlarına uygun güvenlik önlemleri sunar. Hassas içeriklerle karşılaşma olasılıklarını azaltmak için daha güçlü korumalar ve ek sınırlamalar uygular. Şimdi, soruları zararsız görünse bile gençlerin silahlarla ilgili edinebileceği bilgilere daha fazla sınırlama getiriyoruz.
Politikalarımız, herhangi bir kişinin şiddet eylemi planlamasına veya gerçekleştirmesine yardımcı olmayı zaten yasaklıyor. Gençlerin silah bulmasına ya da edinmesine yardımcı olunmasını da kısıtlıyor. Bu korumaların kapsamını genişletiyoruz. Şiddet niyetine dair bir işaret olmasa bile silahlar ve güvenlik sistemleri hakkında, şiddet eylemlerini kolaylaştırmak için kötüye kullanılabilecek uygulamaya dönük bilgileri kısıtlıyoruz. Gençler, şiddeti önlemek ve azaltmak, destek aramak, güvendikleri bir yetişkinle iletişim kurmak için ChatGPT'den yardım almaya devam edebilir.
Geçen yıl kullanıma sunduğumuz yaş tahmini sistemi, davranış örüntüleri gibi çeşitli sinyalleri analiz ederek kullanıcının 18 yaşından küçük olup olmadığını tahmin eder. Sistemi, ChatGPT kullanılırken ortaya çıkan yeni sinyalleri sürekli değerlendirecek ve uygun durumlarda gençleri 18 yaşından küçük kullanıcılara yönelik ChatGPT deneyimine geçirecek şekilde güçlendirdik. Yanlışlıkla bu deneyime geçirilen kullanıcılar, yetişkin olduklarını hızlı ve gizliliklerini koruyan bir yöntemle doğrulayıp gençlere yönelik ek korumaları kaldırabilecek. Yaş doğrulama iş ortağımız Persona aracılığıyla sunulan bu seçenek her zaman kullanılabilecek.
Sunduğumuz ebeveyn kontrolleri sayesinde ebeveynler, kendi ChatGPT hesaplarını genç çocuklarının hesaplarına bağlayıp güvenlik ayarlarını onlarla birlikte yönetebilir. Bağlı hesaplarda güvenlik uyarıları da bulunur. Özel eğitim almış inceleme uzmanları, ciddi bir kendine zarar verme riski ve yeme bozukluklarıyla ilişkili olabilecek davranışlar tespit ettiğinde bu uyarılar gönderilebilir. Temmuz ayında uyarıların kapsamını genişlettik. Bir gencin hesabı, şiddetle ilgili kullanım politikalarımızı ihlal ettiği için devre dışı bırakıldığında da ebeveynlerine bildirim gönderiliyor. Yukarıda ayrıntılarıyla açıklandığı üzere, bir gencin hesabını tekrar tekrar şiddet hakkında konuştuğu için askıya aldığımızda da ebeveynlerine bildirim göndermek için çalışıyoruz.
Gerçek hayatta yaşanan şiddet olayları yürek burkuyor. Bu olayların arkasında pek çok etkenin rol oynadığı karmaşık süreçler yatıyor. Yaşananlar, sistemlerimizi insan davranışlarının karmaşık doğasını gözeterek tasarlamamız ve sürekli geliştirmemiz gerektiğini de acı bir şekilde hatırlatıyor. Yapay zeka sistemlerinde şiddeti önlemeye yönelik etkili güvenlik önlemleri oluşturmak için riskleri tanıma ve duruma uygun tepki verme konusunda yeni zorlukları aşmamız gerekiyor. Bu önlemleri en etkili şekilde uygulayabilmek için çalışmalarımıza yatırım yapmayı, yaklaşımımızı geliştirmeyi ve edindiğimiz bilgileri paylaşmayı sürdüreceğiz. Burada açıkladığımız önlemleri önümüzdeki birkaç hafta içinde kullanıma sunmaya başlayacak, sonrasında da iyileştireceğiz. ChatGPT kullanımı sırasında doğabilecek zarar risklerini azaltmaya ve çok katmanlı güvenlik önlemlerimizi güçlendirmeye kararlıyız. Kötüye kullanımı izlemeyi ve kurallarımızı uygulamayı sürdüreceğiz. Gerektiğinde gerçek hayatta destek ve müdahale sağlayabilecek kişi ve kurumları da devreye sokmaya devam edeceğiz.
