Közösségi biztonsági jelentés és új intézkedések a tizenévesek védelmére
A ChatGPT a világ egyik legszélesebb körben használt AI-terméke. Jelentős erőforrásokat fordítottunk az ágazat legfejlettebb rendszerei közé tartozó megoldások kiépítésére, hogy felismerjük a lehetséges károkat, kivizsgáljuk az aggasztó tevékenységeket, és a hitelesnek ítélt fenyegetéseket az illetékesekhez továbbítsuk. Két bejelentést teszünk, hogy továbbvigyük az ezen a területen végzett munkánkat: egy új közösségi védelmi jelentést, valamint a kiskorúak számára a lőfegyverekkel kapcsolatos tartalmakra vonatkozó további korlátozásokat.
A közösségek biztonságának megőrzése továbbra is kiemelt prioritást jelent az OpenAI számára. Munkánk része, hogy felhívjuk a bűnüldöző szervek figyelmét az erőszakos cselekmények közvetlen veszélyére, és 2026 harmadik negyedévében több mint 200 ügyet továbbítottunk a bűnüldöző szerveknek. Ezek a bejelentések pozitív(új ablakban nyílik meg) hatást(új ablakban nyílik meg) gyakorolnak az erőszakos összeesküvések meghiúsítására, és továbbra is mentálhigiénés és viselkedéstudományi szakértőkre támaszkodunk a nehéz esetek értékelésében.
Tisztában vagyunk azzal, hogy az AI-vállalatoknak sajátos szerepük van a bűnüldöző szervek, a családtagok, a mentálhigiénés szakemberek és a szakpolitikai döntéshozók mellett, akik nélkülözhetetlen hatáskörökkel, háttérismeretekkel és valós cselekvési lehetőségekkel rendelkeznek. Elkötelezettek vagyunk amellett, hogy a lehető legtöbbet hozzuk ki ebből a szerepből: folyamatosan erősítjük rendszereinket, megosztjuk a tanulságainkat, és közvetlenül együttműködünk azokkal, akik a valós életben a leginkább képesek cselekedni.
Folyamatosan erősítjük az emberek és közösségek védelmét szolgáló intézkedéseinket. Ez erős védelmi megoldások kialakítását jelenti, valamint azt, hogy átláthatóan bemutatjuk, mennyire működnek jól, és mit teszünk a továbbfejlesztésükért. Szeretnénk világos képet adni az embereknek a megközelítésünkről, arról, hogyan ismerik fel modelljeink a káros viselkedést és hogyan reagálnak rá, milyen kockázatokat látunk a gyakorlatban, és milyen lépéseket teszünk ezek kezelésére.
Vállaljuk, hogy közzétesszük az erőszak megelőzéséről, a közösségi biztonságot érintő egyéb kérdésekről és védelmi intézkedéseink hatékonyságáról szóló közösségi biztonsági jelentést. A jelentésben bemutatjuk, hogyan tanítjuk be rendszereinket arra, hogy észleljék és kivizsgálják a közösségi biztonságot érintő problémákat, és reagáljanak rájuk. Anonimizált példákon keresztül mutatjuk be, milyen formában jelentkeznek az erőszakhoz kapcsolódó ártalmak, és milyen tanulságokat vonunk le. Kiemeljük az ártalmak mérséklését célzó új intézkedéseket és a szabályzatok változásait, valamint a megállapításokat alátámasztó releváns adatokat is közlünk.
Első jelentésünket 2027 elején tesszük közzé; ez 2026 második felét öleli fel, a későbbiekben pedig hathavonta frissítjük. Elkötelezettek vagyunk amellett, hogy érdemi megállapításokat osszunk meg arról, hogyan azonosítjuk, vizsgáljuk felül és kezeljük a potenciálisan káros tartalmakat.
Modelljeinket úgy tanítjuk, hogy ne adjanak olyan utasításokat, amelyek erőszakos cselekmények megtervezésében vagy végrehajtásában segítenének. Most további korlátozásokat vezetünk be arra vonatkozóan, hogyan válaszol a ChatGPT a korábbi tömeges támadásokról és az azokat elkövetőkről szóló kérdésekre: arra utasítjuk a modellt, hogy ezekben a témákban kevésbé részletes információkat adjon, még akkor is, ha azok más online forrásokból elérhetők. Fontos, hogy az emberek a ChatGPT segítségével megérthessék ezeket az eseményeket és az áldozatokra, illetve a közösségekre gyakorolt hatásukat, valamint tájékozódhassanak a figyelmeztető jelek felismeréséről és a jövőbeli erőszak megelőzéséről. Ugyanakkor szigorítjuk szabályzatainkat, hogy korlátozzuk a korábbi tömeges támadások rekonstruálását, beleértve a használt fegyverekre és felszerelésekre, valamint azok beszerzésére vonatkozó részleteket, továbbá az okozott károk mértékéről szóló olyan részletes összehasonlításokat, amelyek növelhetik az elkövető hírhedtségét. Ezek a korlátozások a felhasználó életkorától és kérdésének indokától függetlenül érvényesek.
Néha egy önmagában hétköznapinak tűnő kérés egy korábbi beszélgetés fényében más értelmet nyer. Májusban bemutattuk, hogyan használhat a ChatGPT rövid, tényszerű összefoglalókat a korábbi figyelmeztető jelekről, hogy körültekintőbben válaszoljon egy későbbi csevegésben. Erre a munkára építve fejlesztjük tovább a rendszert, hogy ha a közelmúltbeli csevegések lehetséges erőszakra utaló figyelmeztető jeleket mutatnak, a ChatGPT óvatosabban járjon el az olyan információk megosztásakor, amelyekkel vissza lehet élni. Azon is dolgozunk, hogy ezeket a szigorúbb korlátozásokat akkor is alkalmazzuk, ha becslésünk szerint valaki 18 év alatti, még ha a csevegéseiben nem is látszanak erőszakos szándék jelei.
Letiltjuk azokat a fiókokat, amelyekről megállapítjuk, hogy megsértették az erőszakos tevékenységre vonatkozó szabályzatainkat. Mentálhigiénés és erőszak-megelőzési szakértőkkel is együtt dolgozunk azon, hogy további, automatizált módszereket dolgozzunk ki a korábbi beavatkozásra. Ha egy beszélgetés arra utal, hogy valakinek a gondolatai kényszeresen az erőszak vagy egy másik személy súlyos bántalmazásának gondolata körül forognak, a ChatGPT képes lesz automatikusan lezárni a csevegést, hogy az adott pillanatban megszakítsa ezt a mintázatot. Ha a ChatGPT emiatt több csevegést is lezár, átmenetileg felfüggeszthetjük a fiókot. Ez folyamatos munka, és továbbra is fejlesztjük és bővítjük a műszaki és gyakorlati védelmi intézkedéseket, többek között azt, hogyan ismerjük fel megbízhatóan a figyelmeztető jeleket, és hogyan határozzuk meg, mikor és miként avatkozzunk be.
A ChatGPT tizenéveseknek szánt változata életkornak megfelelő védelmi intézkedéseket alkalmaz a 18 év alatti felhasználóknál, szigorúbb védelemmel és további korlátozásokkal csökkentve annak esélyét, hogy érzékeny tartalmakkal találkozzanak. Mostantól további korlátozásokat vezetünk be a tizenévesek számára elérhető, fegyverekkel kapcsolatos információkra vonatkozóan, még akkor is, ha a kérdés ártalmatlannak tűnik.
Irányelveink már most is tiltják, hogy bárkinek segítsünk erőszakot tervezni vagy elkövetni, és korlátozzák a tizenéveseknek nyújtott segítséget abban, hogy fegyvereket találjanak vagy szerezzenek. Ezeket a védelmi intézkedéseket kiterjesztjük: korlátozzuk az olyan fegyverekkel és biztonsági rendszerekkel kapcsolatos gyakorlati információk nyújtását is, amelyekkel visszaélve elősegíthető az erőszak, még akkor is, ha nincs jele erőszakos szándéknak. A tinédzserek továbbra is használhatják a ChatGPT‑t az erőszak megelőzésére és enyhítésére, támogatás keresésére és egy megbízható felnőttel való kapcsolatfelvételre.
Tavaly vezettük be az életkorbecslést, amely többféle jel, például viselkedési minták elemzésével becsüli meg, hogy egy felhasználó 18 év alatti vagy feletti lehet-e. Megerősítettük az életkorbecslő rendszerünket, hogy folyamatosan értékelje az új jeleket, miközben az emberek használják a ChatGPT‑t, és szükség esetén a tizenéveseket a 18 év alattiaknak szánt felületre irányítsa. Azok a felhasználók, akik tévesen kerülnek a 18 év alattiaknak szánt felületre, életkor-ellenőrzési partnerünkön, a Personán keresztül mindig gyorsan és a magánszférájukat védő módon igazolhatják nagykorúságukat, és kérhetik a tizenévesekre vonatkozó további védelmi intézkedések feloldását.
A szülői felügyelet segítségével a szülők összekapcsolhatják saját ChatGPT‑fiókjukat tizenéves gyermekük fiókjával, és közösen kezelhetik a biztonsági beállításokat. Az összekapcsolt fiókokhoz biztonsági értesítések is tartoznak. Ilyen értesítést küldhetünk, ha külön erre kiképzett ellenőreink az önsértés komoly kockázatát vagy zavart evési magatartásra utaló viselkedést észlelnek. Júliusban kibővítettük ezeket az értesítéseket: a szülők arról is értesülnek, ha tizenéves gyermekük fiókját az erőszakra vonatkozó használati szabályzatunk megsértése miatt deaktiváltuk. Dolgozunk azon, hogy a szülők akkor is értesítést kapjanak, ha tizenéves gyermekük fiókját azért függesztjük fel, mert ismételten erőszakról beszélget, a fent részletezettek szerint.
A valós életben elkövetett erőszakos cselekmények megrázó, összetett események, amelyekhez számos tényező járul hozzá. Egyúttal arra is nyomatékosan emlékeztetnek, hogy rendszereink tervezése és folyamatos fejlesztése során figyelembe kell vennünk az emberi viselkedés eredendő összetettségét. A mesterséges intelligenciát használó rendszerekben az erőszak elleni hatékony védelmi intézkedések kidolgozásához új típusú problémákat kell megoldanunk a kockázatok felismerése és a megfelelő reagálás terén. Továbbra is erőforrásokat fordítunk ezekre a védelmi intézkedésekre, továbbfejlesztjük őket, és megosztjuk tapasztalatainkat arról, hogyan valósíthatjuk meg őket a lehető leghatékonyabban. Az itt részletezett védelmi intézkedéseket a következő hetekben kezdjük bevezetni, és továbbra is finomítani fogjuk őket. Továbbra is elkötelezettek vagyunk amellett, hogy mérsékeljük a ChatGPT használatából eredő károk kockázatát, erősítsük többrétegű védelmünket, figyeljük a visszaéléseket, érvényesítsük szabályainkat, és szükség esetén a valós életben elérhető segítséget és beavatkozást is bevonjuk.
