Skýrsla um öryggi samfélagsins og nýjar verndarráðstafanir fyrir unglinga

ChatGPT er ein af útbreiddustu gervigreindarvörum heims og við höfum fjárfest í að byggja upp einhver fullkomnustu kerfi greinarinnar til að greina mögulegan skaða, fara yfir varhugaverða virkni og vísa trúverðugum ógnum til viðeigandi aðila. Við tilkynnum tvennt til að efla starf okkar á þessu sviði: nýja skýrslu um öryggisráðstafanir samfélagsins og auknar takmarkanir á efni um skotvopn fyrir ólögráða einstaklinga.

Að halda samfélögum öruggum⁠ er áfram eitt helsta forgangsmál OpenAI. Starf okkar felur meðal annars í sér að vekja athygli lögreglu á yfirvofandi hættu á ofbeldi, og við sendum lögreglu yfir 200 tilkynningar á 3. ársfjórðungi 2026. Þessar tilkynningar hafa jákvæð⁠(opnast í nýjum glugga) áhrif⁠(opnast í nýjum glugga) á að koma í veg fyrir ofbeldisáform, og við reiðum okkur áfram á sérfræðinga í geðheilbrigði og atferli til að hjálpa okkur að meta erfið mál.

Við gerum okkur grein fyrir að fyrirtæki á sviði gervigreindar hafa sérstöku hlutverki að gegna samhliða löggæsluaðilum, fjölskyldumeðlimum, geðheilbrigðisstarfsfólki og stefnumótendum, sem búa yfir mikilvægum valdheimildum, þekkingu á aðstæðum og getu til að ná til fólks í raunheimum. Við erum staðráðin í að nýta þetta hlutverk sem best með því að styrkja kerfin okkar stöðugt, miðla því sem við lærum og vinna beint með þeim sem eru í bestri aðstöðu til að grípa til aðgerða í raunheimum.

Við eflum stöðugt þær ráðstafanir sem við grípum til til að vernda fólk og samfélög. Það felur í sér að byggja upp öflugar varnir en einnig að vera gagnsæ um hversu vel þær virka og hvað við gerum til að efla þær. Við viljum gefa fólki skýra mynd af nálgun okkar, því hvernig líkön okkar greina skaðlega hegðun og bregðast við henni, hvaða áhættu við sjáum í reynd og hvaða ráðstafanir við gerum til að bregðast við henni.

Við skuldbindum okkur til að gefa út skýrsluna Samfélagsöryggi um forvarnir gegn ofbeldi og önnur öryggismál samfélagsins, sem og virkni öryggisráðstafana okkar. Í skýrslunni verður útskýrt hvernig við þjálfum kerfin okkar til að greina, rannsaka og bregðast við öryggismálum samfélagsins. Við deilum nafnlausum dæmum um birtingarmyndir skaða af völdum ofbeldis og því sem við lærum, fjöllum um nýjar mótvægisaðgerðir og stefnubreytingar og birtum viðeigandi gögn til stuðnings þessum niðurstöðum.

Við birtum fyrstu skýrsluna okkar snemma árs 2027. Hún fjallar um seinni hluta ársins 2026 og eftir það birtum við uppfærslur á sex mánaða fresti. Við skuldbindum okkur til að deila marktækum niðurstöðum um hvernig við greinum, yfirförum og bregðumst við efni sem kann að vera skaðlegt.

Líkön okkar eru þjálfuð til að veita ekki leiðbeiningar sem gætu hjálpað einhverjum að skipuleggja eða fremja ofbeldi. Við setjum nú frekari takmarkanir á hvernig ChatGPT svarar spurningum um fyrri árásir á fjölda fólks og þá sem frömdu þær með því að beina líkaninu að því að veita síður ítarlegar upplýsingar um þessi efni, jafnvel þótt þær séu aðgengilegar annars staðar á netinu. Fólk á að geta beðið ChatGPT um að hjálpa sér að skilja þessa atburði og áhrif þeirra á þolendur og samfélög, auk þess að læra að þekkja viðvörunarmerki og fyrirbyggja ofbeldi í framtíðinni. Við erum hins vegar að herða reglurnar til að takmarka endurgerð fyrri árása á fjölda fólks, þar á meðal upplýsingar um vopn og búnað sem notuð voru og hvernig þeirra var aflað, og ítarlegan samanburð á umfangi skaða sem gæti aukið frægð árásarmanns. Þessar takmarkanir gilda óháð aldri notandans eða ástæðu þess að hann spyr.

Stundum fær beiðni sem virðist hversdagsleg ein og sér aðra merkingu í ljósi fyrra samtals. Í maí greindum við frá því hvernig ChatGPT getur notað stuttar, staðreyndamiðaðar samantektir⁠ um fyrri viðvörunarmerki til að svara af meiri varfærni í síðara spjalli. Við byggjum áfram á þeirri vinnu svo að ChatGPT gæti meiri varúðar við að miðla upplýsingum sem mætti misnota þegar nýleg spjöll sýna viðvörunarmerki um hugsanlegt ofbeldi. Við vinnum einnig að því að beita þessum strangari takmörkunum þegar við áætlum að notandi sé yngri en 18 ára, jafnvel þótt spjöll hans sýni engin merki um ásetning til ofbeldis.

Við lokum reikningum sem hafa að okkar mati brotið gegn reglum okkar um ofbeldishegðun⁠. Við vinnum einnig með sérfræðingum í geðheilbrigði og ofbeldisforvörnum að frekari sjálfvirkum leiðum til að grípa fyrr inn í. Þegar samtal ber þess merki að einhver sé farinn að einblína á ofbeldi eða hugmyndina um að skaða aðra manneskju alvarlega mun ChatGPT geta slitið spjallinu sjálfkrafa til að rjúfa það mynstur á staðnum. Ef ChatGPT slítur mörgum spjöllum af þessum sökum gætum við sett reikninginn tímabundið í hlé. Þetta er viðvarandi verkefni og við höldum áfram að efla tæknilegar og hagnýtar verndarráðstafanir og fjárfesta í þeim, þar á meðal leiðum til að greina viðvörunarmerki með áreiðanlegum hætti og ákvarða hvenær og hvernig eigi að grípa inn í.

ChatGPT fyrir unglinga⁠ beitir aldurssniðnum öryggisráðstöfunum fyrir notendur yngri en 18 ára, með aukinni vernd og frekari takmörkunum til að draga úr líkum á að þeir komist í snertingu við viðkvæmt efni. Nú setjum við frekari takmarkanir á upplýsingar um vopn sem unglingar geta fengið, jafnvel þótt spurning virðist saklaus. 

Reglur okkar banna nú þegar að aðstoða nokkurn við að skipuleggja eða fremja ofbeldisverk og setja skorður við því að aðstoða unglinga við að finna eða verða sér úti um vopn. Við útvíkkum þessa vernd þannig að hún takmarki einnig hagnýtar upplýsingar um vopn og öryggiskerfi sem gætu verið misnotaðar til að greiða fyrir ofbeldi, jafnvel þegar ekkert bendir til ofbeldisásetnings. Unglingar geta enn notað ChatGPT til að koma í veg fyrir ofbeldi og draga úr því, leita stuðnings og hafa samband við fullorðinn einstakling sem þeir treysta. 

Á síðasta ári tókum við í notkun aldursspá⁠ sem greinir ýmsar vísbendingar, svo sem hegðunarmynstur, til að meta hvort notandi sé yngri eða eldri en 18 ára. Við höfum eflt aldursspákerfið okkar þannig að það meti stöðugt nýjar vísbendingar eftir því sem fólk notar ChatGPT og færi unglinga yfir í útgáfuna fyrir yngri en 18 ára þegar við á. Notendur sem eru ranglega settir í útgáfuna fyrir yngri en 18 ára munu alltaf hafa aðgang að fljótlegri og persónuverndarmiðaðri leið til að staðfesta að þeir séu fullorðnir og fá viðbótarvernd fyrir unglinga aflétt í gegnum Persona, samstarfsaðila okkar í aldursstaðfestingu. 

Með foreldraeftirliti⁠ okkar geta foreldrar tengt ChatGPT‑reikninga sína við reikninga unglinganna sinna og stjórnað öryggisstillingum í sameiningu. Tengdir reikningar eru með öryggisviðvaranir⁠ sem kunna að vera sendar þegar sérþjálfaðir yfirferðaraðilar greina alvarlegar vísbendingar um sjálfsskaða og hegðun sem gæti tengst röskuðu mataræði. Í júlí útvíkkuðum við þessar viðvaranir þannig að foreldrar fái tilkynningu ef reikningi unglingsins þeirra hefur verið lokað vegna brota á notkunarreglum okkar um ofbeldi. Við vinnum að því að taka upp tilkynningar til foreldra ef við setjum reikning unglings þeirra tímabundið í hlé vegna endurtekinna umræðna um ofbeldi, eins og lýst er hér að ofan.

Ofbeldisverk í raunheimum eru harmþrungin og flókin, og margir þættir eiga þar hlut að máli. Þau minna okkur jafnframt óþyrmilega á að við verðum að halda áfram að hanna og endurbæta kerfin okkar með tilliti til þess hversu flókin mannleg hegðun er í eðli sínu. Til að þróa árangursríkar varnir gegn ofbeldi í gervigreindarkerfum þarf að leysa ný og óþekkt vandamál við að greina áhættu og bregðast við á viðeigandi hátt. Við munum áfram fjárfesta í þessum vörnum, þróa þær áfram og miðla reynslu  um hvernig best sé að innleiða þær verndarráðstafanir sem við stefnum að. Verndarráðstafanirnar sem lýst er hér munu byrja að koma til framkvæmda á næstu vikum og við munum halda áfram að þróa þær. Við erum áfram staðráðin í að draga úr hættu á skaða í ChatGPT, styrkja margþættar varnir okkar, fylgjast með misnotkun, framfylgja reglum okkar og fá viðeigandi aðila til að veita stuðning og grípa inn í í raunheimum þegar aðstæður kalla á það.