Yhteisön turvallisuusraportti ja uudet suojatoimet nuorille
ChatGPT on yksi maailman käytetyimmistä tekoälytuotteista, ja olemme panostaneet alan edistyksellisimpiin kuuluviin järjestelmiin, joilla tunnistetaan mahdollisia haittoja, arvioidaan huolestuttavaa toimintaa ja viedään uskottavat uhkat jatkokäsittelyyn. Kerromme kahdesta asiasta, joilla viemme työtämme tällä alueella eteenpäin: uudesta yhteisön suojatoimia käsittelevästä raportista ja ampuma-aseita koskevan sisällön lisärajoituksista alaikäisille.
Yhteisöjen turvallisuuden varmistaminen on edelleen OpenAI:n tärkeimpiä prioriteetteja. Työhömme kuuluu välittömien väkivallan uhkien saattaminen lainvalvontaviranomaisten tietoon, ja teimme yli 200 ilmoitusta lainvalvontaviranomaisille vuoden 2026 kolmannella neljänneksellä. Näillä ilmoituksilla on myönteinen(avautuu uudessa ikkunassa) vaikutus(avautuu uudessa ikkunassa) väkivaltaisten juonien torjuntaan, ja hyödynnämme edelleen mielenterveyden ja käyttäytymisen asiantuntijoita vaikeiden tapausten arvioinnissa.
Tiedostamme, että tekoäly-yrityksillä on oma erityinen roolinsa lainvalvontaviranomaisten, perheenjäsenten, mielenterveysalan ammattilaisten ja päättäjien rinnalla, sillä heillä on ratkaisevan tärkeää toimivaltaa, tilannetietoa ja mahdollisuuksia vaikuttaa käytännössä. Olemme sitoutuneet hyödyntämään tätä roolia parhaalla mahdollisella tavalla vahvistamalla järjestelmiämme jatkuvasti, jakamalla oppimaamme ja tekemällä suoraa yhteistyötä niiden kanssa, joilla on parhaat edellytykset toimia käytännössä.
Vahvistamme jatkuvasti toimia, joilla pyrimme suojelemaan ihmisiä ja yhteisöjä. Tämä tarkoittaa vahvojen suojatoimien rakentamista sekä avoimuutta siitä, miten hyvin ne toimivat ja mitä teemme niiden tehostamiseksi. Haluamme antaa ihmisille selkeän kuvan lähestymistavastamme; siitä, miten mallimme tunnistavat haitallista käyttäytymistä ja reagoivat siihen; käytännössä havaitsemistamme riskeistä; sekä toimista, joilla puutumme niihin.
Sitoudumme julkaisemaan yhteisön turvallisuusraportin, joka käsittelee väkivallan ehkäisyä ja muita yhteisön turvallisuuteen liittyviä kysymyksiä sekä suojatoimiemme tehokkuutta. Raportissa kerrotaan, miten koulutamme järjestelmiämme havaitsemaan ja tutkimaan yhteisön turvallisuuteen liittyviä ongelmia sekä reagoimaan niihin. Jaamme anonymisoituja esimerkkejä siitä, miten väkivaltaan liittyvät haitat ilmenevät ja mitä opimme; tuomme esiin uusia riskien lieventämistoimia ja käytäntömuutoksia; sekä sisällytämme raporttiin olennaista dataa näiden havaintojen tueksi.
Julkaisemme ensimmäisen raporttimme vuoden 2027 alussa. Raportti käsittelee vuoden 2026 jälkipuoliskoa, ja sen jälkeen julkaisemme päivityksiä kuuden kuukauden välein. Olemme sitoutuneet jakamaan merkityksellisiä havaintoja siitä, miten tunnistamme ja arvioimme mahdollisesti haitallista sisältöä ja miten reagoimme sellaiseen.
Mallimme on koulutettu olemaan antamatta ohjeita, jotka auttaisivat jotakuta suunnittelemaan väkivaltaa tai toteuttamaan sitä. Asetamme nyt lisärajoituksia sille, miten ChatGPT vastaa aiempia joukkoväkivallantekoja ja niiden tekijöitä koskeviin kysymyksiin, ja ohjaamme mallia antamaan näistä aiheista vähemmän yksityiskohtaista tietoa, vaikka sitä olisi saatavilla muista verkkolähteistä. Ihmisten pitäisi voida pyytää ChatGPT:ltä apua näiden tapahtumien ja niiden uhrien ja yhteisöjen kokemien vaikutusten ymmärtämiseen sekä tietoa varoitusmerkkien tunnistamisesta ja tulevan väkivallan ehkäisemisestä. Tiukennamme kuitenkin käytäntöjämme rajoittaaksemme aiempien joukkoväkivallantekojen rekonstruointeja, mukaan lukien tietoja käytetyistä aseista ja varusteista sekä siitä, miten ne hankittiin, ja vahingon laajuuden yksityiskohtaisia vertailuja, jotka voisivat lisätä hyökkääjän tunnettuutta. Nämä rajoitukset koskevat käyttäjiä heidän iästään tai kysymisen syystä riippumatta.
Joskus yksinään tavalliselta vaikuttava pyyntö saa aiemman keskustelun valossa toisen merkityksen. Kerroimme toukokuussa, miten ChatGPT voi hyödyntää lyhyitä, tosiasioihin perustuvia yhteenvetoja aiemmista varoitusmerkeistä vastatakseen varovaisemmin myöhemmässä keskustelussa. Jatkamme tätä työtä niin, että kun viimeaikaisissa keskusteluissa ilmenee varoitusmerkkejä mahdollisesta väkivallasta, ChatGPT suhtautuu varovaisemmin sellaisen tiedon jakamiseen, jota voitaisiin käyttää väärin. Pyrimme myös soveltamaan näitä tiukempia rajoituksia silloin, kun arvioimme käyttäjän olevan alle 18-vuotias, vaikka hänen keskusteluissaan ei näkyisi merkkejä väkivaltaisista aikeista.
Suljemme tilit, joiden toteamme rikkoneen väkivaltaista toimintaa koskevia käytäntöjämme. Kehitämme myös mielenterveyden ja väkivallan ehkäisyn asiantuntijoiden kanssa uusia, automatisoituja tapoja puuttua tilanteisiin aiemmin. Kun keskustelussa ilmenee merkkejä siitä, että käyttäjä takertuu väkivaltaan tai ajatukseen toisen ihmisen vakavasta vahingoittamisesta, ChatGPT pystyy jatkossa päättämään keskustelun automaattisesti katkaistakseen kierteen heti. Jos ChatGPT päättää useita keskusteluja tästä syystä, saatamme keskeyttää tilin käytön tilapäisesti. Tämä työ on jatkuvaa, ja vahvistamme edelleen teknisiä ja käytännön suojatoimia sekä investoimme niihin. Tähän kuuluu myös varoitusmerkkien luotettavan tunnistamisen kehittäminen sekä sen määrittäminen, milloin ja miten tilanteisiin puututaan.
Nuorten ChatGPT suojaa alle 18-vuotiaita ikätasoon sopivilla turvatoimilla, joihin kuuluu vahvempia suojauksia ja lisärajoituksia arkaluonteiselle sisällölle altistumisen vähentämiseksi. Rajoitamme nyt entisestään nuorten saamia aseisiin liittyviä tietoja, vaikka kysymys vaikuttaisi harmittomalta.
Käytäntömme kieltävät jo auttamasta ketään suunnittelemaan tai toteuttamaan väkivaltaa ja rajoittavat nuorten auttamista aseiden löytämisessä tai hankkimisessa. Laajennamme näitä suojatoimia rajoittamalla käytännön tietoja aseista ja turvajärjestelmistä, joita voitaisiin käyttää väärin väkivallan helpottamiseen, vaikka väkivaltaisesta aikomuksesta ei olisi merkkejä. Nuoret voivat silti käyttää ChatGPT:tä väkivallan ehkäisemiseen ja liennyttämiseen, tuen hakemiseen ja yhteyden ottamiseen luotettavaan aikuiseen.
Otimme viime vuonna käyttöön iän ennakoinnin, joka arvioi useiden signaalien, kuten käyttäytymismallien, perusteella, onko käyttäjä mahdollisesti alle vai yli 18-vuotias. Vahvistimme iän ennakointijärjestelmäämme, jotta se arvioi jatkuvasti uusia signaaleja ihmisten käyttäessä ChatGPT:tä ja siirtää nuoret tarvittaessa alle 18-vuotiaiden käyttökokemukseen. Käyttäjillä, jotka on virheellisesti ohjattu alle 18-vuotiaiden käyttökokemukseen, on aina nopea ja yksityisyyttä suojaava tapa vahvistaa täysi-ikäisyytensä ja poistaa nuorten lisäsuojaukset ikävarmennuskumppanimme Personan kautta.
Käytönvalvonnan avulla vanhemmat voivat yhdistää oman ChatGPT‑tilinsä nuorensa tiliin ja hallita turvallisuusasetuksia yhdessä hänen kanssaan. Yhdistettyihin tileihin sisältyy turvallisuusilmoituksia, joita voidaan lähettää, kun tehtävään erikseen koulutetut arvioijat havaitsevat vakavan huolen itsensä vahingoittamisesta ja käyttäytymistä, joka voi liittyä häiriintyneeseen syömiseen. Laajensimme ilmoituksia heinäkuussa niin, että vanhemmille ilmoitetaan myös, jos nuoren tili on poistettu käytöstä väkivaltaa koskevien käyttökäytäntöjemme rikkomisen vuoksi. Valmistelemme vanhemmille lähetettävien ilmoitusten käyttöönottoa tilanteisiin, joissa keskeytämme nuoren tilin käytön edellä kuvatulla tavalla toistuvien väkivaltaa koskevien keskustelujen vuoksi.
Todelliset väkivallanteot ovat sydäntäsärkeviä ja monimutkaisia tapahtumia, joiden taustalla vaikuttaa monia tekijöitä. Ne ovat myös vakava muistutus siitä, että meidän on jatkuvasti suunniteltava ja kehitettävä järjestelmiämme niin, että ne ottavat huomioon ihmisten käyttäytymisen monimutkaisuuden. Tehokkaiden väkivallan suojatoimien kehittäminen tekoälyjärjestelmiin edellyttää uusien haasteiden ratkaisemista riskien tunnistamisessa ja asianmukaisessa reagoinnissa. Jatkamme investoimista tähän työhön, suojatoimien kehittämistä ja oppien jakamista siitä, miten tavoittelemamme suojatoimet voidaan toteuttaa parhaalla mahdollisella tavalla. Tässä kuvatut suojatoimet otetaan käyttöön lähiviikkoina, ja jatkamme niiden kehittämistä. Olemme edelleen sitoutuneet vähentämään haittojen riskiä ChatGPT:ssä, vahvistamaan monitasoisia suojauksiamme, valvomaan väärinkäyttöä, valvomaan sääntöjemme noudattamista sekä turvautumaan palvelun ulkopuoliseen tukeen ja toimenpiteisiin tilanteen niin vaatiessa.
