Raport privind siguranța comunității și noi măsuri de protecție pentru adolescenți

ChatGPT este unul dintre cele mai utilizate produse de inteligență artificială din lume, iar noi am investit în dezvoltarea unora dintre cele mai avansate sisteme din domeniu pentru detectarea potențialelor pericole, analizarea activităților îngrijorătoare și semnalarea amenințărilor credibile. Anunțăm două măsuri prin care ne continuăm activitatea în acest domeniu: un nou Raport privind siguranța comunității și restricții suplimentare privind conținutul despre arme de foc destinat minorilor.

Menținerea siguranței comunităților⁠ rămâne o prioritate majoră pentru OpenAI. Activitatea noastră include aducerea amenințărilor iminente de violență în atenția autorităților de aplicare a legii, iar am transmis peste 200 de sesizări către autoritățile de aplicare a legii în T3 2026. Aceste sesizări au un efect⁠(se deschide într-o fereastră nouă) pozitiv⁠(se deschide într-o fereastră nouă) asupra perturbării comploturilor violente, iar noi continuăm să ne bazăm pe experți în sănătate mintală și comportament pentru a ne ajuta să evaluăm cazurile dificile.

Recunoaștem că societățile din domeniul inteligenței artificiale au un rol distinct de jucat alături de organele de aplicare a legii, membrii familiei, specialiștii în sănătate mintală și factorii de decizie, care contribuie cu autoritatea, înțelegerea contextului și capacitatea de a acționa în lumea reală, esențiale în aceste situații. Ne angajăm să valorificăm pe deplin acest rol, consolidându-ne continuu sistemele, împărtășind ceea ce învățăm și colaborând direct cu cei mai în măsură să acționeze în lumea reală.

Consolidăm constant măsurile pe care le luăm pentru a contribui la protejarea persoanelor și a comunităților. Aceasta înseamnă să construim măsuri solide de siguranță, dar și să fim transparenți în privința eficienței lor și a acțiunilor prin care le îmbunătățim. Vrem să le oferim oamenilor o imagine clară asupra abordării noastre, asupra modului în care modelele noastre identifică comportamentele dăunătoare și răspund la ele, asupra riscurilor pe care le observăm în practică și asupra măsurilor pe care le luăm pentru a le aborda.

Ne angajăm să lansăm Raportul privind siguranța comunității, dedicat prevenirii violenței și altor aspecte legate de siguranța comunității, precum și eficacității măsurilor noastre de protecție. Raportul va explica modul în care ne antrenăm sistemele să detecteze, să investigheze și să gestioneze problemele legate de siguranța comunității. Vom prezenta exemple anonimizate despre felul în care se manifestă prejudiciile asociate violenței și despre ce învățăm, vom evidenția noi măsuri de reducere a riscurilor și modificări ale politicilor și vom include date relevante care să susțină aceste constatări.

Vom publica primul nostru raport la începutul lui 2027, care va acoperi a doua jumătate a anului 2026, iar apoi vom publica actualizări la fiecare șase luni. Ne angajăm să împărtășim concluzii relevante despre modul în care identificăm, analizăm și gestionăm conținutul potențial dăunător.

Modelele noastre sunt antrenate să nu ofere instrucțiuni care ar ajuta pe cineva să planifice sau să comită acte de violență. Acum introducem restricții suplimentare privind modul în care ChatGPT răspunde la întrebări despre atacuri în masă din trecut și autorii lor, indicând modelului să ofere informații mai puțin detaliate despre aceste subiecte, chiar dacă acestea sunt disponibile din alte surse online. Oamenii ar trebui să poată cere ajutorul ChatGPT pentru a înțelege aceste evenimente și impactul lor asupra victimelor și comunităților, precum și pentru a afla cum să recunoască semnalele de alarmă și să prevină acte de violență viitoare. Însă ne înăsprim politicile pentru a restricționa reconstituirile atacurilor în masă din trecut, inclusiv detaliile despre armele și echipamentele folosite și modul în care au fost obținute, precum și comparațiile detaliate privind amploarea daunelor provocate, care ar putea amplifica notorietatea unui atacator. Aceste limite se aplică indiferent de vârsta utilizatorului sau de motivul întrebării.

Uneori, o solicitare care pare obișnuită, luată separat, capătă un alt sens în contextul unei conversații anterioare. În mai, am explicat cum ChatGPT poate folosi rezumate scurte și factuale⁠ ale semnalelor de alarmă anterioare pentru a răspunde cu mai multă precauție într-o conversație ulterioară. Continuăm această activitate astfel încât, atunci când conversațiile recente prezintă semnale de alarmă privind posibile acte de violență, ChatGPT să fie mai rezervat în furnizarea informațiilor care ar putea fi folosite abuziv. Lucrăm și la aplicarea acestor limite mai stricte atunci când estimăm că o persoană are sub 18 ani, chiar dacă discuțiile sale nu prezintă semne de intenție violentă.

Blocăm conturile despre care stabilim că ne-au încălcat politicile privind activitățile violente⁠. De asemenea, colaborăm cu experți în sănătate mintală și prevenirea violenței pentru a găsi modalități suplimentare, automatizate, de a interveni mai devreme. Atunci când o conversație prezintă semne că cineva dezvoltă o obsesie pentru violență sau pentru ideea de a răni grav o altă persoană, ChatGPT va putea încheia automat conversația pentru a întrerupe pe loc acel model de comportament. Dacă ChatGPT încheie mai multe conversații din acest motiv, este posibil să suspendăm temporar contul. Acesta este un efort continuu și continuăm să consolidăm măsurile de protecție tehnice și practice și să investim în ele, inclusiv în modalități de a recunoaște fiabil semnalele de avertizare și de a stabili când și cum să intervenim.

ChatGPT pentru adolescenți⁠ aplică măsuri de siguranță adecvate vârstei pentru utilizatorii sub 18 ani, cu protecții mai stricte și limite suplimentare pentru a reduce expunerea la conținut sensibil. Acum impunem limite suplimentare asupra informațiilor despre arme pe care le pot primi adolescenții, chiar și atunci când o întrebare pare inofensivă. 

Politicile noastre interzic deja să ajutăm pe oricine să planifice sau să comită acte de violență și restricționează ajutorul oferit adolescenților pentru a găsi sau obține arme. Extindem aceste măsuri de protecție pentru a restricționa furnizarea de informații practice despre arme și sisteme de securitate care ar putea fi folosite abuziv pentru a facilita violența, chiar și atunci când nu există indicii privind o intenție violentă. Adolescenții pot folosi în continuare ChatGPT pentru a ajuta la prevenirea și dezamorsarea violenței, pentru a cere sprijin și pentru a lua legătura cu un adult de încredere. 

Anul trecut am lansat funcția de estimare a vârstei⁠, care analizează mai multe indicii, precum modelele de comportament, pentru a estima dacă un utilizator are sub sau peste 18 ani. Am îmbunătățit sistemul nostru de estimare a vârstei pentru a evalua continuu noi indicii pe măsură ce oamenii folosesc ChatGPT și pentru a trece adolescenții la experiența pentru cei sub 18 ani atunci când este cazul. Utilizatorii cărora li se atribuie în mod eronat experiența pentru cei sub 18 ani vor avea întotdeauna la dispoziție o modalitate rapidă, care le protejează confidențialitatea, de a confirma că sunt adulți și de a elimina protecțiile suplimentare pentru adolescenți, prin Persona, partenerul nostru pentru verificarea vârstei. 

Prin controalele parentale⁠, părinții își pot conecta conturile ChatGPT la conturile adolescenților lor și pot gestiona împreună setările de siguranță. Conturile conectate includ alerte de siguranță⁠, care pot fi trimise atunci când evaluatorii instruiți special identifică un risc grav de autovătămare și comportamente care pot fi asociate cu alimentația dezordonată. În iulie, am extins aceste alerte pentru a-i anunța pe părinți dacă a fost dezactivat contul adolescentului lor din cauza încălcării politicilor noastre de utilizare referitoare la violență. Lucrăm la introducerea unor notificări pentru părinți în cazul în care suspendăm temporar contul adolescentului lor din cauza discuțiilor repetate despre violență, după cum se detaliază mai sus.

Actele de violență din lumea reală sunt sfâșietoare și complexe, fiind rezultatul mai multor factori. Acestea ne reamintesc, totodată, în mod dureros, că trebuie să continuăm să ne proiectăm și să ne perfecționăm sistemele ținând cont de complexitatea inerentă a comportamentului uman. Dezvoltarea unor măsuri de protecție eficiente împotriva violenței în sistemele de inteligență artificială presupune rezolvarea unor probleme noi legate de recunoașterea riscurilor și de răspunsul adecvat, iar noi vom continua să investim, să le perfecționăm și să împărtășim ceea ce învățăm  cu privire la cele mai bune modalități de implementare a măsurilor de protecție pe care le urmărim. Ne menținem angajamentul de a reduce riscurile de vătămare în ChatGPT, de a consolida protecțiile pe mai multe niveluri, de a monitoriza utilizările abuzive, de a aplica regulile noastre și de a apela la sprijin și intervenții în lumea reală atunci când situația o cere.