Relatório de segurança da comunidade e novas proteções para adolescentes

O ChatGPT é um dos produtos de IA mais usados no mundo, e temos investido na criação de alguns dos sistemas mais avançados do setor para detectar possíveis danos, analisar atividades preocupantes e encaminhar casos de ameaças consideradas críveis. Estamos fazendo dois anúncios para avançar nosso trabalho nessa área: um novo Relatório de salvaguardas da comunidade e mais restrições ao conteúdo relacionado a armas de fogo para menores de idade.

Manter as comunidades seguras⁠ continua sendo uma das principais prioridades da OpenAI. Nosso trabalho inclui levar ameaças iminentes de violência ao conhecimento das autoridades policiais, e fizemos mais de 200 encaminhamentos às autoridades policiais no 3º trimestre de 2026. Esses encaminhamentos estão contribuindo de forma positiva⁠(abre em uma nova janela) para fazer a diferença⁠(abre em uma nova janela) na interrupção de planos violentos, e continuamos contando com especialistas em saúde mental e comportamento para nos ajudar a avaliar casos difíceis.

Reconhecemos que as empresas de IA têm um papel específico a desempenhar ao lado das autoridades policiais, dos familiares, dos profissionais de saúde mental e dos formuladores de políticas públicas, que contribuem com a autoridade, o contexto e a capacidade de atuação no mundo real fundamentais para esse trabalho. Estamos comprometidos em aproveitar ao máximo esse papel, fortalecendo continuamente nossos sistemas, compartilhando o que aprendemos e trabalhando diretamente com quem está em melhores condições de agir no mundo real.

Estamos constantemente reforçando as medidas que adotamos para ajudar a proteger pessoas e comunidades. Isso significa criar salvaguardas robustas e também ser transparentes sobre a eficácia delas e sobre o que estamos fazendo para aprimorá-las. Queremos oferecer às pessoas uma visão clara da nossa abordagem, de como nossos modelos identificam e respondem a comportamentos nocivos, dos riscos que observamos na prática e das medidas que adotamos para enfrentá-los.

Estamos nos comprometendo a lançar o Relatório de segurança da comunidade sobre prevenção da violência e outras questões de segurança da comunidade, além da eficácia de nossas medidas de proteção. O relatório explicará como treinamos nossos sistemas para detectar, investigar e responder a questões de segurança da comunidade. Compartilharemos exemplos anonimizados de como os danos relacionados à violência se manifestam e do que estamos aprendendo, destacaremos novas medidas de mitigação e mudanças nas políticas e incluiremos dados relevantes para embasar essas conclusões.

Publicaremos nosso primeiro relatório no início de 2027, abrangendo o segundo semestre de 2026, e depois faremos atualizações a cada seis meses. Nosso compromisso é compartilhar conclusões relevantes sobre como identificamos, analisamos e respondemos a conteúdos potencialmente prejudiciais.

Nossos modelos são treinados para não fornecer instruções que ajudem alguém a planejar ou cometer atos de violência. Agora, estamos impondo restrições adicionais à forma como o ChatGPT responde a perguntas sobre ataques em massa ocorridos no passado e as pessoas que os cometeram, orientando o modelo a fornecer informações menos detalhadas sobre esses assuntos, mesmo que estejam disponíveis em outras fontes on-line. As pessoas devem poder pedir ao ChatGPT que as ajude a entender esses acontecimentos, como as vítimas e as comunidades foram afetadas, e a aprender a reconhecer sinais de alerta e prevenir futuros atos de violência. Mas estamos tornando nossas políticas mais rigorosas para restringir reconstruções de ataques em massa ocorridos no passado, incluindo detalhes sobre as armas e os equipamentos usados e como foram obtidos, além de comparações detalhadas sobre a dimensão dos danos que poderiam aumentar a notoriedade de um agressor. Esses limites se aplicam independentemente da idade do usuário ou do motivo da pergunta.

Às vezes, um pedido que parece comum quando considerado isoladamente ganha outro significado à luz de uma conversa anterior. Em maio, mostramos como o ChatGPT pode usar resumos breves e factuais⁠ de sinais de alerta anteriores para responder com mais cuidado em uma conversa posterior. Estamos ampliando esse trabalho para que, quando conversas recentes apresentarem sinais de alerta de possível violência, o ChatGPT seja mais cauteloso ao compartilhar informações que possam ser usadas indevidamente. Também estamos trabalhando para aplicar esses limites mais rigorosos quando estimamos que alguém tem menos de 18 anos, mesmo que suas conversas não apresentem sinais de intenção violenta.

Banimos contas que, conforme nossa avaliação, violaram nossas políticas sobre atividades violentas⁠. Também estamos trabalhando com especialistas em saúde mental e prevenção da violência para encontrar maneiras adicionais e automatizadas de intervir mais cedo. Quando uma conversa apresentar sinais de que alguém está desenvolvendo uma fixação por violência ou pela ideia de ferir gravemente outra pessoa, o ChatGPT poderá encerrar a conversa automaticamente para interromper esse padrão no momento em que ele ocorre. Se o ChatGPT encerrar várias conversas por esse motivo, poderemos suspender temporariamente a conta. Esse é um esforço contínuo, e continuamos a fortalecer as proteções técnicas e práticas e a investir nelas, inclusive em como reconhecer sinais de alerta de forma confiável e determinar quando e como intervir.

O ChatGPT para adolescentes⁠ aplica medidas de segurança adequadas à idade para usuários menores de 18 anos, com proteções reforçadas e limites adicionais para reduzir a exposição a conteúdo sensível. Agora estamos estabelecendo limites adicionais às informações relacionadas a armas que adolescentes podem receber, mesmo quando uma pergunta parece inofensiva. 

Nossas políticas já proíbem ajudar qualquer pessoa a planejar ou praticar atos de violência e restringem a ajuda para que adolescentes encontrem ou obtenham armas. Estamos ampliando essas proteções para restringir informações práticas sobre armas e sistemas de segurança que poderiam ser usadas indevidamente para facilitar a violência, mesmo quando não há sinais de intenção violenta. Adolescentes ainda podem usar o ChatGPT para ajudar a prevenir a violência e evitar que ela se intensifique, buscar apoio e entrar em contato com um adulto de confiança. 

No ano passado, lançamos a previsão de idade⁠, que analisa diversos sinais, como padrões de comportamento, para estimar se um usuário tem menos de 18 anos ou já atingiu essa idade. Aprimoramos nosso sistema de previsão de idade para avaliar continuamente novos sinais à medida que as pessoas usam o ChatGPT e transferir adolescentes para a experiência para menores de 18 anos quando apropriado. Os usuários incluídos por engano na experiência para menores de 18 anos sempre terão uma maneira rápida e que protege a privacidade de confirmar que são adultos e remover as proteções adicionais para adolescentes por meio da Persona, nossa parceira de verificação de idade. 

Nossos controles parentais⁠ permitem que pais e mães vinculem suas contas do ChatGPT às de seus filhos adolescentes e gerenciem juntos as configurações de segurança. As contas vinculadas incluem alertas de segurança⁠, que podem ser enviados quando revisores com treinamento específico identificam um risco grave de autolesão e comportamentos que podem estar associados à alimentação desordenada. Em julho, ampliamos esses alertas para notificar pais e mães caso a conta de seu filho adolescente tenha sido desativada por violar nossas políticas de uso relacionadas à violência. Estamos trabalhando para introduzir notificações para pais e mães caso suspendamos temporariamente a conta de seu filho adolescente por conversar repetidamente sobre violência, conforme detalhado acima.

Atos de violência no mundo real são devastadores e complexos, e resultam de muitos fatores. Eles também são um lembrete contundente de que precisamos continuar desenvolvendo e aprimorando nossos sistemas para levar em conta a complexidade inerente ao comportamento humano. Desenvolver salvaguardas eficazes contra a violência em sistemas de IA exige resolver desafios inéditos para reconhecer riscos e responder de forma adequada, e continuaremos investindo nessas salvaguardas e aprimorando-as, além de compartilhar aprendizados  sobre as melhores formas de implementar as proteções que estamos buscando. As salvaguardas detalhadas aqui começarão a ser implementadas nas próximas semanas, e continuaremos a aprimorá-las. Continuamos comprometidos em reduzir os riscos de danos no ChatGPT, fortalecer nossas camadas de proteção, monitorar usos indevidos, fazer cumprir nossas regras e recorrer a apoio e intervenções no mundo real quando a situação exigir.