Relatório de segurança da comunidade e novas proteções para adolescentes
O ChatGPT é um dos produtos de IA mais utilizados no mundo e temos investido no desenvolvimento de alguns dos sistemas mais avançados do setor para detetar potenciais danos, analisar atividades preocupantes e encaminhar ameaças credíveis para as instâncias competentes. Anunciamos duas novidades para aprofundar o nosso trabalho nesta área: um novo Relatório de Salvaguardas da Comunidade e mais restrições a conteúdos sobre armas de fogo para menores.
Manter as comunidades seguras continua a ser uma das principais prioridades da OpenAI. O nosso trabalho inclui alertar as autoridades policiais para ameaças iminentes de violência e comunicámos mais de 200 casos às autoridades policiais no T3 de 2026. Estas comunicações estão a ter um impacto(abre numa nova janela) positivo(abre numa nova janela) na interrupção de planos de violência, e continuamos a contar com especialistas em saúde mental e comportamento para nos ajudar a avaliar casos difíceis.
Reconhecemos que as empresas de IA têm um papel específico a desempenhar a par das autoridades policiais, dos familiares, dos profissionais de saúde mental e dos responsáveis pela definição de políticas, cuja autoridade, conhecimento do contexto e capacidade de intervenção no mundo real são essenciais. Estamos empenhados em tirar o máximo partido desse papel, reforçando continuamente os nossos sistemas, partilhando o que aprendemos e trabalhando diretamente com quem está em melhores condições para agir no mundo real.
Reforçamos constantemente as medidas que tomamos para ajudar a proteger as pessoas e as comunidades. Isto implica criar salvaguardas sólidas e também ser transparentes quanto à sua eficácia e ao que fazemos para as melhorar. Queremos dar às pessoas uma visão clara da nossa abordagem, da forma como os nossos modelos identificam e respondem a comportamentos prejudiciais, dos riscos que observamos na prática e das medidas que tomamos para lhes dar resposta.
Comprometemo-nos a lançar o Relatório de Segurança da Comunidade, que abordará a prevenção da violência e outras questões de segurança das comunidades, bem como a eficácia das nossas salvaguardas. O relatório explicará como treinamos os nossos sistemas para detetar, investigar e responder a questões de segurança das comunidades. Partilharemos exemplos anonimizados de como se manifestam os danos associados à violência e do que estamos a aprender, destacaremos novas medidas de mitigação e alterações às políticas e incluiremos dados relevantes que sustentem estas conclusões.
Publicaremos o nosso primeiro relatório no início de 2027, abrangendo o segundo semestre de 2026, com atualizações semestrais a partir dessa altura. O nosso compromisso é partilhar conclusões relevantes sobre a forma como identificamos, analisamos e respondemos a conteúdos potencialmente prejudiciais.
Os nossos modelos são treinados para não dar instruções que ajudem alguém a planear ou a praticar atos de violência. Estamos agora a impor restrições adicionais à forma como o ChatGPT responde a perguntas sobre ataques em massa ocorridos no passado e as pessoas que os perpetraram, orientando o modelo para fornecer informações menos detalhadas sobre esses temas, mesmo que estejam disponíveis noutras fontes online. As pessoas devem poder pedir ao ChatGPT que as ajude a compreender estes acontecimentos e o impacto que tiveram nas vítimas e nas comunidades, bem como a aprender a reconhecer sinais de alerta e a prevenir futuros atos de violência. No entanto, estamos a tornar as nossas políticas mais rigorosas para restringir reconstituições de ataques em massa ocorridos no passado, incluindo pormenores sobre as armas e o equipamento utilizados e a forma como foram obtidos, bem como comparações detalhadas da dimensão dos danos que possam aumentar a notoriedade de um atacante. Estes limites aplicam-se independentemente da idade do utilizador ou do motivo da pergunta.
Por vezes, um pedido que, isoladamente, parece comum adquire um significado diferente à luz de uma conversa anterior. Em maio, partilhámos como o ChatGPT pode usar resumos breves e factuais de sinais de alerta anteriores para responder com mais cuidado numa conversa posterior. Estamos a aprofundar esse trabalho para que, quando as conversas recentes revelarem sinais de alerta de possível violência, o ChatGPT seja mais cauteloso ao partilhar informações que possam ser utilizadas indevidamente. Estamos também a trabalhar para aplicar esses limites mais rigorosos quando prevemos que alguém tem menos de 18 anos, mesmo que as suas conversas não revelem sinais de intenção violenta.
Banimos as contas que, segundo a nossa avaliação, tenham violado as nossas políticas relativas a atividades violentas. Estamos também a trabalhar com especialistas em saúde mental e prevenção da violência em formas adicionais e automatizadas de intervir mais cedo. Quando uma conversa revelar sinais de que alguém está a desenvolver uma fixação pela violência ou pela ideia de causar danos graves a outra pessoa, o ChatGPT poderá terminar automaticamente a conversa para interromper esse padrão naquele momento. Se o ChatGPT terminar várias conversas por esse motivo, poderemos suspender temporariamente a conta. Este é um esforço contínuo e continuamos a reforçar e a investir em proteções técnicas e práticas, incluindo formas de reconhecer sinais de alerta de maneira fiável e determinar quando e como intervir.
O ChatGPT para adolescentes aplica salvaguardas adequadas à idade dos utilizadores com menos de 18 anos, com proteções reforçadas e limites adicionais para reduzir a exposição a conteúdos sensíveis. Estamos agora a impor novos limites às informações sobre armas que os adolescentes podem receber, mesmo quando uma pergunta parece inofensiva.
As nossas políticas já proíbem ajudar qualquer pessoa a planear ou a praticar atos de violência e restringem a ajuda a adolescentes para encontrar ou obter armas. Estamos a alargar essas proteções para restringir informações práticas sobre armas e sistemas de segurança que possam ser utilizadas indevidamente para facilitar atos de violência, mesmo quando não há sinais de intenção violenta. Os adolescentes podem continuar a usar o ChatGPT para ajudar a prevenir e a reduzir a escalada da violência, procurar apoio e entrar em contacto com um adulto de confiança.
No ano passado, lançámos a previsão de idade, que analisa vários sinais, como padrões de comportamento, para estimar se um utilizador poderá ter menos ou mais de 18 anos. Reforçámos o nosso sistema de previsão de idade para avaliar continuamente novos sinais à medida que as pessoas utilizam o ChatGPT e, quando adequado, passar os adolescentes para a experiência destinada a menores de 18 anos. Os utilizadores que sejam incorretamente colocados na experiência para menores de 18 anos poderão sempre confirmar que são adultos e remover as proteções adicionais para adolescentes de forma rápida e com proteção da privacidade, através da Persona, a nossa parceira de verificação de idade.
Os nossos controlos parentais permitem aos pais associar as suas contas do ChatGPT às dos filhos adolescentes e gerir em conjunto as definições de segurança. As contas associadas incluem alertas de segurança que podem ser enviados quando revisores com formação específica identificam uma preocupação grave relacionada com autolesão e comportamentos que possam estar associados a padrões alimentares desregulados. Em julho, alargámos esses alertas para notificar os pais caso a conta do filho adolescente tenha sido desativada por violar as nossas políticas de utilização relativas à violência. Estamos a trabalhar para introduzir notificações aos pais caso suspendamos a conta do filho adolescente por abordar repetidamente a violência, conforme detalhado acima.
Os atos de violência no mundo real são devastadores e complexos, com muitos fatores que contribuem para a sua ocorrência. São também um lembrete contundente de que temos de continuar a conceber e a aperfeiçoar os nossos sistemas para ter em conta as realidades inerentemente complexas do comportamento humano. Desenvolver salvaguardas eficazes contra a violência em sistemas de IA exige resolver novos problemas no reconhecimento de riscos e na resposta adequada aos mesmos, e continuaremos a investir, a aperfeiçoar soluções e a partilhar o que aprendemos sobre a melhor forma de implementar as proteções em que estamos a trabalhar. As salvaguardas aqui descritas começarão a ser implementadas nas próximas semanas e continuaremos a aperfeiçoá-las. Mantemos o nosso compromisso de mitigar os riscos de danos no ChatGPT, reforçar as nossas várias camadas de proteção, monitorizar a utilização indevida, fazer cumprir as nossas regras e recorrer a apoio e a intervenções no mundo real quando as situações o exigirem.
