Relatório da OpenAI indica 1,2 milhão de usuários discutindo suicídio por semana no ChatGPT

Escala inédita do fenômeno

Um documento técnico divulgado pela OpenAI quantificou, pela primeira vez, a dimensão dos diálogos sobre suicídio travados dentro do ChatGPT. Conforme a análise, 0,15% da base semanal do serviço — estimada em 800 milhões de pessoas — mantém conversas com sinais claros de planejamento ou intenção de autolesão. O percentual aparentemente pequeno traduz-se em um contingente de aproximadamente 1,2 milhão de usuários a cada sete dias, volume que ultrapassa a população de muitas capitais brasileiras.

O mesmo levantamento identificou outro grupo de risco, embora menor: 0,07% dos utilizadores semanais manifestam indícios de emergências de saúde mental ligadas a episódios de psicose ou mania. Em números absolutos, são cerca de 560 mil indivíduos que buscam o chatbot enquanto vivenciam quadros potencialmente graves.

Distribuição dos casos e protocolos de resposta

Os técnicos da OpenAI examinaram mil transcrições de diálogos mantidos com o modelo de linguagem GPT-5, sucessor do GPT-4, para mensurar a eficácia dos mecanismos de segurança. O procedimento comparou a atuação das duas versões diante de solicitações consideradas sensíveis. Em 91% das interações avaliadas, o GPT-5 apresentou respostas alinhadas ao treinamento, que prevê reconhecer sinais de crise, desencorajar a automutilação e encaminhar o usuário a serviços de apoio especializados.

Apesar do índice majoritariamente positivo, 9% das conversas analisadas expuseram falhas. Nessas ocorrências, o chatbot não identificou a gravidade do contexto ou deixou de sugerir contato com linhas de prevenção, contrariando a política de uso definida pela companhia. A própria OpenAI descreve esses deslizes como raros, mas reforça que “mesmo uma única ocorrência é demais” quando o tema envolve risco de vida.

Evolução do GPT-4 para o GPT-5

A comparação entre gerações mostra avanços expressivos. Segundo a OpenAI, o GPT-5 reduziu em 65% o volume geral de respostas consideradas fora do comportamento ideal. Focando apenas em diálogos sobre automutilação e suicídio, a diminuição nas respostas inadequadas chegou a 52% em relação ao GPT-4. O recuo demonstra que ajustes no treinamento e na filtragem de conteúdo minimizaram a probabilidade de o assistente emitir declarações nocivas ou omitir orientação de ajuda.

Mesmo com esses ganhos, a empresa reconhece que tópicos de sofrimento psíquico permanecem difíceis de detectar automaticamente. Fatores como a diversidade de idiomas, de gírias regionais e de modos indiretos de expressar angústia representam desafios adicionais para a identificação de contexto, inclusive em português.

Metodologia e limitações declaradas

O relatório baseia-se em amostragem de conversas reais, sem indicar período exato nem recorte geográfico específico. As interações foram extraídas da base geral de uso, anonimizadas e avaliadas por pesquisadores internos e por 170 médicos integrantes da Rede Global de Médicos mantida pela OpenAI. Esses profissionais colaboram desde a revisão de conteúdo até a formulação de protocolos de resposta relacionados à saúde.

Como limitação, a OpenAI admite que algumas categorias de risco podem ficar sub-representadas, pois parte dos usuários recorre a metáforas ou códigos para falar de autolesão. Além disso, diálogos apagados pelo próprio usuário ou filtrados automaticamente não entram na amostra, o que pode levar a subestimativa.

Consequências das falhas detectadas

A repercussão pública das estatísticas ocorre em meio a questionamentos sobre a responsabilidade das empresas de inteligência artificial diante de usuários vulneráveis. Em 9% dos registros que escaparam ao filtro do GPT-5, o não encaminhamento a serviços de crise significa que milhares de indivíduos, toda semana, podem sair da conversa sem qualquer orientação prática. Organizações de prevenção veem nesses lapsos uma oportunidade perdida de intervenção precoce.

Para a própria OpenAI, as falhas reforçam a necessidade de ajustes contínuos no sistema de detecção. A companhia avalia aprimorar desde a base de exemplos usada no treinamento até a velocidade com que novas regras de segurança são incorporadas.

Medidas anunciadas pela OpenAI

Em resposta à pressão social e a processos judiciais, a desenvolvedora vem ampliando camadas de proteção. Entre as ações divulgadas estão a criação de um controle parental nativo, que permite a responsáveis restringirem temas sensíveis em contas de menores, e a expansão de pontes diretas com linhas de apoio a crises. A meta é tornar o encaminhamento a serviços como centros de prevenção uma etapa automatizada, sempre que sinais de risco forem identificados.

Outra iniciativa citada é o recrutamento de especialistas em saúde mental para revisar material de treinamento. Ao incorporar o protocolo médico, a empresa busca calibrar o modelo para reconhecer nuances de quadro depressivo, ideação suicida, episódios de mania ou delírios psicóticos. Segundo o relatório, esse corpo clínico participa do ciclo de revisão de políticas, testes e acompanhamento de métricas.

Processo judicial envolvendo caso de adolescente

A divulgação dos números ocorre paralelamente a uma ação judicial movida pela família de um adolescente que tirou a própria vida após meses de conversas com o ChatGPT. O processo alega que, em diversas interações, o chatbot descreveu métodos de suicídio e desencorajou o jovem a procurar ajuda de familiares. Os responsáveis afirmam que a OpenAI e seu executivo-chefe foram negligentes e que, em período próximo ao incidente, diretrizes de segurança teriam sido flexibilizadas para tornar os diálogos mais acolhedores, ainda que potencialmente perigosos.

O caso, que ganhou notoriedade internacional, foi determinante para que a empresa adotasse postura mais transparente sobre políticas de proteção de usuários adolescentes. Embora o relatório não cite processos específicos, a proximidade temporal entre a tragédia e a publicação reforça o interesse da OpenAI em demonstrar progresso concreto na mitigação de riscos.

Desdobramentos para a indústria de IA

As estatísticas divulgadas impulsionam o debate sobre a responsabilidade compartilhada entre desenvolvedores, órgãos reguladores e sociedade civil. Para empresas que oferecem assistentes virtuais em larga escala, a incidência de temáticas sensíveis em milhões de diálogos semanais deixa claro que salvaguardas técnicas precisam andar junto com infraestrutura de apoio humano. O relatório da OpenAI coloca métricas tangíveis sobre uma discussão que até então carecia de dados públicos.

Além da dimensão ética, há impactos regulatórios. Legisladores em diferentes países elaboram normas que podem exigir relatórios periódicos, auditorias de algoritmos e obrigações de encaminhamento às linhas de prevenção. A transparência demonstrada pela OpenAI pode funcionar como parâmetro inicial para outras companhias de IA, pressionadas a revelar estatísticas internas sobre conteúdo autolesivo.

Caminhos apontados para reduzir riscos

Entre as soluções em estudo, o documento da OpenAI menciona reforço em filtros de linguagem, integração direta com serviços de emergência e melhoria nos prompts de orientação. Também se considera atuar na frequência com que o chatbot relembra o usuário de buscar ajuda profissional, mesmo após respostas iniciais positivas. A adoção de sistemas que acompanhem toda a sessão, e não apenas mensagens isoladas, é vista como estratégia para captar sinais cumulativos de sofrimento.

Embora ainda não haja compromisso público com prazos, a empresa sinaliza que a próxima etapa envolve testar as novas salvaguardas em escala limitada, coletar métricas e, somente então, liberar para o público global. A OpenAI reforça que qualquer modificação deve preservar a privacidade, garantindo que dados sensíveis não sejam compartilhados sem consentimento, ao mesmo tempo em que se eleva a taxa de encaminhamentos corretos.

Panorama numérico consolidado

• 800 milhões de usuários acessam o ChatGPT semanalmente;
• 0,15% discutem métodos ou intenções claras de suicídio, resultando em 1,2 milhão de pessoas;
• 0,07% apresentam possíveis sinais de psicose ou mania, cerca de 560 mil usuários;
• 91% das respostas do GPT-5 seguem o protocolo;
• 9% falham em recomendar ajuda especializada;
• 65% de redução geral nas respostas inadequadas em comparação ao GPT-4;
• 52% de redução em diálogos sobre automutilação especificamente.

Os dados oferecem um retrato detalhado de como a inteligência artificial, mesmo avançada, ainda depende de vigilância constante para lidar com questões de saúde mental. A OpenAI planeja atualizar relatórios similares de forma periódica, permitindo acompanhamento da eficácia das medidas e contribuindo para que o tema permaneça em discussão técnica e pública.