OpenAI lança conselho de bem-estar para uso seguro de IA

OpenAI conselho de bem-estar é a aposta da empresa para reforçar a segurança de crianças e adolescentes que interagem com seus sistemas de inteligência artificial, depois de acusações de que o ChatGPT teria facilitado um caso de suicídio.

A companhia anunciou a formação de um grupo multidisciplinar que reúne médicos, psicólogos e pesquisadores de universidades como Oxford e Stanford, além de profissionais do Hospital Infantil de Boston. O objetivo é revisar políticas, sugerir melhorias e estabelecer diretrizes capazes de prevenir danos emocionais durante conversas prolongadas com a IA.

OpenAI lança conselho de bem-estar para uso seguro de IA

Entre os integrantes estão David Bickham, especialista em saúde mental infantil, e Mathilde Cerioli, da organização Everyone.AI, que estuda o impacto da tecnologia no desenvolvimento cognitivo de jovens. A missão inicial do Conselho é analisar o ChatGPT e o Sora — app de vídeos curtos — para definir limites de interação, mensagens de alerta e recursos de apoio aos pais.

A iniciativa chega em meio a uma crescente pressão regulatória. A Federal Trade Commission (FTC) mantém investigação sobre possíveis violações de privacidade, enquanto a empresa enfrenta um processo judicial ligado ao suicídio de um adolescente. Conforme destacou a CNBC, o novo órgão consultivo pode ajudar a mitigar riscos legais e reputacionais.

Além das reuniões recorrentes, o Conselho colaborará com a Rede Global de Médicos para validar cada proposta de segurança. As recomendações cobrirão detecção de sinais de sofrimento emocional, criação de controles parentais granulares e desenvolvimento de “guardrails” que impeçam a chamada psicose de IA, fenômeno associado a uso excessivo de chatbots.

Segundo nota da OpenAI, o trabalho dos especialistas inclui:

• Definir interações saudáveis com IA, especialmente para adolescentes;
• Orientar o comportamento do ChatGPT em situações sensíveis;
• Apoiar mensagens de suporte a pais e jovens em risco;
• Promover boas práticas digitais e bem-estar emocional.

Com a medida, a OpenAI busca posicionar-se como referência em segurança infantil no setor de IA, projetado para movimentar trilhões de dólares até 2030.

Para acompanhar outras iniciativas do setor, visite nossa editoria dedicada a Inteligência Artificial e siga explorando as tendências que moldam o futuro da tecnologia.

Crédito da imagem: Arina P Habich/Shutterstock