Controle parental do ChatGPT falha em impedir burlas

Controle parental do ChatGPT falha em impedir burlas — A OpenAI liberou, nesta semana, novos controles para que pais restrinjam o uso do chatbot por adolescentes, porém testes iniciais mostram que as barreiras podem ser contornadas em poucos minutos.

Em avaliação conduzida pelo jornal norte-americano Washington Post, um pai precisou de apenas cinco minutos para burlar as travas: bastou encerrar a sessão existente e criar outra conta no mesmo computador, manobra descrita como óbvia para “crianças espertas”.

Controle parental do ChatGPT falha em impedir burlas

Além da fragilidade no processo de login, outras brechas foram identificadas. O bloqueio que proíbe a IA de gerar imagens falhou em determinadas tentativas, e as notificações previstas para alertar responsáveis sobre conversas arriscadas chegaram com atraso de cerca de 24 horas. Conforme a OpenAI, cada alerta passa por revisão humana, o que explicaria a demora; a empresa afirma trabalhar para reduzir o intervalo.

Lauren Jonas, chefe de bem-estar juvenil da companhia, declarou que os controles foram desenvolvidos “em consulta com especialistas e baseados nos estágios de desenvolvimento dos adolescentes”, ressaltando a intenção de “dar escolha às famílias”.

Entidades ligadas à proteção infantil receberam a iniciativa com reações mistas. Erin Walsh, cofundadora do Spark and Stitch Institute, considerou o lançamento “um passo bem-vindo”, mas alertou que não se trata de solução definitiva para segurança e saúde mental dos jovens. Robbie Torney, diretor da Common Sense Media, foi na mesma linha: “Acreditamos que a OpenAI e outras empresas podem ir muito mais longe para tornar os chatbots seguros para crianças”.

Os testes também mostraram que, por padrão, as conversas de contas juvenis são usadas para treinar a inteligência artificial, a menos que os responsáveis alterem manualmente a configuração. Outro recurso mantido é o de “memórias” de interações anteriores, capaz de fazer o ChatGPT agir como amigo virtual — funcionalidade citada na ação judicial da família de Adam Raine, adolescente de 16 anos que tirou a própria vida.

No campo regulatório, o procurador-geral da Califórnia, Rob Bonta, mantém a OpenAI sob vigilância, e o projeto de lei AB 1064 busca responsabilizar empresas cujos chatbots incentivem automutilação ou distúrbios alimentares. A desenvolvedora afirma apoiar regulamentações, mas questiona pontos do texto e trabalha em versão do ChatGPT com filtros automáticos para menores, embora ainda não possua tecnologia definitiva de verificação de idade.

Em síntese, os primeiros dias de uso revelam que o controle parental do ChatGPT precisa de ajustes urgentes para cumprir a promessa de proteger adolescentes de conteúdo sensível e de interações potencialmente perigosas.

Para acompanhar outras novidades sobre inteligência artificial e segurança digital, visite nossa sessão de Inteligência Artificial e continue informado.

Imagem: Roman Chekhovskoi / Shutterstock.com