ChatGPT sugeriu brometo como substituto do sal e levou utilizador a internamento hospitalar
Um estudo publicado na revista Annals of Internal Medicine Clinical Cases descreve o caso de um homem de 60 anos que desenvolveu bromismo depois de trocar o sal de cozinha por brometo de sódio, decisão tomada na sequência de uma consulta ao chatbot ChatGPT.
Substituição do sal provocou quadro tóxico
O paciente, residente nos Estados Unidos, procurou reduzir o consumo de cloreto de sódio e recorreu à ferramenta da OpenAI para obter alternativas. De acordo com investigadores da Universidade de Washington, o chatbot recomendou o uso de brometo sem apresentar qualquer advertência relativa a possíveis riscos.
Durante três meses, o homem acrescentou brometo de sódio às refeições. No final desse período, deu entrada no hospital, convencido de ter sido envenenado por um vizinho. Os médicos identificaram sintomas de paranoia e encaminharam-no para avaliação psiquiátrica. No internamento, surgiram alucinações, tentativas de fuga, acne facial, sede excessiva, fadiga, dificuldades de coordenação motora, insónia e défice nutricional — sinais típicos de intoxicação por brometo.
Diagnóstico e tratamento
Os clínicos confirmaram bromismo, condição rara provocada por exposição prolongada a compostos de bromo. A síndrome, praticamente erradicada desde a década de 1970, pode originar psicose, delírios, perda de memória e alterações motoras. O paciente permaneceu três semanas hospitalizado, recebeu antipsicóticos e tratamento para reequilibrar os níveis de eletrólitos e nutrientes. Após a estabilização, teve alta, mantendo acompanhamento ambulatorial para recuperação total.
Investigadores alertam para limitações da IA em saúde
Os autores do estudo sublinham que a consulta de sistemas de inteligência artificial para questões médicas comporta riscos relevantes. Segundo os especialistas, modelos de linguagem podem fornecer informações incompletas, não avaliar contextos clínicos específicos e faltar com referências científicas fiáveis, estimulando decisões potencialmente perigosas.
Contactada pela publicação Live Science, a OpenAI recordou que os termos de utilização do ChatGPT excluem a função de diagnóstico ou tratamento. A empresa afirma ter instruído o modelo a aconselhar os utilizadores a procurar ajuda profissional em temas relacionados com a saúde.
Contexto do bromismo
O bromismo resulta da acumulação de iões de bromo no organismo. Durante décadas, brometos integraram sedativos, soníferos e anticonvulsivantes, mas foram gradualmente removidos das formulações devido a efeitos adversos. Casos contemporâneos são raros e, quando ocorrem, associam-se sobretudo a exposições ocupacionais ou, como neste episódio, a utilização indevida.
Implicações para utilizadores de plataformas digitais
O episódio evidencia a necessidade de cautela na interpretação de respostas geradas por algoritmos. Enquanto ferramentas de IA se popularizam em áreas como bem-estar, nutrição ou auto-medicação, os investigadores enfatizam a importância de validação junto de profissionais qualificados, sob pena de agravar problemas de saúde ou atrasar tratamentos adequados.
Imagem: tecmundo.com.br
