O uso de inteligência artificial para obter diagnósticos ou orientações de saúde tornou-se uma prática comum entre internautas, mas um novo estudo publicado na revista médica BMJ Open acende um alerta sobre os perigos dessa confiança. Pesquisadores analisaram o desempenho de cinco dos principais chatbots do mercado atual: Gemini, Meta AI, Grok, DeepSeek e ChatGPT. Os resultados revelam que cerca de metade das respostas fornecidas por essas ferramentas foram consideradas problemáticas pela equipe de especialistas.
O cenário torna-se ainda mais crítico quando se observa que 20% do conteúdo gerado foi classificado como altamente problemático. Segundo o estudo, não houve uma variação significativa na qualidade geral entre os robôs, mas o Grok, desenvolvido pela empresa de Elon Musk, apresentou uma frequência de respostas perigosas acima do que seria esperado em uma distribuição aleatória.
Um dos pontos que mais preocupa os pesquisadores é a forma como a informação é entregue ao usuário. Os chatbots expressam seus resultados com total confiança e certeza, raramente admitindo que podem estar errados. De 250 perguntas enviadas, houve apenas duas recusas em responder, ambas partindo da Meta AI. Nas demais interações, os sistemas forneceram orientações mesmo quando o tema envolvia riscos reais à saúde humana.
A pesquisa detalhou que o desempenho das IAs foi melhor em temas consolidados, como vacinas e câncer. Por outro lado, as ferramentas falharam miseravelmente ao tratar de células-tronco, desempenho atlético e nutrição. Nesses tópicos, as chances de receber uma orientação equivocada ou sem embasamento científico aumentam drasticamente.
Falhas técnicas e citações inventadas
A qualidade das referências utilizadas pelos chatbots foi descrita como pobre. O estudo apontou uma pontuação média de completude de apenas 40%. Além disso, as chamadas alucinações da IA resultaram na fabricação de citações e fontes que sequer existem no mundo real. Nenhuma das ferramentas testadas foi capaz de produzir uma lista de referências totalmente precisa.
Outro obstáculo identificado foi a legibilidade dos textos. Todas as respostas foram classificadas como de nível difícil, equivalentes ao vocabulário de estudantes universitários de anos avançados. Isso significa que, além do risco de a informação estar errada, o usuário comum pode ter dificuldade em interpretar corretamente o que foi escrito, gerando ainda mais confusão.
Os auditores concluíram que os chatbots tiveram um desempenho insatisfatório em áreas médicas propensas à desinformação. A análise indica que a continuidade do uso dessas ferramentas sem educação pública e supervisão adequada corre o risco de amplificar notícias falsas e erros médicos em larga escala.
Reações e o funcionamento da tecnologia
Nas redes sociais, internautas debateram os riscos dessa prática. Um usuário no Reddit comentou que “as pessoas não entendem que, no estágio atual, a IA não está pensando ou interpretando nada do que está ingerindo. Ela está apenas fazendo um levantamento de todas as informações disponíveis e regurgitando isso para você. 40% da informação que o ChatGPT recebe vem do Reddit”.
Outra pessoa ironizou a situação ao afirmar que “você quer dizer que a IA, que é treinada raspando a internet em busca de respostas, incluindo as erradas, dá conselhos médicos imprecisos? Estou chocado, eu te digo. Chocado! Bem, na verdade não”. O treinamento desses modelos de linguagem é o ponto central da questão para muitos especialistas e entusiastas de tecnologia.
Um terceiro comentário explicou que “uma das razões é o treinamento. Eles não são treinados para dispensar conselhos médicos. Sim, textos médicos fazem parte do treinamento, mas o processo não utiliza pesos para este contexto a fim de convergir para uma recuperação adequada e formar o melhor texto de saída baseado no que seria um conselho médico”.
Um quarto usuário foi mais direto sobre a responsabilidade individual ao dizer que “se você pede conselhos médicos para uma IA, então você é o problema”. O estudo reforça que, embora a tecnologia avance, a consulta com profissionais de saúde humanos continua sendo a única forma segura de lidar com sintomas e tratamentos.
