40 milhões de pessoas no mundo estão utilizando ChatGPT na área da saúde – mas é seguro?

Faba-Photography/Moment via Getty Images

Principais conclusões da ZDNET
5% das interações com o ChatGPT mundialmente estão relacionadas à saúde.
Usuários fazem perguntas sobre sintomas e dicas de seguro, entre outros temas.
Chatbots podem fornecer informações perigosamente imprecisas.

De acordo com um novo relatório da OpenAI, divulgado exclusivamente pelo Axios, mais de 40 milhões de pessoas em todo o mundo utilizam o ChatGPT para conselhos médicos diários. O documento, baseado em uma análise anonimizada das interações com o ChatGPT e uma pesquisa com usuários, destaca maneiras específicas pelas quais as pessoas utilizam a IA para navegar pelas complexidades do sistema de saúde. Alguns usuários fazem perguntas sobre apelações de negativas de seguro e possíveis cobranças excessivas, enquanto outros descrevem seus sintomas em busca de diagnósticos ou orientações sobre tratamentos.

Não é surpresa que um número considerável de pessoas recorra ao ChatGPT para questões pessoais delicadas. O chatbot, que já tem três anos, juntamente com outros como o Gemini do Google e o Copilot da Microsoft, tornou-se um confidente e companheiro para muitos, oferecendo ajuda em momentos difíceis da vida.

Além disso, uma análise realizada pela Harvard Business Review no ano passado revelou que a terapia psicológica era o uso mais comum de IA generativa. O novo relatório da OpenAI, portanto, é mais um indicativo do crescente papel da IA generativa, que já se mostra ser muito mais do que um simples motor de busca aprimorado.

O que mais impressiona no relatório é a enorme quantidade de usuários que buscam conselhos médicos no ChatGPT. Isso levanta questões prementes sobre a segurança desse tipo de utilização da IA, especialmente em um momento em que milhões de americanos enfrentam novos e significativos desafios relacionados à saúde.

Análise mais detalhada
Segundo o Axios, o relatório da OpenAI revelou que mais de 5% de todas as mensagens enviadas ao ChatGPT em todo o mundo estão ligadas à saúde. Até julho do ano passado, o chatbot processava cerca de 2,5 bilhões de solicitações por dia, o que implica que ele respondia, pelo menos, a 125 milhões de perguntas relacionadas à saúde diariamente (e esse número provavelmente é ainda maior agora, visto que sua base de usuários continua crescendo).

Uma parte significativa dessas conversas — cerca de 70%, de acordo com o Axios — ocorre fora do horário normal de funcionamento das clínicas médicas, evidenciando uma das principais vantagens desse uso de IA: ao contrário dos médicos humanos, a IA está sempre disponível. Alguns usuários também aproveitaram os chatbots para identificar erros de faturamento e questionar cobranças exorbitantes.

Medidas desesperadas em tempos difíceis
A ampla aceitação do ChatGPT como um especialista médico automatizado coincide com um início de ano estressante para muitos americanos, devido a um aumento repentino nos custos de cobertura de saúde. Com o fim das subsídios fiscais do Affordable Care Act durante a pandemia, mais de 20 milhões de inscritos relataram um aumento médio de 114% em seus prêmios mensais. É bem provável que alguns desses indivíduos, especialmente os mais jovens, saudáveis e com menos recursos, optem por não ter seguro de saúde, dependendo em vez disso de chatbots, como o ChatGPT, para obter informações médicas.

Riscos
Embora a IA esteja sempre acessível para consultas, ela também pode apresentar "alucinações" — criar informações fictícias apresentadas com a confiança de um fato — e, portanto, não é um substituto para um médico de verdade. Um estudo realizado por um grupo de médicos e publicado no servidor de pré-impressão arXiv em julho, por exemplo, descobriu que alguns dos chatbots mais avançados frequentemente forneciam respostas perigosamente imprecisas a perguntas médicas. A taxa de respostas desse tipo geradas pelo GPT-4 da OpenAI e pelo Llama da Meta foi especialmente elevada: 13% em ambos os casos.

"Este estudo sugere que milhões de pacientes podem estar recebendo conselhos médicos inseguros de chatbots disponíveis publicamente, e mais pesquisas são necessárias para melhorar a segurança clínica dessas poderosas ferramentas", observaram os autores do documento de julho. A OpenAI está atualmente buscando melhorias em suas capacidades de resposta segura a consultas relacionadas à saúde.

Considerações finais
Neste momento, a IA generativa deve ser tratada como o WebMD: é frequentemente útil para responder perguntas básicas sobre condições médicas ou as complexidades do sistema de saúde, mas provavelmente não deve ser considerada uma fonte definitiva para, por exemplo, diagnosticar uma doença crônica ou obter aconselhamento em caso de lesão grave. E, dada sua tendência a "alucinar", é mais seguro encarar as respostas da IA com um grau de ceticismo ainda maior do que se faz com informações de uma rápida busca no Google — especialmente quando se trata de questões pessoais mais sensíveis.

Referência: Axios