Tecnologia, IA e Saúde: Benefícios, Riscos e Responsabilidades

A transformação digital revolucionou a saúde, porém toda inovação traz tanto oportunidades quanto desafios e é justamente essa reflexão que aborda o painel “Quando a Inovação Machuca: os Efeitos Colaterais da Saúde Digital” do 4º Congresso Brasileiro de Medicina Geral da AMB.

Coordenado pelo Dr. Eduardo Cordioli, que desde 2016 acompanha e debate os avanços da telessaúde e a adoção de novas tecnologias na medicina brasileira, o painel foi aberto com uma provocação: “Hoje estamos aqui para fazer um contraponto, para falar sobre quando a inovação machuca”.

Ao apresentar casos que evidenciam a importância do pensamento crítico diante das ferramentas de inteligência artificial, Cordioli destacou a necessidade de questionar resultados, buscar evidências adicionais e evitar aceitar como definitivas as respostas fornecidas pelos algoritmos. Segundo ele, diferenças metodológicas, especialmente relacionadas ao uso de proxies em estudos e modelos de IA, podem gerar divergências significativas nos resultados e até mesmo erros de interpretação.

A partir dessa reflexão, o coordenador deu início ao debate com os integrantes da mesa, composta pelos médicos Gustavo Meirelles, Antonio Carlos Endrigo e Lara de Sá Paiva, que discutiram os desafios, riscos e responsabilidades associados à incorporação crescente da inteligência artificial e das tecnologias digitais na prática médica.

Segundo Dr. Antonio Carlos Endrigo, quando temos acesso à tecnologia é ótima, mas não se pode deixar o senso crítico de lado. “A Inteligência Artificial é como uma droga que você vai usando e se adaptando à ela, então é preciso fazer treinamentos sem ela para saber como estão seus conhecimentos, assim saberemos o quanto ainda estamos com o raciocínio clínico que adquirimos em nossa formação médica”.

Já Dr. Gustavo Meirelles começou sua abordagem citando exemplos do uso de contatos de telefone gravados e GPS para dirigir, dizendo que hoje é comum não sabermos mais nem caminhos nem números de telefone das pessoas e esses dois exemplos, apesar de serem ótimos assim a mente tem duas preocupações a menos, mostra o quanto a tecnologia pode tomar o lugar de funções que tínhamos antigamente com a nossa memória.

Segundo Dra. Lara de Sá Paiva por mais que tenhamos um modelo de IA, temos o rigor metodológico por trás, pois há necessidade de testar como cada produto vai se comportar. Para tal, precisa ter governança clínica e critério de auditoria humana. “Precisamos de uma governança de IA para todos os indicadores de performance”.

“Um dos grandes problemas da inteligência artificial é o uso inadequado dos dados. Precisamos lembrar que os dados de saúde são protegidos pela LGPD”, alertou o Dr. Gustavo Meirelles.

Na sequência, o Dr. Eduardo Cordioli destacou a importância da originalidade e da transparência no uso da tecnologia. Como exemplo, citou os mecanismos adotados por periódicos científicos para monitorar a utilização de IA na produção de artigos. “Para publicar um artigo na Lancet, por exemplo, existem recursos capazes de identificar o nível de utilização de inteligência artificial. Quando esse percentual é muito elevado, o autor pode receber um alerta. É preciso ter muito cuidado com a questão da originalidade. Quando recebo um texto, geralmente consigo perceber se houve uso de IA ou não”, afirmou.

Cordioli também chamou a atenção para as limitações dos modelos de inteligência artificial quando aplicados a diferentes contextos epidemiológicos e culturais. “Vou citar um exemplo: ao utilizar uma ferramenta desenvolvida na Inglaterra, febre dificilmente será associada à dengue, porque dengue não faz parte da realidade inglesa”, explicou. Segundo ele, esse tipo de viés evidencia a necessidade de adaptação local dos algoritmos e de uma avaliação crítica dos resultados gerados pelas plataformas de IA.

“Precisamos embarcar nessa jornada, mas de forma criteriosa”, disse Dra Lara. “A qualidade dos dados é um dos grandes problemas que vamos enfrentar cada vez mais”, completou Dr. Endrigo. 

O debate encerrou a mesma conclusão entre os participantes: a tecnologia não deve substituir o olhar clínico, mas auxiliá-lo. Dentre os destaques dos avanços, os especialistas destacaram a importância da qualidade dos dados, da governança dos sistemas e da capacitação contínua dos profissionais de saúde. Mais do que discutir tecnologia, a mesa trouxe uma reflexão sobre o futuro da medicina, mostrando que o sucesso da transformação digital dependerá da capacidade de equilibrar inovação, segurança, ética e humanização.