Nos últimos anos, tenho acompanhado o avanço vertiginoso da Tecnologia da Informação. Ferramentas que levariam décadas para serem desenvolvidas em outras épocas, surgem agora, em poucos meses. E evoluem ainda mais rapidamente, estamos vendo isso com o ChatGPT.

O ChatGPT é uma Inteligência Artificial (IA). IAs são sistemas que tentam imitar a inteligência humana a partir de máquinas. Apesar delas estarem presentes em praticamente todas as soluções mais atuais, as categorizações delas são, cada vez mais, perto de ilimitadas.

Ou seja, o grau de inteligência de uma IA, que vai desde o mais restrito e específico até a superinteligência, está avançando rapidamente e adentrando cada vez mais na Saúde.

Dias atrás, me deparei com a notícia de que, na Califórnia, pesquisadores da AnsibleHealth testaram o desempenho de uma IA em uma prova de Medicina nos Estados Unidos.

A sua pontuação foi de 52,4% a 75% nas três partes do exame. A pontuação para se formar é de cerca de 60%. Ou seja, ela foi aprovada! Impressionante, não é?

Alguns profissionais da Saúde, mais familiarizados com novas tecnologias, já estão deslumbrados com a possibilidade de usar o ChatGPT como auxiliar no seu trabalho.

Como profissional apaixonado por tecnologia e inovação, acredito veementemente que a tecnologia é uma aliada importante na rotina dos profissionais de saúde. Mas existem inúmeros limites que vão desde o bom senso, passando pela viabilidade técnica, pela ética e até por questões legais. 

Por isso, quero te convidar a avaliar este assunto tão relevante com mais profundidade.

O que é esse tal de ChatGPT?

A Inteligência Artificial ChatGPT é um chatbot, lançado no final de 2022, pela OpenAI, uma empresa de pesquisa e implantação de IA. O polêmico Elon Musk foi um de seus fundadores e Bill Gates é um de seus investidores.

GPT é a sigla para a tecnologia Generative Pre-Trained Transformer, na qual as máquinas são treinadas usando Aprendizagem por Reforço com Feedback Humano (Reinforcement Learning from Human Feedback – RLHF).

Funciona assim: os humanos forneceram conhecimento enquanto usuários e assistentes da IA e sua classificação e feedback são coletados para melhorar as respostas.

Com cerca de 100 milhões de usuários em menos de dois meses – um fenômeno no universo dos softwares -, o ChatGPT está evoluindo a cada segundo.

E esta não é a única IA que está tendo o seu cogitado para a área da Saúde. O Google e a DeepMind estão trabalhando na criação do Med-PaLM. Esta é uma ferramenta de código aberto projetada para responder a perguntas de profissionais de Saúde ou de pacientes.

Temos também os assistentes virtuais da empresa Wefight, especializados e destinados a informar os pacientes sobre cerca de vinte doenças.

O crescimento dos chatbots na saúde

O relatório “Inovação para melhorar o atendimento ao cliente: as 5 tecnologias emergentes”, do Gartner, estimou que, até 2022, 70% das interações dos clientes teriam envolvimento de tecnologias emergentes, como aplicativos que operam com aprendizado de máquina (machine learning) e chats com Inteligência Artificial. 

O relatório mostrou também que 26% dos CIOs apostariam em chatbots como o principal aplicativo baseado em IA usado em suas empresas. 

Na ProDoctor, por exemplo, uma das IAs que desenvolvemos foi para nosso serviço de confirmação de consulta via WhatsApp. Isso contribuiu para os níveis de eficiência mais elevados deste mercado, passando de 90%. Estamos falando de um mercado que trabalha na média de 30% de taxa de resposta.

E este foi apenas o pontapé inicial para nós, porque quando o assunto é inovação e experiência do cliente, queremos sempre ir além.

ChatGPT e Google: como a tecnologia exige um novo posicionamento das empresas

Empresas de produtos digitais começaram a repensar seus negócios, buscando inovações, antes que sejam substituídos por uma IA. Prova disso é o próprio Google.

Há alguns anos, eu estava assistindo uma Conferência do Google nos Estados Unidos, onde eles apresentaram os planos para uma incrível IA. Fiquei impactado pelas promessas inovadoras dessa tecnologia e me perguntei se e quanto tempo levaria para o Google lançar a novidade no mercado.

Em 2023, o Google ainda procura maneiras de mostrar que está na frente na corrida pela melhor tecnologia de inteligência artificial (IA) – até então sem sucesso.

Em fevereiro de 2023, um anúncio projetado para exibir o novo bot de IA da empresa, conhecido como Bard,  mostrou que ele respondia a uma pergunta de forma incorreta.

As ações da Alphabet, controladora do Google, caíram mais de 7% depois disso, derrubando o valor de mercado da empresa em US$ 100 bilhões (R$ 520 bilhões)! 

Sim, o gigante do Vale do Silício, líder nos mecanismos de busca, viu o seu império ser levemente balançado pelo ChatGPT. 

Além da mensagem de não serem pioneiros no lançamento da – até então – melhor tecnologia de IA, alguns usuários começaram a substituir a busca no Google pela consulta ao ChatGPT.

Eles olharam a praticidade da ferramenta e pensaram: “por que pesquisar em dezenas de resultados que o Google me apresenta, se o ChatGPT já me dá uma resposta pronta em segundos?”.

Seria o fim do Google? Não é possível afirmar ainda, mas, sem dúvidas, é um recado bem direto para a empresa: em tecnologia, o mercado não perdoa quem fica para trás.

A tentadora praticidade do ChatGPT

Imagine poder pedir para a Inteligência Artificial procurar diagnósticos, analisar exames de imagem, redigir prescrições, elaborar campanhas de marketing médico, gerar relatórios, pesquisar informações sobre medicamentos, fazer triagem de pacientes por meio do seu histórico médico… Parece tentador, não é?

Diante de tanta praticidade, podemos ser levados a acreditar que é muito mais fácil substituir algumas práticas do dia a dia pelo uso do ChatGPT. 

Mas, espere um minuto. Estamos falando em compartilhar com uma IA dados da clínica e dos pacientes? Sabemos como a IA vai utilizar esses dados?

Vamos combinar que este não é um caminho seguro, se considerarmos as questões do risco de vazamentos de dados e da aplicação da Lei Geral de Proteção de Dados (LGPD).

Sem falar na imprecisão, para não dizer erro, em parte das respostas, uma das minhas maiores críticas neste momento.

Estamos considerando, então, usar ferramentas distintas, sem se preocupar em unificar  funcionalidades de gestão médica em uma única plataforma?

Além disso, o software médico permite o armazenamento de dados, a realização de backups, a consulta do histórico do paciente. Nada disso é possível em um chat.

Agora, pensando na atuação do médico em si, veja o caso da Telemedicina: ela tem sido uma solução prática e extremamente útil.

Porém, sabemos que ainda se mostra limitada em alguns aspectos, pois a avaliação presencial do profissional da Medicina se mostra insubstituível em diversas situações. É neste ponto que quero chegar.

Considere isto: o próprio Bill Gates, ao ser perguntado sobre o que o ChatGPT significa em diferentes áreas profissionais, afirmou que a ferramenta é “verdadeiramente imperfeita”. Ele revelou que encontrou erros em operações matemáticas feitas pelo chatbot. 

As limitações das Inteligências Artificiais como o ChatGPT

Enquanto Inteligência Artificial, a ferramenta precisa de inputs 100% detalhados, com clareza sobre a questão que é apresentada.

No caso do ChatGPT, por enquanto,  a base de informações de seu algoritmo não é atualizada em tempo real. Ou seja, qualquer resposta que ela dá é baseada em vieses intencionais inseridos no sistema. Os últimos dados deram entrada em 2021.

O mundo já está no limite da superficialidade, algo reforçado pelas redes sociais. As pessoas leem títulos e poucos caracteres e tiram conclusões precipitadas e supérfluas sobre assuntos complexos e profundos.

Conseguem enxergar o risco que é deixar de analisar diversas perspectivas para deixar que uma IA escolha por mim quais informações devo conhecer?  

No mundo médico, pergunto: posso confiar que uma IA analise os resultados de exames de um paciente, sem conhecer a fundo o histórico desse paciente e ser capaz de julgar, clinicamente, a situação da pessoa?

Nas redes sociais, o especialista em tecnologia de saúde do consumidor, Stuart Blitz, alertou os médicos que o ChatGPT fornecia informações falsas.

Ele pediu que a IA produzisse três publicações fictícias exaltando os benefícios do ecocardiograma para pacientes com esclerose sistêmica.

Pareciam textos perfeitos, não fosse o fato de que nenhuma das pesquisas citadas constava na literatura científica relevante para a discussão.

O plano de saúde rejeitaria um pedido de tratamento, caso o relatório tivesse sido extraído do ChatGPT, nesse caso.

Inteligência Artificial na Medicina: use com sabedoria

Em um artigo publicado na MedScape, o pediatra Dr. Alok S. Patel defende usar a tecnologia para reduzir a burocracia e para lutar contra o burnout.

Dessa forma, ele acredita que o ChatGPT, quando recebe os comandos certos, pode ser utilizado para realizar as tarefas burocráticas do médico.

De acordo com o relatório Physician Burnout and Depression, do Medscape, em 2022, a burocracia diária é citada por 60% dos entrevistados como uma das principais causas de esgotamento. 

Como CEO e Head de tecnologia de uma empresa de software médico afirmo, com toda certeza, que as inovações trazidas pela tecnologia são muito bem-vindas às atividades profissionais.

Porém o seu uso jamais substituirá o conhecimento, a criatividade e a experiência humana.

Na Europa, inclusive, será sancionada a “Lei da Inteligência Artificial”, que regula o uso da inteligência artificial na Saúde. A sua implementação está prevista para o final deste primeiro semestre.

Não apenas com o ChatGPT, tenha sempre um olhar questionador sobre as IAs

A Assistente do Google; a Siri, da Apple; a Alexa, da Amazon; o Deep Blue, da IBM… Todos esses, assim como o ChatGPT, são máquinas treinadas para interagirem com os seres humanos de maneira cada vez mais eficiente, oferecendo rapidez e atendimento personalizado. Elas têm a sua utilidade e usufruir disso e do que mais elas puderem nos oferecer.

É o caso da GPT-3, que pode, através de deep learning, sinalizar o começo de uma demência com 80% de acurácia, a partir do discurso espontâneo de quem interage com o equipamento de inteligência artificial.

Porém, como o próprio ChatGPT afirmou, ao ser perguntado: “É pouco provável que a inteligência artificial substitua inteiramente os médicos no diagnóstico e na escolha terapêutica em curto ou médio prazo.”

Ou seja, as Inteligências Artificiais vieram para somar, não para substituir. Devemos, sim, olhá-las sempre como aliadas e aproveitar de tudo que elas nos oferecem. Porém, com responsabilidade e sem duvidar da competência humana, sempre com um olhar questionador.

Eu tenderia a ser incrédulo e a confirmar qualquer resposta de uma IA, pelo menos num primeiro momento. E jamais exporia dados de um paciente até que exista clareza sobre a política de privacidade, controles implementados e o código de ética destas ferramentas.

Por Jomar Nascimento, CEO e Head de Tecnologia da ProDoctor Software.