- Um novo estudo mostra que os sistemas de inteligência artificial usados para diagnosticar câncer a partir de lâminas de patologia não apresentam o mesmo desempenho para todos os pacientes, com precisão variando entre diferentes grupos demográficos.
- Os pesquisadores identificaram três razões principais por trás desse viés e criaram uma nova abordagem que reduziu significativamente essas diferenças.
- Os resultados enfatizam por que a IA médica deve ser avaliada rotineiramente quanto ao viés, para garantir um tratamento justo e confiável do câncer para todos.
Patologia e as Fundamentos do Diagnóstico do Câncer
Durante décadas, a patologia tem sido essencial para o diagnóstico e tratamento do câncer pelos médicos. Um patologista estuda uma fatia extremamente fina de tecido humano sob um microscópio, buscando sinais visuais que revelem se o câncer está presente e, em caso afirmativo, qual é o tipo e o estágio que alcançou.
Para um especialista treinado, examinar uma amostra de tecido rosa e ondulante pontuada por células roxas é como corrigir uma prova sem nome — a lâmina contém informações vitais sobre a doença, mas não oferece pistas sobre quem é o paciente.
Quando a IA Vê Mais do Que o Esperado
Essa suposição não se aplica totalmente aos sistemas de inteligência artificial que estão entrando nos laboratórios de patologia. Um novo estudo liderado por pesquisadores da Harvard Medical School mostra que os modelos de IA em patologia podem inferir detalhes demográficos diretamente das lâminas de tecido. Essa habilidade inesperada pode introduzir viés no diagnóstico do câncer entre diferentes grupos de pacientes.
Após avaliar vários modelos de IA amplamente utilizados para identificar câncer, os pesquisadores descobriram que esses sistemas não apresentavam desempenho igual para todos os pacientes. A precisão diagnóstica variava com base na raça, gênero e idade relatados pelos pacientes. A equipe também descobriu várias razões pelas quais essas disparidades ocorrem.
Para abordar a questão, os pesquisadores desenvolveram uma estrutura chamada FAIR-Path, que reduziu significativamente o viés nos modelos testados.
“Ler demografia a partir de uma lâmina de patologia é considerado uma ‘missão impossível’ para um patologista humano, então o viés na IA de patologia foi uma surpresa para nós”, disse Kun-Hsing Yu, autor sênior, professor associado de informática biomédica no Blavatnik Institute da HMS e professor assistente de patologia no Brigham and Women’s Hospital.
Yu enfatizou que reconhecer e corrigir o viés na IA médica é crucial, pois pode influenciar diretamente a precisão do diagnóstico e os resultados dos pacientes. O sucesso do FAIR-Path sugere que melhorar a equidade na IA da patologia do câncer, e possivelmente em outras ferramentas de IA médica, pode não exigir mudanças drásticas nos sistemas existentes.
O trabalho, que foi em parte apoiado por financiamento federal, foi descrito em 16 de dezembro na Cell Reports Medicine.
Colocando a IA do Câncer à Prova
Yu e seus colegas examinaram o viés em quatro modelos de IA de patologia comumente usados que estão sendo desenvolvidos para diagnóstico de câncer. Esses sistemas de aprendizado profundo foram treinados em grandes coleções de lâminas de patologia rotuladas, permitindo que aprendessem padrões biológicos e aplicassem esse conhecimento a novas amostras.
A equipe avaliou os modelos usando um grande conjunto de dados multi-institucional que incluía lâminas de patologia de 20 tipos diferentes de câncer.
Em todos os quatro modelos, lacunas de desempenho emergiram consistentemente. Os sistemas de IA eram menos precisos para certos grupos demográficos definidos por raça, gênero e idade. Por exemplo, os modelos tiveram dificuldades em distinguir subtipos de câncer de pulmão em pacientes afro-americanos e em pacientes do sexo masculino. Eles também mostraram precisão reduzida ao classificar subtipos de câncer de mama em pacientes mais jovens. Além disso, os modelos tiveram dificuldades em detectar câncer de mama, renal, tireoide e estômago em alguns grupos demográficos. No geral, essas disparidades apareceram em cerca de 29 por cento das tarefas diagnósticas analisadas.
De acordo com Yu, esses erros surgem porque os sistemas de IA extraem informações demográficas das imagens de tecido — e, em seguida, se baseiam em padrões ligados a essas demografias ao tomar decisões diagnósticas.
Os achados foram inesperados. “Porque esperaríamos que a avaliação da patologia fosse objetiva”, disse Yu. “Ao avaliar imagens, não precisamos necessariamente saber a demografia de um paciente para fazer um diagnóstico.”
Isso levou os pesquisadores a perguntarem uma questão fundamental: Por que a IA da patologia estava falhando em atender ao mesmo padrão de objetividade?
Por Que o Viés Aparece na IA da Patologia
A equipe identificou três principais contribuintes para o viés.
Primeiro, os dados de treinamento muitas vezes são desiguais. Amostras de tecido são mais fáceis de obter de alguns grupos demográficos do que de outros, resultando em conjuntos de dados desequilibrados. Isso torna mais difícil para os modelos de IA diagnosticar cânceres com precisão em grupos que estão sub-representados, incluindo algumas populações definidas pela raça, idade ou gênero.
No entanto, Yu observou que “o problema se revelou muito mais profundo do que isso.” Em vários casos, os modelos tiveram desempenho pior para certos grupos demográficos mesmo quando os tamanhos das amostras eram semelhantes.
Análises adicionais apontaram para diferenças na incidência da doença. Alguns cânceres ocorrem com mais frequência em populações específicas, permitindo que os modelos de IA se tornem especialmente precisos para aqueles grupos. Como resultado, os mesmos modelos podem ter dificuldades em diagnosticar cânceres em populações onde essas doenças são menos comuns.
Os pesquisadores também descobriram que os modelos de IA podem detectar sutis diferenças moleculares entre grupos demográficos. Por exemplo, os sistemas podem identificar mutações em genes causadores de câncer e usá-las como atalhos para classificar o tipo de câncer — o que pode reduzir a precisão em populações onde essas mutações são menos prevalentes.
“Descobrimos que, porque a IA é tão poderosa, ela pode diferenciar muitos sinais biológicos obscuros que não podem ser detectados pela avaliação humana padrão,” disse Yu.
Com o tempo, isso pode fazer com que os modelos de IA se concentrem mais em sinais vinculados às demografias do que à própria doença, enfraquecendo o desempenho diagnóstico entre grupos de pacientes diversos.
Em conjunto, disse Yu, essas descobertas mostram que o viés na IA patológica é influenciado não apenas pela qualidade e equilíbrio dos dados de treinamento, mas também pela forma como os modelos são treinados para interpretar o que veem.
Uma Nova Abordagem para Reduzir o Viés
Após identificar as fontes de viés, os pesquisadores se propuseram a corrigi-lo.
Eles desenvolveram o FAIR-Path, uma estrutura baseada em um método de aprendizado de máquina existente conhecido como aprendizado contrastivo. Essa abordagem modifica o treinamento de IA para que os modelos se concentrem mais fortemente em distinções críticas, como diferenças entre tipos de câncer, enquanto reduzem a atenção a diferenças menos relevantes, incluindo características demográficas.
Quando o FAIR-Path foi aplicado aos modelos testados, as disparidades diagnósticas caíram cerca de 88 por cento.
“Mostramos que, ao fazer esse pequeno ajuste, os modelos podem aprender características robustas que os tornam mais generalizáveis e mais justos entre diferentes populações,” disse Yu.
O resultado é encorajador, acrescentou, pois sugere que reduções significativas no viés são possíveis mesmo sem conjuntos de dados de treinamento perfeitamente balanceados ou totalmente representativos.
Olhando para o futuro, Yu e sua equipe estão trabalhando com instituições em todo o mundo para estudar o viés da IA em patologia em regiões com diferentes demografias, práticas clínicas e configurações de laboratório. Eles também estão explorando como o FAIR-Path poderia ser adaptado para situações com dados limitados. Outra área de interesse é entender como o viés impulsionado pela IA contribui para disparidades mais amplas em saúde e resultados dos pacientes.
Em última análise, disse Yu, o objetivo é desenvolver sistemas de IA de patologia que apoiem os especialistas humanos, fornecendo diagnósticos rápidos, precisos e justos para todos os pacientes.
“Acredito que há esperança de que, se estivermos mais cientes e cuidadosos sobre como projetamos sistemas de IA, podemos construir modelos que tenham um bom desempenho em todas as populações,” disse ele.
Autoria, financiamento, divulgações
Autores adicionais do estudo incluem Shih-Yen Lin, Pei-Chen Tsai, Fang-Yi Su, Chun-Yen Chen, Fuchen Li, Junhan Zhao, Yuk Yeung Ho, Tsung-Lu Michael Lee, Elizabeth Healey, Po-Jen Lin, Ting-Wan Kao, Dmytro Vremenko, Thomas Roetzer-Pejrimovsky, Lynette Sholl, Deborah Dillon, Nancy U. Lin, David Meredith, Keith L. Ligon, Ying-Chun Lo, Nipon Chaisuriya, David J. Cook, Adelheid Woehrer, Jeffrey Meyerhardt, Shuji Ogino, MacLean P. Nasrallah, Jeffrey A. Golden, Sabina Signoretti e Jung-Hsien Chiang.
O financiamento foi fornecido pelo National Institute of General Medical Sciences e pelo National Heart, Lung, and Blood Institute do National Institutes of Health (subsídios R35GM142879, R01HL174679), pelo Department of Defense (Peer Reviewed Cancer Research Program Career Development Award HT9425-231-0523), pela American Cancer Society (Research Scholar Grant RSG-24-1253761-01-ESED), um Google Research Scholar Award, um Harvard Medical School Dean’s Innovation Award, pelo National Science and Technology Council de Taiwan (subsídios NSTC 113-2917-I-006-009, 112-2634-F-006-003, 113-2321-B-006-023, 114-2917-I-006-016), e uma bolsa de doutorado da Xin Miao Education Foundation.
Ligon foi consultor da Travera, Bristol Myers Squibb, Servier, IntegraGen, L.E.K. Consulting e Blaze Bioscience; recebeu participação da Travera; e tem financiamento para pesquisa da Bristol Myers Squibb e Lilly. Vremenko é cofundador e acionista da Vectorly.
Os autores prepararam o manuscrito inicial e utilizaram o ChatGPT para editar seções selecionadas para melhorar a legibilidade. Após usar essa ferramenta, os autores revisaram e editaram o conteúdo conforme necessário e assumem total responsabilidade pelo conteúdo do artigo publicado.
