Um estudo recente publicado na JAMA Dermatology esclarece os riscos potenciais associados aos aplicativos móveis (apps) de dermatologia com inteligência artificial ( IA ), enfatizando preocupações com relação à sua validação, transparência e comunicação com o usuário. O estudo, conduzido por pesquisadores com o objetivo de avaliar o panorama dos aplicativos dermatológicos de IA disponíveis nas principais lojas de aplicativos, revela uma falta de validação consistente, aprovação regulatória e envolvimento dos médicos no processo de desenvolvimento.
Desempenho inconsistente e falta de regulamentação
Os pesquisadores conduziram uma revisão abrangente de aplicativos móveis relacionados à dermatologia disponíveis publicamente com recursos de IA, usando termos como “dermatologia”, “derm” e “pele” nas lojas de aplicativos Apple e Android. Dos 909 aplicativos inicialmente dent , apenas 41 atenderam aos critérios de inclusão para análise aprofundada após eliminação de aplicativos duplicados e não elegíveis.
O estudo destaca que nenhum aplicativo dent obteve aprovação de órgãos reguladores como o FDA, apesar de suas alegações de ajudar no tratamento de problemas de pele. Esta falta de regulamentação e desempenho inconsistente entre as aplicações levanta preocupações sobre a fiabilidade e segurança da utilização destas ferramentas para fins médicos.
Questões de transparência e privacidade
Uma das principais conclusões do estudo é a falta de transparência em torno da eficácia dos modelos de IA os conjuntos de dados usados para desenvolvimento e o tratamento de imagens enviadas pelo usuário. Uma parte significativa dos aplicativos revisados não fornecia informações sobre conjuntos de dados de treinamento e teste, detalhes de algoritmos ou o envolvimento de médicos, especialmente dermatologistas, no processo de desenvolvimento.
Além disso, muitas aplicações não divulgaram a forma como as imagens enviadas pelos utilizadores seriam utilizadas, levantando preocupações sobre a privacidade e a possibilidade de utilização indevida de dados médicos sensíveis. Apenas uma fração dos aplicativos indicou que não armazena imagens de usuários. Em contraste, outros admitiram armazená-los em servidores em nuvem seguros, sem explicar o uso ou as medidas de proteção de dados.
Implicações e pesquisas futuras
Os investigadores sublinharam a necessidade de uma investigação mais aprofundada sobre a eficácia clínica e segurança das aplicações dermatológicas de IA e o estabelecimento de directrizes regulatórias claras para garantir a segurança dos pacientes e a privacidade dos dados. Eles também reconheceram as limitações do seu estudo, particularmente no que diz respeito à disponibilidade regional de aplicativos nas lojas de aplicativos, o que pode ter resultado na omissão de aplicativos internacionais em suas análises.
