Pesquisadores descobriram que a inteligência artificial (IA) pode identificar a cor de pele a partir de imagens de raios-X e tomografia computadorizada com cerca de 90% de precisão, mesmo quando as imagens são consideradas anônimas, embaçadas ou corrompidas.
Isso levantou preocupações sobre o uso de IA em tecnologias médicas, pois pode ser capaz de caracterizar indivíduos com base na raça, mesmo quando fornecido apenas com imagens de raios-X ou tomografia computadorizada.
O estudo, publicado no Lancet Digital Health, envolveu a alimentação de um modelo de aprendizado profundo com imagens de raios-X e tomografia computadorizada de várias áreas do corpo em diferentes grupos de pessoas, com cada imagem rotulada com a cor de pele da pessoa.
As tags e quaisquer características de identificação, como cor da pele e cor do cabelo, foram então removidas, e a IA foi solicitada a identificar essas características do indivíduo em cada imagem. Apesar da remoção desses recursos de identificação, a IA foi capaz de identificar a cor de pele com cerca de 90% de precisão em todas as áreas do corpo.
Para investigar se a IA estava usando covariáveis, como índice de massa corporal (IMC) ou densidade da mama, para fazer suas suposições, os pesquisadores removeram essas variáveis e mostraram apenas os conjuntos de dados de pessoas com IMC e tipos corporais semelhantes.
Apesar disso, a IA ainda foi capaz de identificar com precisão. Os pesquisadores não têm certeza de como a tecnologia é capaz de fazer isso, mas uma hipótese é que ela possa identificar variações na melanina entre a pele de pessoas negras e brancas, que podem aparecer em tomografias e raios-X e que os humanos nunca notaram.
Os resultados do estudo levantaram preocupações sobre o uso de IA em hospitais e o potencial dela reagir de maneira diferente a diferentes pessoas. Os pesquisadores pediram cautela ao trazer algoritmos para hospitais e clínicas até que se possa garantir que eles não estão tomando decisões racistas ou sexistas.
Editor-chefe do portal Mistérios do Mundo desde 2011. Adoro viajar, curtir uma boa música e leitura. Ganhou o prêmio influenciador digital na categoria curiosidades.
