Pular para o conteúdo
A inteligência artificial pode identificar a raça apenas a partir de raios-X e os cientistas não têm ideia de como

Inteligência artificial pode identificar a cor de pele apenas a partir de raios-X e os cientistas não têm ideia de como

Pesquisadores descobriram que a inteligência artificial (IA) pode identificar a cor de pele a partir de imagens de raios-X e tomografia computadorizada com cerca de 90% de precisão, mesmo quando as imagens são consideradas anônimas, embaçadas ou corrompidas.

Isso levantou preocupações sobre o uso de IA em tecnologias médicas, pois pode ser capaz de caracterizar indivíduos com base na raça, mesmo quando fornecido apenas com imagens de raios-X ou tomografia computadorizada.

O estudo, publicado no Lancet Digital Health, envolveu a alimentação de um modelo de aprendizado profundo com imagens de raios-X e tomografia computadorizada de várias áreas do corpo em diferentes grupos de pessoas, com cada imagem rotulada com a cor de pele da pessoa.

As tags e quaisquer características de identificação, como cor da pele e cor do cabelo, foram então removidas, e a IA foi solicitada a identificar essas características do indivíduo em cada imagem. Apesar da remoção desses recursos de identificação, a IA foi capaz de identificar a cor de pele com cerca de 90% de precisão em todas as áreas do corpo.

Para investigar se a IA estava usando covariáveis, como índice de massa corporal (IMC) ou densidade da mama, para fazer suas suposições, os pesquisadores removeram essas variáveis e mostraram apenas os conjuntos de dados de pessoas com IMC e tipos corporais semelhantes.

Apesar disso, a IA ainda foi capaz de identificar com precisão. Os pesquisadores não têm certeza de como a tecnologia é capaz de fazer isso, mas uma hipótese é que ela possa identificar variações na melanina entre a pele de pessoas negras e brancas, que podem aparecer em tomografias e raios-X e que os humanos nunca notaram.

Os resultados do estudo levantaram preocupações sobre o uso de IA em hospitais e o potencial dela reagir de maneira diferente a diferentes pessoas. Os pesquisadores pediram cautela ao trazer algoritmos para hospitais e clínicas até que se possa garantir que eles não estão tomando decisões racistas ou sexistas.