L’intelligence artificielle peut diagnostiquer la race en utilisant uniquement les rayons X, mais on ne déchiffre pas comment c’est possible !

Le médecin ne peut pas déterminer si le patient est noir, asiatique ou blanc simplement en regardant les radiographies. Une équipe internationale, comprenant des chercheurs du Massachusetts Institute of Technology et de la Harvard Medical School Lancet Santé numérique Un ordinateur pourrait faire cela, selon un article surprenant publié dans une revue médicale ![2]

L’étude a montré qu’un programme d’intelligence artificielle capable de lire les rayons X et les tomodensitogrammes identifie la race d’une personne à 90%. véritéIl a découvert qu’il ne pouvait que spéculer. Mais les scientifiques qui ont mené l’étude disent qu’ils n’ont aucune idée de la façon dont cet ordinateur l’a résolu. Marzyeh Ghassemi, professeur adjoint de génie électrique et d’informatique au MIT et co-auteur de l’article, a déclaré :

Lorsque des étudiants diplômés m’ont montré certains des résultats de cet article, j’ai pensé qu’il devait s’agir d’une erreur. Pour être honnête, je pensais que mes étudiants étaient fous quand ils me l’ont dit.

Risque énorme pour la médecine assistée par intelligence artificielle !

À une époque où les médecins utilisent de plus en plus des logiciels basés sur l’intelligence artificielle pour diagnostiquer les maladies, cette recherche soulève la possibilité inquiétante que les systèmes de diagnostic basés sur l’intelligence artificielle puissent produire par inadvertance des résultats biaisés par la race. Dans leurs travaux, les chercheurs écrivent :

Résultats de notre étude, apprentissage profond avec intelligence artificielle maquetteLa capacité des patients à anticiper les courses rapportées par les patients est en soi un enjeu important. oui tu n’es pas souligne. Cependant, l’intelligence artificielle est courante CliniqueNotre constatation qu’il pouvait prédire avec précision la race rapportée par les patients, même sur la base d’images médicales déformées, excisées, voire parasitaires, alors que les experts humains ne pouvaient pas maquettepour risque très élevé formes.

Rayons X délibérément déformés à partir d’un ensemble de données utilisées par les chercheurs.
Lancet Santé numérique

Par exemple, l’intelligence artificielle avec accès aux rayons X, pour une personne précise si ce traitement est le meilleur ou non, pour tous les patients noirs peut recommander automatiquement un traitement spécifique. En revanche, le patient Humain Il n’aurait pas su que son médecin, qui était un psychiatre, avait fondé son diagnostic d’IA sur des données raciales.

Autre contenu lié à l’intelligence artificielle ›

La recherche est destinée aux scientifiques pour étudier les radiographies pulmonaires. après que le programme d’IA s’est rendu compte que les Noirs étaient plus susceptibles de manquer de symptômes est né. Leo Anthony Celi, un autre co-auteur et professeur associé à la Harvard Medical School, demande :

Si les ordinateurs ne peuvent pas dire la race d’une personne, comment cela serait-il possible ?

Pouvez-vous deviner la race du patient sur cette photo ?
Pouvez-vous deviner la race du patient sur cette photo ?
Globe de Boston

L’équipe de recherche, qui comprend des scientifiques des États-Unis, du Canada, d’Australie et de Taïwan, a été la première à former le système d’IA à l’aide d’ensembles de données normalisés de rayons X et de tomodensitométrie, où chaque image est marquée de la race d’une personne. Photos, poitrine, bras et pour la vieils provenaient de différentes parties du corps, y compris lui. ordinateur revu diagnostic photos, couleur de peau ou de cheveux tissuil n’incluait aucune étiquette raciale évidente telle que l’eau.

Beaucoup de logiciels les courses Après l’affichage de l’image étiquetée, différents ensembles d’images qui n’ont pas encore été étiquetées sont affichés. Le programme montre que les gens sont sur les photos les coursesIl a pu le détecter avec une précision remarquable, en moyenne bien au-dessus de 90 %. Même lors de l’analyse d’images de personnes de même taille, âge ou sexe, l’IA a distingué avec précision les patients en noir et blanc. Mais comment?

Taux de réussite de l'intelligence artificielle dans le diagnostic racial.  Les nombres ont des valeurs comprises entre 0 et 1.
Taux de réussite de l’intelligence artificielle dans le diagnostic racial. Les nombres ont des valeurs comprises entre 0 et 1.
Lancet Santé numérique

Comment l’intelligence artificielle connaît-elle la race ?

À leur grande surprise, Ghassemi et ses collègues soupçonnent que cela a quelque chose à voir avec la mélanine, le pigment qui détermine la couleur de la peau. Peut-être que les rayons X et les tomodensitomètres peuvent créer des motifs de tons ou de formes différents, influencés par une teneur plus élevée en mélanine dans les peaux plus foncées, même s’ils sont invisibles à l’œil humain, et traiter ces informations en une image numérique d’une manière que les utilisateurs humains n’ont jamais remarqué auparavant. Il faudra beaucoup plus de recherches pour en être sûr.

Les résultats des tests peuvent-ils être la preuve de différences innées entre des personnes de races différentes ?

Biologie au Hampshire College anthropologie professeur je Le racisme n’est pas une race (Taper: Pas la race, le racisme) Alan Goodman, co-auteur du livre, ne le pense pas (L’arbre de l’évolution En conséquence, nous avons déjà expliqué que la race n’est pas une métrique biologique significative aujourd’hui).

Goodman est sceptique quant aux résultats et dit qu’il doute que d’autres chercheurs puissent reproduire les résultats. Mais même s’ils le sont, il pense que c’est une question de géographie, pas de race.

Homme bon, génétiquepersonnes génomeIl dit qu’il n’a trouvé aucune preuve de différences raciales significatives dans la farine. Cependant, il est possible de trouver de grandes différences entre les personnes, selon l’endroit où vivaient leurs ancêtres. Bonman demande :

Si vous regardiez les coordonnées géographiques de quelqu’un au lieu de sa race, la machine ferait-elle de même ? Mon avis est que la machine fera de même.

En d’autres termes, l’IA peut déterminer sur une radiographie que l’origine d’une personne est d’Europe du Nord, une autre d’Afrique centrale et l’origine d’une troisième personne du Japon. Goodman dit :

On pourrait appeler ça une course. C’est ce que j’appelle la diversité géographique.

Cependant, il admet qu’il n’est pas clair comment l’intelligence artificielle pourrait détecter cette variation géographique uniquement sur une radiographie.

Dans tous les cas, a déclaré Celi, les médecins devraient être réticents à utiliser des outils de diagnostic d’IA qui peuvent automatiquement produire des résultats biaisés.

Leave a Comment