Le Quotidien Shaarli

Tous les liens d'un jour sur une page.

12/12/2020

Etats-Unis : Un algorithme raciste a privé des patients noirs d’une greffe de rein dont ils avaient besoin - Choses vues, sur le web et ailleurs - Antichesse (o ^ω^ o) - Les petits liens de Lou - Antichesse

Je rattrape ma lecture en retard...

J’ai lu la série de posts sur ce problème, que je comprend parfaitement, quand on bosse dans un SI on est surpris de constater à quel point certains devs ou même leur management peuvent s’en b~ l~ c~ d’écrire des tests (étant moi même impliquée, je lutte pour le retour des tests mais personne n’est prêt à remettre en question son confort pour moi. Bande de s~ xD), donc je ne serai pas surprise que cet algo n’ait juste pas été testé ou alors qu’avec uniquement un ou deux voire trois cas nominaux par un QA de bonne volonté :

  • personne âgée qui a un rein défaillant
  • enfant de 8 ans avec un cœur malade
  • personne d’âge moyen mais fumeur

D’ailleurs si aucune couleur de peau n’est définie, quelle valeur prendra cette variable par défaut ? Est-ce vraiment la couleur de peau ou l’ethnie qui est indiquée ?
On pourrait me dire que ce genre d’information ne devrait pas être prise en compte, et honnêtement je n’en sais rien, je ne suis pas médecin. Je suppose qu’en fonction des ethnies, les risques de maladies génétiques ne sont pas les mêmes, et que cette information doit avoir un intérêt, mais très honnêtement je n’en ai aucune certitude, donc je ne vais pas partir dans le procès d’intention, et juste partir du constat que ça existe.

Bref, il serait intéressant de voir comment est foutu le logiciel ! Si c’est un réseau de neurones derrière, alors les gens vont être déçus, c’est le jeu de données étalon en entrée qui a influencé les résultats futurs. Pas de volonté perverse derrière cela. Vu que le réseau de neurones décide tout seul des critères d’affectation, et qu’on a aucun moyen de vérifier les critères qu’il a choisi, il a peut être fait un lien direct implicite noir -> pauvre -> mauvais candidat, puisque les données en entrée l’ont conduit à se calibrer de cette manière (les personnes noires de son jeu de données d’entrée ont été refusés à 80% par exemple - après il faut voir pourquoi, mais ça l’IA s’en moque). Si en plus l’IA a mis en relation pauvre -> drogue ou pauvre -> obésité, alors là c’est mort, t’es foutu.
L’IA n’est pas prête à décider en autonomie sans une revue par un être humain.

Néanmoins je voudrais rajouter un autre point, qui me semble important et qui me dérange dans vos échange avec Lou.
Vous passez votre temps à parler des États-Unis d’Amérique comme si les choses se passaient là-bas comme en France. La lutte des classes est une histoire typiquement Française et la lutte raciale appartient aux E-U. N’apportez pas l’un chez l’autre.
J’ai regardé quelques vidéos d’expatriés noirs américains en France pour voir leur avis, à eux, concernant le traitement des personnes de couleurs.

APARTÉ un peu troll : d’ailleurs je rappelle ce bel effort des universités américaines, qui ont classé les ethnies et considèrent que les ressortissants maghrébins, les personnes des Émirats Arabes Unis, et les asiatiques sont blancs (moi ça ne me dérange pas, à voir ce que pensent les concernes, se sentent-ils privilégiés ?). D’ailleurs les espagnols et les portugais sont blancs aussi, mais les mexicains sont latinos... MAIS ARRÊTEZ DE CLASSER LES GENS BON SANG ! Ça n’a aucun sens...
Source : un serbe sur YouTube xD https://m.youtube.com/watch?v=0c4cf6JkSnc

Bref, je reviens aux témoignages des personnes noires Américaines à Paris. Je retiens plusieurs choses :

  • Aux US le sentiment communautaire noir est très développé (ils se saluent dans la rue sans se connaître par exemple)

  • À Paris, ils n’ont pas réussi à créer des groupes de rencontres dédiés aux personnes noires, personne n’était intéressé (pourquoi ? Apparemment parce que les personnes noires en France viennent de beaucoup d’endroit, Gabon, Sénégal, ... et ne se sentent pas proches les uns des autres, là ou, aux US, l’immigration noire est moins facile du fait de la distance. Les noirs américains sont souvent issus d’une même histoire)

  • Aux US, les personnes restent énormément entre communauté. La personne de la vidéo (que j’ai mis ci-dessous pour référence) dit même que les noirs Américains se sont « self-segregated » (ségrégués eux-mêmes)

  • À Paris, les expatriés noirs ont eu le sentiment d’être égaux aux autres personnes, et même, les petites attentions communautaires leur ont un peu manqué (je comprend c’est chouette d’appartenir à une famille)

Bref l’une des vidéo que j’ai trouvé intéressante sur le sujet, et que je vous partage :
https://m.youtube.com/watch?v=HNiWNfzP1sw

Donc je comprend le souhait de se rattacher à quelque chose que l’on connaît mais :

  • les personnes noires en France ne sont pas de la même origine que les noirs Américains et il y a de fortes chances que leurs soucis à eux soient liés à la pauvreté.
  • les personnes noires aux US sont dans des communautés actives, et ils y a des fortes chances que les problèmes de ségrégation là-bas soient différent du contexte français.

Donc je pense qu’il serait intéressant d’éviter de ramener les problèmes américains en France et les problèmes France aux US (de toutes façons, la plupart des américains ne savent même pas que l’on existe, sauf pour les marques de luxe).

Prenez soin de vous, et mangez des légumes !