« L’intelligence artificielle (IA) présente un immense potentiel pour améliorer la santé de millions de personnes dans le monde, mais comme pour toute technologie, il peut aussi en être fait mauvais usage et elle peut entraîner des effets préjudiciables », déclare le directeur général de l’OMS, Tedros Adhanom, dans un communiqué. Le 28 juin 2021, l’Organisation Mondiale de la Santé (OMS) a publié un rapport (pdf) consacré à l’éthique et à la gouvernance de l’IA dans le domaine médical. L’organisation internationale y préconise 6 principes directeurs allant de la conception à l’utilisation de l’IA.

L’OMS estime que l’IA incarne une aubaine pour l’amélioration de la médecine. De fait, des IA réalisent des diagnostics médicaux avec plus de précisions que les Humains, sont capables de détecter des maladies rares à partir du visage, facilitent les soins cliniques, surveillent l’évolution des maladies… Mais pour qu’il y ait un bénéfice, l’Organisation Mondiale de la Santé préconise de placer au cœur du développement de l’IA l’éthique et les droits humains.

Une IA de santé efficace dans un pays ne doit pas être considérée comme universelle

L’utilisation de l’IA présente des risques sur l’éthique lors de la collecte et l’utilisation de données de santé, les biais algorithmiques, la sécurité des patients, la cybersécurité et l’environnement. Son développement pose également des questions sur la prise de décision et l’autonomie du personnel soignant et des patients. L’agence spécialisée de l’ONU avertit qu’il faut peser les intérêts des populations, ceux du développement commercial des entreprises et ceux des gouvernements usant de la surveillance et du contrôle social.

Pour l’organisation internationale, un emploi positif de l’IA dans un pays ne l’est pas forcément dans un autre. Ça serait le cas si le déploiement de l’IA venait à « supplanter les investissements et les stratégies de base nécessaires pour parvenir à la couverture sanitaire universelle ». Par ailleurs, les IA se nourrissent de données majoritairement collectées dans les pays à revenu élevé, ce qui pourrait altérer leur fonctionnement dans les pays à moyen et faible revenus.

« Un guide précieux pour les pays qui souhaitent maximiser les avantages de l’IA, tout en en minimisant les risques »

L’OMS affirme dans son communiqué que « les systèmes d’IA doivent donc être soigneusement conçus afin qu’ils tiennent compte de la diversité des contextes socio-économiques et de soins de santé ». Pour cela l’agence recommande d’accompagner le développement médical de l’IA avec une participation et une sensibilisation des communautés ainsi que des formations du personnel soignant aux compétences numériques.

« Ce nouveau rapport, d’une importance capitale, constitue un guide précieux pour les pays qui souhaitent maximiser les avantages de l’IA, tout en en minimisant les risques et en évitant les pièges », soutient le Directeur général de l’OMS. Ces lignes directrices se concrétisent avec 6 principes pour que l’IA et l’intérêt public marchent main dans la main :

  • « Protéger l’autonomie de l’être humain » afin de garder un contrôle sur les décisions médicales et sur la vie privée ;
  • « Promouvoir le bien-être et la sécurité des personnes ainsi que l’intérêt public » en respectant les obligations réglementaires et en se dotant de mesures de contrôle de l’utilisation de l’IA ;
  • « Garantir la transparence, la clarté et l’intelligibilité » en documentant la conception et le déploiement d’IA de santé, notamment avec des consultations et des débats publics ;
  • « Encourager la responsabilité et l’obligation de rendre des comptes » pour que les décisions prises par des algorithmes puissent être contestées ;
  • « Garantir l’inclusion et l’équité » en assurant un accès équitable sans discrimination liée à l’âge, au sexe, aux revenus, à l’origine ethnique, à l’orientation sexuelle et autres caractéristiques protégées par les droits humains ;
  • « Promouvoir une IA réactive et durable » avec une évaluation des applications de l’IA pour s’assurer qu’elles répondent à des besoins tout en améliorant leur efficacité énergétique. Les changements que l’IA apportera au monde du travail, notamment sur l’évolution des formations et les pertes d’emplois possibles, doivent être anticipés par les gouvernements et entreprises. Ce rapport résulte de 18 mois de consultations entre des experts en éthique, technologie et sur les droits humains.