L'OMS publie le premier rapport mondial sur l'intelligence artificielle (IA) en santé et six principes directeurs pour sa conception et son utilisation
L'intelligence artificielle (IA) est très prometteuse pour améliorer la prestation des soins de santé et de la médecine dans le monde, mais seulement si l'éthique et les droits de l'homme sont au cœur de sa conception, de son déploiement et de son utilisation, selon les nouvelles directives de l'OMS publiées aujourd'hui.
Le rapport, Éthique et gouvernance de l'intelligence artificielle pour la santé, est le résultat de 2 ans de consultations tenues par un panel d'experts internationaux nommés par l'OMS.
« Comme toutes les nouvelles technologies, l'intelligence artificielle recèle un énorme potentiel pour améliorer la santé de millions de personnes dans le monde, mais comme toutes les technologies, elle peut également être mal utilisée et causer des dommages », a déclaré le Dr Tedros Adhanom Ghebreyesus, directeur général de l'OMS. «Ce nouveau rapport important fournit un guide précieux aux pays sur la manière de maximiser les avantages de l'IA, tout en minimisant ses risques et en évitant ses pièges.»
L'intelligence artificielle peut l'être, et dans certains pays riches, elle est déjà utilisée pour améliorer la vitesse et la précision du diagnostic et du dépistage des maladies ; aider aux soins cliniques; renforcer la recherche en santé et le développement de médicaments, et soutenir diverses interventions de santé publique, telles que la surveillance des maladies, la riposte aux épidémies et la gestion des systèmes de santé.
L'IA pourrait également permettre aux patients de mieux contrôler leurs propres soins de santé et de mieux comprendre l'évolution de leurs besoins. Cela pourrait également permettre aux pays pauvres en ressources et aux communautés rurales, où les patients ont souvent un accès restreint aux agents de santé ou aux professionnels de la santé, de combler les lacunes dans l'accès aux services de santé.
Cependant, le nouveau rapport de l'OMS met en garde contre la surestimation des avantages de l'IA pour la santé, en particulier lorsque cela se produit au détriment des investissements et des stratégies de base nécessaires pour atteindre la couverture sanitaire universelle.
Il souligne également que les opportunités sont liées aux défis et aux risques, y compris la collecte et l'utilisation contraires à l'éthique des données sur la santé ; les biais encodés dans les algorithmes et les risques de l'IA pour la sécurité des patients, la cybersécurité et l'environnement.
Par exemple, alors que les investissements des secteurs privé et public dans le développement et le déploiement de l'IA sont essentiels, l'utilisation non réglementée de l'IA pourrait subordonner les droits et les intérêts des patients et des communautés aux puissants intérêts commerciaux des entreprises technologiques ou aux intérêts des gouvernements en matière de surveillance et controle social.
Le rapport souligne également que les systèmes formés principalement sur les données collectées auprès des individus dans les pays à revenu élevé peuvent ne pas bien fonctionner pour les individus dans les milieux à revenu faible et intermédiaire.
Les systèmes d'IA doivent donc être soigneusement conçus pour refléter la diversité des contextes socio-économiques et de soins de santé. Ils doivent s'accompagner d'une formation aux compétences numériques, à l'engagement communautaire et à la sensibilisation, en particulier pour des millions de professionnels de la santé qui auront besoin d'une alphabétisation numérique ou d'un recyclage si leurs rôles et fonctions sont automatisés, et qui doivent faire face à des machines qui pourraient remettre en cause la décision. et l'autonomie des prestataires et des patients.
En fin de compte, guidés par les lois existantes et les obligations en matière de droits de l'homme, ainsi que par les nouvelles lois et politiques qui consacrent les principes éthiques, les gouvernements, les fournisseurs et les concepteurs doivent travailler ensemble pour répondre aux préoccupations en matière d'éthique et de droits de l'homme à chaque étape de la conception, du développement et du déploiement d'une technologie d'IA .
Six principes pour garantir que l'IA fonctionne dans l'intérêt public dans tous les pays
Pour limiter les risques et maximiser les opportunités intrinsèques à l'utilisation de l'IA pour la santé, l'OMS fournit les principes suivants comme base de la réglementation et de la gouvernance de l'IA :
Protéger l'autonomie humaine: Dans le contexte des soins de santé, cela signifie que les humains doivent rester maîtres des systèmes de santé et des décisions médicales ; la vie privée et la confidentialité doivent être protégées, et les patients doivent donner un consentement éclairé valide par le biais de cadres juridiques appropriés pour la protection des données.
Promouvoir le bien-être et la sécurité des personnes et l'intérêt public. Les concepteurs de technologies d'IA doivent satisfaire aux exigences réglementaires en matière de sécurité, de précision et d'efficacité pour des cas d'utilisation ou des indications bien définis. Des mesures de contrôle de la qualité dans la pratique et d'amélioration de la qualité dans l'utilisation de l'IA doivent être disponibles.
Assurer la transparence, l'explicabilité et l'intelligibilité. La transparence exige que des informations suffisantes soient publiées ou documentées avant la conception ou le déploiement d'une technologie d'IA. Ces informations doivent être facilement accessibles et faciliter une consultation et un débat publics significatifs sur la façon dont la technologie est conçue et comment elle doit ou ne doit pas être utilisée.
Favoriser la responsabilité et l'imputabilité. Bien que les technologies d'IA effectuent des tâches spécifiques, il est de la responsabilité des parties prenantes de s'assurer qu'elles sont utilisées dans des conditions appropriées et par des personnes correctement formées. Des mécanismes efficaces devraient être disponibles pour l'interrogatoire et la réparation des individus et des groupes qui sont lésés par des décisions basées sur des algorithmes.
Assurer l'inclusion et l'équité. L'inclusivité exige que l'IA pour la santé soit conçue pour encourager l'utilisation et l'accès équitables le plus large possible, indépendamment de l'âge, du sexe, du sexe, du revenu, de la race, de l'origine ethnique, de l'orientation sexuelle, des capacités ou d'autres caractéristiques protégées par les codes des droits humains.
Promouvoir une IA réactive et durable. Les concepteurs, les développeurs et les utilisateurs doivent évaluer de manière continue et transparente les applications d'IA lors de leur utilisation réelle pour déterminer si l'IA répond de manière adéquate et appropriée aux attentes et aux exigences. Les systèmes d'IA devraient également être conçus pour minimiser leurs conséquences environnementales et augmenter l'efficacité énergétique. Les gouvernements et les entreprises doivent faire face aux perturbations anticipées sur le lieu de travail, notamment en formant les travailleurs de la santé à s'adapter à l'utilisation des systèmes d'IA, et aux pertes d'emplois potentielles dues à l'utilisation de systèmes automatisés.
Ces principes guideront les futurs travaux de l'OMS pour soutenir les efforts visant à garantir que le plein potentiel de l'IA pour les soins de santé et la santé publique sera utilisé au profit de tous.
De https://www.who.int/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its -conception-et-utilisation
