La poursuite d’une intelligence artificielle (IA) équitable pour les soins de santé nécessite une collaboration entre industry experts de toutes disciplines, déclare une équipe mondiale de scientifiques dirigée par la Duke-NUS Health care University dans une nouvelle standpoint publiée dans npj Electronic Medication.
Même si l’IA a démontré son potentiel en termes d’informations sur les soins de santé, les inquiétudes concernant les biais demeurent. « Un modèle équitable devrait fonctionner aussi bien dans des sous-groupes tels que l’âge, le sexe et la race. Cependant, les différences de performance peuvent avoir des raisons cliniques sous-jacentes et n’indiquent pas nécessairement une injustice », a expliqué la première auteure, Mme Liu Mingxuan, doctorante dans le domaine quantitatif. Programme de biologie et de médecine (biostatistique et science des données de santé) et Centre de médecine quantitative (CQM) à Duke-NUS.
« Se concentrer sur l’équité, c’est-à-dire reconnaître des facteurs tels que la race, le sexe, and so on. et ajuster l’algorithme de l’IA ou son application pour garantir que les groupes les additionally vulnérables reçoivent les soins dont ils ont besoin, plutôt que sur l’égalité complète, est probablement une solution furthermore raisonnable. approche pour l’IA clinique », a déclaré le Dr Ning Yilin, chercheur au CQM et co-premier auteur de l’article. « Les préférences des clients et le pronostic sont également des considérations cruciales, motor vehicle l’égalité de traitement ne signifie pas toujours un traitement équitable. Un exemple en est l’âge, qui est souvent pris en compte dans les décisions et les résultats du traitement. »
Le doc achieved en évidence les principaux décalages entre la recherche sur l’équité de l’IA et les besoins cliniques. « Il existe diverses mesures pour mesurer l’équité des modèles, mais choisir celles qui conviennent aux soins de santé est difficile automobile elles peuvent entrer en conflit. Les compromis sont souvent inévitables », a commenté le professeur agrégé Liu Nan également du CQM de Duke-NUS, auteur principal et correspondant de l’article..
Il a ajouté : « Les différences détectées entre les groupes sont souvent traitées comme des biais à atténuer dans la recherche sur l’IA. Cependant, dans le contexte médical, nous devons faire la distinction entre les différences significatives et les véritables biais nécessitant une correction. »
Les auteurs soulignent la nécessité d’évaluer quels attributs sont considérés comme « sensibles » pour chaque software. Ils affirment qu’il est essentiel d’impliquer activement les cliniciens pour développer des modèles d’IA utiles et équitables.
« Les variables telles que la race et l’origine ethnique doivent être traitées avec soin motor vehicle elles peuvent représenter des préjugés systémiques ou des différences biologiques », a déclaré le professeur associé Liu. « Les cliniciens peuvent fournir un contexte, déterminer si les différences sont justifiées et guider les modèles vers des décisions équitables. »
Dans l’ensemble, les auteurs soutiennent que la poursuite d’une IA équitable pour les soins de santé nécessite une collaboration entre professionals en IA, en médecine, en éthique et au-delà.
« Parvenir à l’équité dans l’utilisation de l’IA dans les soins de santé est une question importante mais très complexe. Malgré les développements considérables dans les méthodologies d’IA équitable, il reste difficile de les traduire dans la pratique clinique réelle en raison de la nature des soins de santé – qui impliquent des aspects biologiques, éthiques et considérations sociales. Afin de faire progresser les pratiques d’IA au profit des soins aux people, les cliniciens, les authorities en IA et l’industrie doivent travailler ensemble et prendre des mesures actives pour garantir l’équité dans l’IA », a déclaré le co-auteur, professeur agrégé Daniel Ting, directeur du bureau d’IA de SingHealth et Professeur agrégé du programme clinique universitaire d’ophtalmologie et de sciences visuelles SingHealth Duke-NUS. Il est également consultant principal au Singapore National Eye Centre et responsable de l’IA et de l’innovation numérique au Singapore Eye Investigate Institute (SERI).
« Cet short article achieved en évidence les complexités de la traduction des approaches d’équité de l’IA en programs cliniques éthiques. Il représente notre engagement collectif à développer une IA qui donne aux cliniciens des informations fiables pour fournir des soins de qualité et équitables améliorés par la technologie », a remarqué le professeur agrégé clinique Lionel Cheng, co-auteur. Tim-Ee, directeur des données et du numérique, directeur clinique (IA) du futur département du système de santé et expert principal, département de radiologie diagnostique de l’hôpital général de Singapour (SGH).
« Les cliniciens doivent être activement engagés dans une conversation itérative avec les développeurs d’IA pour garantir que les modèles s’alignent sur l’éthique médicale et le contexte », a souligné le co-auteur principal, le professeur Marcus Ong, directeur du programme de recherche sur les providers et systèmes de santé (HSSR) à Duke-NUS, qui est également marketing consultant principal au département de médecine d’urgence de SGH. « Les bonnes intentions ne peuvent à elles seules garantir une IA équitable, à moins que nous n’ayons une surveillance collective de la aspect de divers specialists, prenant en compte toutes les nuances sociales et éthiques. La recherche d’une IA équitable et impartiale pour améliorer les soins de santé nécessitera des dialogues ouverts et interdisciplinaires.
Le stage de vue publié dans npj Digital Medication représente une collaboration internationale entre des chercheurs d’institutions de Singapour, de Belgique et des États-Unis. Des auteurs du centre médical universitaire SingHealth Duke-NUS (dont Duke-NUS, SingHealth, SGH, Singapore Eye Research Institute et Singapore Nationwide Eye Centre) ont travaillé en collaboration avec des professionals de l’Université d’Anvers en Belgique ainsi que de Weill Cornell Medicine, Massachusetts. Institute of Technological innovation, Beth Israel Deaconess Healthcare Heart et Harvard TH Chan University of General public Health and fitness aux États-Unis.
Le professeur Patrick Tan, vice-doyen principal pour la recherche à Duke-NUS, a commenté : « Cette coopération mondiale illustre les dialogues interdisciplinaires nécessaires pour faire progresser les procedures d’IA équitables pour améliorer les soins de santé. Nous espérons que cet exertion de collaboration s’étendant à Singapour, en Europe et aux États-Unis fournit des views précieuses pour inspirer de nouveaux partenariats multinationaux vers une IA équitable et impartiale.
