Alors que la technologie de développement de chatbots alimentés par l'intelligence artificielle existe depuis un sure temps, un nouveau position de vue dans JAMA présente les facets cliniques, éthiques et juridiques qui doivent être pris en compte avant de les appliquer dans les soins de santé. Et bien que l'émergence du COVID-19 et la distanciation sociale qui l'accompagne ont incité davantage de systèmes de santé à explorer et à appliquer des chatbots automatisés, les auteurs exhortent toujours à la prudence et à la réflexion avant de continuer.




"Nous devons reconnaître qu'il s'agit d'une technologie relativement nouvelle et même pour les systèmes moreover anciens qui étaient en position, les données sont limitées", a déclaré l'auteur principal du stage de vue, John D. McGreevey III, MD, professeur agrégé de médecine au Perelman École de médecine de l'Université de Pennsylvanie. «Tous les endeavours doivent également se rendre compte que la plupart des données dont nous disposons proviennent de la recherche et non de la mise en œuvre clinique à grande échelle. Sachant que, l'évaluation de ces systèmes doit être robuste lorsqu'ils entrent dans l'espace clinique, et ceux qui les exploitent doivent être suffisamment agiles pour s'adapter rapidement aux commentaires. "

Cadre proposé pour l'intégration des chatbots dans les soins de santé

McGreevey, rejoint par C. William Hanson III, MD, directeur de l'information médicale chez Penn Medication, et Ross Koppel, PhD, FACMI, chercheur principal au Leonard Davis Institute of Healthcare Economics à Penn et professeur d'informatique médicale, a écrit "Scientific, Areas juridiques et éthiques des brokers conversationnels assistés par IA. " Dans ce doc, les auteurs exposent 12 domaines d'intérêt différents qui doivent être pris en compte lors de la planification de la mise en œuvre d'un chatbot, ou, plus formellement, d'un «agent conversationnel» dans les soins cliniques.

Les chatbots sont un outil utilisé pour communiquer avec les people par SMS ou par la voix. De nombreux chatbots sont alimentés par l'intelligence artificielle (IA). Cet article traite spécifiquement des chatbots qui utilisent le traitement du langage naturel, un processus d'IA qui cherche à «comprendre» le langage utilisé dans les discussions et en tire des fils et des connexions pour fournir des réponses significatives et utiles.



Avec les soins de santé, ces messages et les réactions des gens à leur égard sont extrêmement importants et ont des conséquences tangibles.

«Nous sommes de moreover en furthermore en interaction directe avec nos clients par le biais de dossiers médicaux électroniques, leur donnant un accès direct aux résultats de leurs tests, diagnostics et notes des médecins», a déclaré Hanson. "Les chatbots ont la capacité d'améliorer la valeur de ces communications d'une section, ou de créer de la confusion ou même de nuire, d'autre component."

Par exemple, la façon dont un chatbot gère quelqu'un en lui disant quelque chose d'aussi grave que «je veux me blesser» a de nombreuses implications différentes.

Dans l'exemple de l'automutilation, plusieurs domaines d'intérêt définis par les auteurs s'appliquent. Cela concerne avant tout la catégorie «Sécurité des patients»: qui surveille le chatbot et à quelle fréquence le fait-il? Il aborde également «Confiance et transparence»: ce client prendrait-il réellement au sérieux une réponse d'un chatbot connu? Cela soulève aussi, malheureusement, des thoughts dans la catégorie "Authorized & Licensing" du journal: qui est responsable si le chatbot échoue dans sa tâche. De as well as, une query sous la catégorie "Portée" peut s'appliquer ici aussi: est-ce une tâche qui convient le mieux à un chatbot, ou est-ce quelque selected qui devrait encore être totalement géré par l'homme?

Selon leur level de vue, l'équipe pense avoir présenté des considérations clés qui peuvent éclairer un cadre de prise de décision lorsqu'il s'agit de mettre en œuvre des chatbots dans les soins de santé. Leurs considérations devraient s'appliquer même lorsqu'une mise en œuvre rapide est nécessaire pour répondre à des événements tels que la propagation du COVID-19.

"Dans quelle mesure les chatbots devraient-ils étendre les capacités des cliniciens, que nous appellerions l'intelligence augmentée, ou les remplacer par une intelligence totalement artificielle?" Dit Koppel. «De même, nous devons déterminer les limites de l’autorité du chatbot à exécuter dans différents scénarios cliniques, par exemple, lorsqu'un client indique qu’il a une toux, si le chatbot ne répond qu’en informant une infirmière ou en approfondissant:« Pouvez-vous dire m'en in addition sur ta toux? '"

Les chatbots ont la possibilité d'améliorer considérablement les résultats en matière de santé et de réduire les coûts de fonctionnement des systèmes de santé, mais l'évaluation et la recherche seront essentielles pour cela: à la fois pour assurer le bon fonctionnement et pour conserver la confiance des clients et des brokers de santé.

«Nous sommes convaincus que le travail n'est pas terminé lorsque l'agent conversationnel est déployé», a déclaré McGreevey. "Ces technologies auront de moreover en furthermore d'impact et mériteront d'être surveillées non seulement avant leur lancement, mais en continu tout au extensive du cycle de vie de leur travail avec les clients."