{"id":12389,"date":"2024-04-17T18:01:02","date_gmt":"2024-04-17T16:01:02","guid":{"rendered":"https:\/\/toukiela.com\/attention-lintelligence-artificielle-generative-debarque-dans-le-domaine-de-la-sante-et-ca-ne-plait-pas-a-tout-le-monde\/"},"modified":"2024-04-17T18:01:04","modified_gmt":"2024-04-17T16:01:04","slug":"attention-lintelligence-artificielle-generative-debarque-dans-le-domaine-de-la-sante-et-ca-ne-plait-pas-a-tout-le-monde","status":"publish","type":"post","link":"https:\/\/toukiela.com\/fr_be\/attention-lintelligence-artificielle-generative-debarque-dans-le-domaine-de-la-sante-et-ca-ne-plait-pas-a-tout-le-monde\/","title":{"rendered":"Attention ! L&rsquo;intelligence artificielle g\u00e9n\u00e9rative d\u00e9barque dans le domaine de la sant\u00e9 et \u00e7a ne pla\u00eet pas \u00e0 tout le monde !"},"content":{"rendered":"<p><em><\/em><\/p>\n<h2>La mont\u00e9e en puissance de l\u2019IA g\u00e9n\u00e9rative dans le domaine de la sant\u00e9<\/h2>\n<p><\/p>\n<p>L\u2019IA g\u00e9n\u00e9rative, qui peut cr\u00e9er et analyser des images, du texte, de l\u2019audio, des vid\u00e9os et bien plus encore, fait de plus en plus son entr\u00e9e dans le domaine de la sant\u00e9, soutenue \u00e0 la fois par les g\u00e9ants de la technologie et les start-ups.<\/p>\n<p><\/p>\n<p>Google Cloud, la division de services et de produits cloud de Google, collabore avec Highmark Health, une entreprise de sant\u00e9 \u00e0 but non lucratif bas\u00e9e \u00e0 Pittsburgh, sur des outils d\u2019IA g\u00e9n\u00e9rative con\u00e7us pour personnaliser l\u2019exp\u00e9rience d\u2019admission des patients. La division AWS d\u2019Amazon d\u00e9clare travailler avec des clients non divulgu\u00e9s sur un moyen d\u2019utiliser l\u2019IA g\u00e9n\u00e9rative pour analyser les bases de donn\u00e9es m\u00e9dicales afin de d\u00e9terminer les \u00ab\u00a0d\u00e9terminants sociaux de la sant\u00e9\u00a0\u00bb. Et Microsoft Azure aide \u00e0 cr\u00e9er un syst\u00e8me d\u2019IA g\u00e9n\u00e9rative pour Providence, le r\u00e9seau de soins de sant\u00e9 \u00e0 but non lucratif, afin de trier automatiquement les messages envoy\u00e9s par les patients aux prestataires de soins.<\/p>\n<p><\/p>\n<p>Les start-ups d\u2019IA g\u00e9n\u00e9rative les plus prometteuses dans le domaine de la sant\u00e9 comprennent Ambience Healthcare, qui d\u00e9veloppe une application d\u2019IA g\u00e9n\u00e9rative pour les cliniciens ; Nabla, un assistant d\u2019IA ambiante pour les praticiens ; et Abridge, qui cr\u00e9e des outils d\u2019analyse pour la documentation m\u00e9dicale.<\/p>\n<p><\/p>\n<p>L\u2019enthousiasme g\u00e9n\u00e9ralis\u00e9 pour l\u2019IA g\u00e9n\u00e9rative se refl\u00e8te dans les investissements dans les efforts d\u2019IA g\u00e9n\u00e9rative ciblant la sant\u00e9. Collectivement, les start-ups d\u2019IA g\u00e9n\u00e9rative dans le domaine de la sant\u00e9 ont lev\u00e9 des dizaines de millions de dollars de capital-risque \u00e0 ce jour, et la grande majorit\u00e9 des investisseurs en sant\u00e9 affirment que l\u2019IA g\u00e9n\u00e9rative a influenc\u00e9 de mani\u00e8re significative leurs strat\u00e9gies d\u2019investissement.<\/p>\n<p><\/p>\n<p>Mais tant les professionnels que les patients sont partag\u00e9s quant \u00e0 savoir si l\u2019IA g\u00e9n\u00e9rative ax\u00e9e sur la sant\u00e9 est pr\u00eate pour le grand public.<\/p>\n<p><\/p>\n<h2>L\u2019IA g\u00e9n\u00e9rative pourrait ne pas \u00eatre ce que les gens veulent<\/h2>\n<p><\/p>\n<p>D\u2019apr\u00e8s une r\u00e9cente enqu\u00eate de Deloitte, seulement environ la moiti\u00e9 (53 %) des consommateurs am\u00e9ricains estiment que l\u2019IA g\u00e9n\u00e9rative pourrait am\u00e9liorer les soins de sant\u00e9, par exemple en les rendant plus accessibles ou en r\u00e9duisant les temps d\u2019attente pour les rendez-vous. Moins de la moiti\u00e9 estime que l\u2019IA g\u00e9n\u00e9rative pourrait rendre les soins m\u00e9dicaux plus abordables.<\/p>\n<p><\/p>\n<p>Andrew Borkowski, directeur de l\u2019IA au sein du r\u00e9seau de soins de sant\u00e9 VA Sunshine Healthcare Network, le plus grand syst\u00e8me de sant\u00e9 du D\u00e9partement am\u00e9ricain des anciens combattants, estime que le scepticisme est justifi\u00e9. Borkowski a mis en garde contre le d\u00e9ploiement pr\u00e9matur\u00e9 de l\u2019IA g\u00e9n\u00e9rative en raison de ses \u00ab\u00a0limites significatives\u00a0\u00bb et des pr\u00e9occupations concernant son efficacit\u00e9.<\/p>\n<p><\/p>\n<p>Plusieurs \u00e9tudes sugg\u00e8rent que ces points sont fond\u00e9s.<\/p>\n<p><\/p>\n<p>Dans un article paru dans le journal JAMA Pediatrics, le chatbot d\u2019IA g\u00e9n\u00e9rative de OpenAI, ChatGPT, utilis\u00e9 pour des cas d\u2019utilisation limit\u00e9s par certaines organisations de sant\u00e9, a \u00e9t\u00e9 trouv\u00e9 pour faire des erreurs de diagnostic dans 83% des cas. Et lors de tests sur l\u2019utilisation de GPT-4 de OpenAI en tant qu\u2019assistant de diagnostic, les m\u00e9decins du Beth Israel Deaconess Medical Center de Boston ont constat\u00e9 que le mod\u00e8le classait le mauvais diagnostic en premi\u00e8re position pr\u00e8s de deux fois sur trois.<\/p>\n<p><\/p>\n<p>L\u2019IA g\u00e9n\u00e9rative d\u2019aujourd\u2019hui a \u00e9galement du mal avec les t\u00e2ches administratives m\u00e9dicales qui font partie du quotidien des cliniciens. Sur le benchmark MedAlign, qui \u00e9value la capacit\u00e9 de l\u2019IA g\u00e9n\u00e9rative \u00e0 r\u00e9sumer les dossiers de sant\u00e9 des patients et \u00e0 effectuer des recherches dans les notes, GPT-4 a \u00e9chou\u00e9 dans 35% des cas.<\/p>\n<p><\/p>\n<p>OpenAI et de nombreux autres fournisseurs d\u2019IA g\u00e9n\u00e9rative avertissent contre l\u2019utilisation de leurs mod\u00e8les pour des conseils m\u00e9dicaux. Mais Borkowski et d\u2019autres estiment qu\u2019ils pourraient en faire plus. \u00ab\u00a0Se fier uniquement \u00e0 l\u2019IA g\u00e9n\u00e9rative pour les soins de sant\u00e9 pourrait conduire \u00e0 des erreurs de diagnostic, \u00e0 des traitements inappropri\u00e9s, voire \u00e0 des situations mettant la vie en danger\u00a0\u00bb, a d\u00e9clar\u00e9 Borkowski.<\/p>\n<p><\/p>\n<p>Jan Egger, responsable des th\u00e9rapies guid\u00e9es par l\u2019IA \u00e0 l\u2019Institut pour l\u2019IA en m\u00e9decine de l\u2019Universit\u00e9 de Duisburg-Essen, partage les pr\u00e9occupations de Borkowski. Il estime que la seule fa\u00e7on s\u00fbre d\u2019utiliser l\u2019IA g\u00e9n\u00e9rative dans les soins de sant\u00e9 actuellement est sous le regard attentif d\u2019un m\u00e9decin.<\/p>\n<p><\/p>\n<p>\u00ab\u00a0Les r\u00e9sultats peuvent \u00eatre totalement erron\u00e9s, et il est de plus en plus difficile de s\u2019en rendre compte\u00a0\u00bb, a d\u00e9clar\u00e9 Egger. \u00ab\u00a0Bien s\u00fbr, l\u2019IA g\u00e9n\u00e9rative peut \u00eatre utilis\u00e9e, par exemple, pour la r\u00e9daction pr\u00e9alable de lettres de sortie. Mais les m\u00e9decins ont la responsabilit\u00e9 de la v\u00e9rifier et de prendre la d\u00e9cision finale.\u00a0\u00bb<\/p>\n<p><\/p>\n<h2>L\u2019IA g\u00e9n\u00e9rative peut perp\u00e9tuer les st\u00e9r\u00e9otypes<\/h2>\n<p><\/p>\n<p>Une fa\u00e7on particuli\u00e8rement pr\u00e9judiciable dont l\u2019IA g\u00e9n\u00e9rative en m\u00e9decine peut se tromper est en perp\u00e9tuant les st\u00e9r\u00e9otypes.<\/p>\n<p><\/p>\n<p>Dans une \u00e9tude de 2023 men\u00e9e par des chercheurs de Stanford Medicine, ChatGPT et d\u2019autres chatbots aliment\u00e9s par l\u2019IA g\u00e9n\u00e9rative ont \u00e9t\u00e9 test\u00e9s sur des questions sur la fonction r\u00e9nale, la capacit\u00e9 pulmonaire et l\u2019\u00e9paisseur de la peau. Non seulement les r\u00e9ponses de ChatGPT \u00e9taient fr\u00e9quemment erron\u00e9es, ont d\u00e9couvert les co-auteurs, mais elles renfor\u00e7aient \u00e9galement plusieurs croyances erron\u00e9es de longue date selon lesquelles il existe des diff\u00e9rences biologiques entre les personnes noires et blanches, des mensonges connus pour avoir conduit les prestataires de soins m\u00e9dicaux \u00e0 poser de mauvais diagnostics.<\/p>\n<p><\/p>\n<p>L\u2019ironie est que les patients les plus susceptibles d\u2019\u00eatre discrimin\u00e9s par l\u2019IA g\u00e9n\u00e9rative en mati\u00e8re de sant\u00e9 sont \u00e9galement ceux qui sont les plus susceptibles de l\u2019utiliser.<\/p>\n<p><\/p>\n<p>Les personnes d\u00e9pourvues de couverture sant\u00e9, en particulier les personnes de couleur selon une \u00e9tude de la KFF, sont plus dispos\u00e9es \u00e0 essayer l\u2019IA g\u00e9n\u00e9rative pour trouver un m\u00e9decin ou un soutien en sant\u00e9 mentale, ont montr\u00e9 les r\u00e9sultats de l\u2019enqu\u00eate de Deloitte. Si les recommandations de l\u2019IA sont entach\u00e9es de biais, cela pourrait aggraver les in\u00e9galit\u00e9s dans le traitement.<\/p>\n<p><\/p>\n<p>Cependant, certains experts soutiennent que l\u2019IA g\u00e9n\u00e9rative s\u2019am\u00e9liore \u00e0 cet \u00e9gard.<\/p>\n<p><\/p>\n<p>Dans une \u00e9tude de Microsoft publi\u00e9e fin 2023, les chercheurs ont d\u00e9clar\u00e9 avoir atteint une pr\u00e9cision de 90,2 % sur quatre benchmarks m\u00e9dicaux difficiles en utilisant GPT-4. GPT-4 seul ne pouvait pas atteindre ce score. Mais, selon les chercheurs, gr\u00e2ce \u00e0 l\u2019ing\u00e9nierie des instructions \u2013 la conception d\u2019instructions pour que GPT-4 produise certains r\u00e9sultats \u2013 ils ont pu augmenter le score du mod\u00e8le jusqu\u2019\u00e0 16,2 points de pourcentage. (Il convient de noter que Microsoft est un important investisseur dans OpenAI.)<\/p>\n<p><\/p>\n<h2><span class=\"ez-toc-section\" id=\"Au-dela_des_chatbots\"><\/span>Au-del\u00e0 des chatbots<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><\/p>\n<p>Mais poser une question \u00e0 un chatbot n\u2019est pas la seule chose que l\u2019IA g\u00e9n\u00e9rative peut faire. Certains chercheurs affirment que l\u2019imagerie m\u00e9dicale pourrait b\u00e9n\u00e9ficier \u00e9norm\u00e9ment de la puissance de l\u2019IA g\u00e9n\u00e9rative.<\/p>\n<p><\/p>\n<p>En juillet, un groupe de scientifiques a d\u00e9voil\u00e9 un syst\u00e8me appel\u00e9 compl\u00e9mentarit\u00e9 ax\u00e9e sur le flux de travail clinique (CoDoC), dans une \u00e9tude publi\u00e9e dans la revue Nature. Le syst\u00e8me est con\u00e7u pour d\u00e9terminer quand les sp\u00e9cialistes de l\u2019imagerie m\u00e9dicale doivent se fier \u00e0 l\u2019IA pour les diagnostics par rapport aux techniques traditionnelles. Selon les co-auteurs, CoDoC a fait mieux que les sp\u00e9cialistes tout en r\u00e9duisant les flux de travail cliniques de 66%.<\/p>\n<p><\/p>\n<p>En novembre, une \u00e9quipe de recherche chinoise a pr\u00e9sent\u00e9 Panda, un mod\u00e8le d\u2019IA utilis\u00e9 pour d\u00e9tecter les l\u00e9sions pancr\u00e9atiques potentielles sur les radiographies. Une \u00e9tude a montr\u00e9 que Panda \u00e9tait tr\u00e8s pr\u00e9cis dans la classification de ces l\u00e9sions, qui sont souvent d\u00e9tect\u00e9es trop tard pour une intervention chirurgicale.<\/p>\n<p><\/p>\n<p>En effet, Arun Thirunavukarasu, chercheur clinique \u00e0 l\u2019Universit\u00e9 d\u2019Oxford, affirme qu\u2019il n\u2019y a \u00ab\u00a0rien d\u2019unique\u00a0\u00bb dans l\u2019IA g\u00e9n\u00e9rative qui emp\u00eache son d\u00e9ploiement dans les environnements de soins de sant\u00e9.<\/p>\n<p><\/p>\n<p>\u00ab\u00a0Des applications plus banales de la technologie de l\u2019IA g\u00e9n\u00e9rative sont r\u00e9alisables \u00e0 court et moyen terme, et comprennent la correction de texte, la documentation automatique de notes et de lettres, et l\u2019am\u00e9lioration des fonctions de recherche pour optimiser les dossiers \u00e9lectroniques des patients\u00a0\u00bb, a-t-il d\u00e9clar\u00e9. \u00ab\u00a0Il n\u2019y a aucune raison pour que la technologie de l\u2019IA g\u00e9n\u00e9rative \u2013 si elle est efficace \u2013 ne puisse pas \u00eatre d\u00e9ploy\u00e9e dans ces types de r\u00f4les imm\u00e9diatement.\u00a0\u00bb<\/p>\n<p><\/p>\n<h2><span class=\"ez-toc-section\" id=\"%C2%AB_Une_science_rigoureuse_%C2%BB\"><\/span>\u00ab Une science rigoureuse \u00bb<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><\/p>\n<p>Mais bien que l\u2019IA g\u00e9n\u00e9rative montre des promesses dans des domaines sp\u00e9cifiques et limit\u00e9s de la m\u00e9decine, des experts comme Borkowski soulignent les obstacles techniques et li\u00e9s \u00e0 la conformit\u00e9 qui doivent \u00eatre surmont\u00e9s avant que l\u2019IA g\u00e9n\u00e9rative puisse \u00eatre utile \u2013 et digne de confiance \u2013 en tant qu\u2019outil d\u2019assistance aux soins de sant\u00e9.<\/p>\n<p><\/p>\n<p>\u00ab\u00a0L\u2019utilisation de l\u2019IA g\u00e9n\u00e9rative en sant\u00e9 soul\u00e8ve d\u2019importants probl\u00e8mes de confidentialit\u00e9 et de s\u00e9curit\u00e9\u00a0\u00bb, a d\u00e9clar\u00e9 Borkowski. \u00ab\u00a0La nature sensible des donn\u00e9es m\u00e9dicales et le risque potentiel de mauvaise utilisation ou d\u2019acc\u00e8s non autoris\u00e9 posent de graves risques pour la confidentialit\u00e9 des patients et la confiance dans le syst\u00e8me de sant\u00e9. De plus, le cadre r\u00e9glementaire et juridique entourant l\u2019utilisation de l\u2019IA g\u00e9n\u00e9rative en sant\u00e9 est encore en \u00e9volution, avec des questions concernant la responsabilit\u00e9, la protection des donn\u00e9es et l\u2019exercice de la m\u00e9decine par des entit\u00e9s non humaines qui restent \u00e0 r\u00e9soudre.\u00a0\u00bb<\/p>\n<p><\/p>\n<p>M\u00eame Thirunavukarasu, aussi optimiste soit-il quant \u00e0 l\u2019IA g\u00e9n\u00e9rative en sant\u00e9, estime qu\u2019il doit y avoir une \u00ab\u00a0science rigoureuse\u00a0\u00bb derri\u00e8re les outils destin\u00e9s aux patients.<\/p>\n<p><\/p>\n<p>\u00ab\u00a0En particulier sans surveillance directe d\u2019un clinicien, il devrait y avoir des essais cliniques randomis\u00e9s pragmatiques d\u00e9montrant un b\u00e9n\u00e9fice clinique justifiant le d\u00e9ploiement de l\u2019IA g\u00e9n\u00e9rative destin\u00e9e aux patients\u00a0\u00bb, a-t-il d\u00e9clar\u00e9. \u00ab\u00a0Une gouvernance appropri\u00e9e est essentielle pour identifier tout pr\u00e9judice impr\u00e9vu apr\u00e8s le d\u00e9ploiement \u00e0 grande \u00e9chelle.\u00a0\u00bb<\/p>\n<p><\/p>\n<p>R\u00e9cemment, l\u2019Organisation mondiale de la sant\u00e9 a publi\u00e9 des directives qui pr\u00e9conisent ce type de science et de surveillance humaine de l\u2019IA g\u00e9n\u00e9rative en sant\u00e9, ainsi que l\u2019introduction d\u2019une v\u00e9rification, d\u2019une transparence et d\u2019\u00e9valuations de l\u2019impact de cette IA par des tiers ind\u00e9pendants. L\u2019objectif, pr\u00e9cise l\u2019OMS dans ses directives, serait de favoriser la participation d\u2019une cohorte diversifi\u00e9e de personnes dans le d\u00e9veloppement de l\u2019IA g\u00e9n\u00e9rative en sant\u00e9 et de leur donner l\u2019occasion d\u2019exprimer leurs pr\u00e9occupations et de fournir des contributions tout au long du processus.<\/p>\n<p><\/p>\n<p>\u00ab\u00a0Tant que les pr\u00e9occupations ne seront pas ad\u00e9quatement prises en compte et que des garanties appropri\u00e9es ne seront pas mises en place\u00a0\u00bb, a d\u00e9clar\u00e9 Borkowski, \u00ab\u00a0la mise en \u0153uvre g\u00e9n\u00e9ralis\u00e9e de l\u2019IA g\u00e9n\u00e9rative m\u00e9dicale pourrait \u00eatre\u2026 potentiellement nuisible aux patients et \u00e0 l\u2019ensemble du secteur de la sant\u00e9.\u00a0\u00bb<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":12391,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_seopress_analysis_target_kw":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-12389","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/12389","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/comments?post=12389"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/12389\/revisions"}],"predecessor-version":[{"id":12390,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/12389\/revisions\/12390"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/media\/12391"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/media?parent=12389"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/categories?post=12389"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/tags?post=12389"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}