Le chirurgien solitaire du Congrès veut que les États réglementent l’IA

Une nouvelle bataille se prépare entre les États et le gouvernement fédéral. Cette fois, le combat ne porte pas sur les impôts ou l’immigration, mais plutôt sur les limites de la réglementation des systèmes avancés d’intelligence artificielle. Des désaccords politiques autour Le rôle de l’IA dans les soins de santé, en particulier, pourrait être la pointe de la lance dans cette escarmouche naissante.

Telles sont quelques-unes des préoccupations exprimées par le représentant républicain de Caroline du Nord, Greg Murphy, s’exprimant cette semaine lors du débat sur l’IA et l’avenir des soins de santé numériques de la Connected Health Initiative. Murphy, le seul chirurgien en exercice actif au Congrès et coprésident du GOP Doctors Caucus, estime : comme beaucoup, que la technologie pourrait transformer les soins de santé, mais a mis en garde contre l’application généralisée des mêmes règles et normes à l’échelle nationale.

« Le gouvernement fédéral ne connaît pas la différence entre le Montana et le New Jersey, mais les habitants du Montana la connaissent », a déclaré Murphy lors de l’événement. selon Politique. « Cela devrait appartenir à ceux qui le comprennent de contrôler cela. »

Les médecins et les technologues affirment que les outils d’IA prédictive pourraient améliorer radicalement les soins de santé en analysant en profondeur les rayons X, les tomodensitogrammes, et des IRM pour détecter les premiers signes de maladie, d’une manière qui n’était pas disponible pour les médecins humains dans le passé. En revanche, les chatbots d’IA générative formés spécifiquement sur un corpus de revues médicales peuvent potentiellement aider les médecins avec des suggestions médicales rapides, effectuer des tâches administratives, ou (dans certains cas déjà) aider à communiquer avec les patients avec plus de compassion. L’Association médicale américaine estimations aux États-Unis, un médecin sur cinq utilise déjà une certaine forme d’IA dans leur pratique.

Mais même si son utilisation se multiplie, les règles régissant ce à quoi l’IA peut ou ne peut pas être utilisée restent floues d’un État à l’autre ou sont juste à fond inexistant. C’est un problème, surtout si les futurs médecins choisissent de s’appuyer davantage sur des chatbots de type chatGPT qui crachent régulièrement des faits fabriqués à partir de rien. Ces « hallucinations » de l’IA ont déjà conduit à poursuites en diffamation dans le domaine juridique. Murphy craint que les médecins ne soient un jour confrontés à une autre énigme à l’ère de l’IA avancée. Que se passe-t-il lorsqu’un médecin humain veut annuler la suggestion médicale d’une IA ?

« Le défi est le suivant : est-ce que nous perdons notre humanité dans cette situation ? » Murphy a demandé lors de l’événement. « Laissons-nous les machines nous contrôler ou est-ce que nous les contrôlons ? »

Les médecins ne risquent probablement pas d’être ignorés de si tôt par un chatbot IA. Toujours, Les États élaborent néanmoins des lois pour freiner les façons plus banales, mais plus courantes, dont l’utilisation abusive de l’IA pourrait nuire aux patients. de Californie proposé AB 1502, par exemple, interdirait aux assureurs maladie ou aux régimes de services de santé d’utiliser l’IA pour discriminer les patients en fonction de leur race, de leur sexe ou d’autres catégories protégées. Un autre projet de loi dans l’Illinois réglementerait l’utilisation d’algorithmes d’IA pour diagnostiquer les patients. La Géorgie a déjà a promulgué une loi réglementer l’utilisation de l’IA dans la réalisation d’examens de la vue.

Ces lois risquent d’entrer en vigueur entrent en conflit avec les réglementations fédérales sur l’IA beaucoup plus largement couvertes. Au cours du mois dernier, le chef de la majorité au Sénat, Chuck Schumer, a a convoqué une demi-douzaine d’auditions spécifiquement sur la législation sur l’IA, avec certains des les plus grands noms et personnalités de la technologie passant par ses appartements pour se prononcer sur le sujet. Les meilleures entreprises d’IA comme OpenAI, Microsoft et Google ont déjà accepté les engagements volontaires en matière de sécurité proposés par le maison Blanche. Entre-temps, les agences fédérales de santé, comme la FDA, ont publié leurs propres recommandations sur la question.

Il est peu probable que ces règles fédérales en évolution rapide régissant l’IA s’adaptent parfaitement aux Américains d’un État à l’autre. Si la bataille autour de la réglementation de l’IA ressemble à celle désaccords sur la confidentialité numérique devant luiles règles régissant l’utilisation de la technologie pourraient varier considérablement État à État. L’absence de réglementations strictes interdisant explicitement aux médecins de prendre des décisions opérationnelles basées sur un chatbot IA, par exemple, pourrait encourager les législateurs à faire pression pour leurs propres exigences plus strictes au niveau de l’État.

Au moins pour l’instant, les adultes américains ont clairement indiqué qu’ils ne souhaitaient pas que l’IA dicte leur prochaine visite chez le médecin. Plus de la moitié (60 %) des adultes ont récemment interrogé de Pew Research ont déclaré qu’ils se sentiraient mal à l’aise si leur médecin utilisait l’IA pour diagnostiquer une maladie ou recommander un traitement. Seul un tiers des personnes interrogées pensaient que l’utilisation de l’IA dans ces scénarios entraînerait de meilleurs résultats pour les patients. Dans le même temps, un nouveau sondage montre que la grande majorité des Américains souhaitent une plus grande intervention du gouvernement en matière d’IA. Plus de huit répondants sur dix (82 %) lors d’un récent sondage menée par l’AI Policy Institute ont déclaré qu’ils ne faisaient pas confiance aux entreprises technologiques pour s’autoréguler en matière d’IA.