La question de savoir si l’intelligence artificielle devrait être réglementée dans le domaine de la santé n’est plus théorique. Avec des milliers de dispositifs médicaux dotés d’IA déjà autorisés par la FDA et l’AI Act de l’Union européenne qui classe la plupart des IA de santé comme « à haut risque », le train de la réglementation a quitté la gare. Le véritable débat porte désormais sur la manière de réglementer l’IA dans la santé sans écraser l’innovation qui pourrait sauver des millions de vies.
Les arguments en faveur d’une réglementation forte
L’IA en santé n’est pas une application grand public où une mauvaise recommandation se traduit par une soirée gâchée devant un film médiocre. Un algorithme défaillant peut diagnostiquer à tort un cancer, recommander une mauvaise posologie de médicament ou désavantager systématiquement toute une catégorie démographique. Le cadre Software as a Medical Device (SaMD) de la FDA tente de répondre à cela en classant les outils d’IA en fonction de la gravité de l’affection qu’ils ciblent et de l’importance de l’information qu’ils fournissent aux décisions cliniques. Dans ce cadre, un outil d’IA qui signale un sepsis potentiel en soins intensifs fait l’objet d’un examen bien plus poussé qu’un outil qui aide à planifier des rendez-vous — et à juste titre.
Le dilemme de l’innovation
Pourtant, le paysage réglementaire crée de véritables défis pour l’innovation. Le processus traditionnel d’approbation des dispositifs médicaux suppose qu’un produit est « verrouillé » au moment de son autorisation. L’IA, par nature, est conçue pour apprendre et s’améliorer au fil du temps. Un algorithme en apprentissage continu qui s’améliore à chaque interaction avec un patient est fondamentalement différent d’un logiciel statique — mais les réglementations actuelles exigent souvent une nouvelle soumission pour chaque mise à jour significative. Cela crée une incitation perverse : les entreprises figent leurs modèles (sacrifiant l’avantage fondamental de l’IA) ou font face à un cycle sans fin de soumissions réglementaires. Le Predetermined Change Control Plan de la FDA est une tentative de réponse à ce problème, permettant aux fabricants de décrire à l’avance les modifications anticipées, mais il reste en chantier.
L’harmonisation internationale
Le défi est aggravé par la mosaïque de réglementations internationales. L’AI Act de l’UE, le cadre évolutif de la FDA, les directives de Santé Canada et l’approche de la MHRA britannique diffèrent tous de manière significative. Pour une entreprise développant un outil de diagnostic par IA, naviguer dans ce labyrinthe réglementaire peut coûter des millions et ajouter des années au déploiement. Les efforts d’harmonisation internationale, à travers des forums comme l’International Medical Device Regulators Forum (IMDRF), progressent, mais un cadre mondial véritablement unifié reste lointain. Entre-temps, les patients des marchés moins réglementés peuvent être exposés à des outils qui ne passeraient jamais les contrôles aux États-Unis ou dans l’UE, tandis que les patients des marchés fortement réglementés attendent des années des outils qui pourraient les aider dès aujourd’hui.
Trouver l’équilibre
La voie à suivre passe probablement par une approche proportionnée au risque qui combine un examen avant mise sur le marché avec une surveillance robuste après mise sur le marché. Les outils d’IA administratifs à faible risque pourraient fonctionner selon des voies de notification simplifiées, tandis que les systèmes d’aide à la décision clinique à haut risque exigeraient une validation rigoureuse avant mise sur le marché, incluant des preuves de performance auprès de populations diversifiées. Toute IA de santé, quel que soit son niveau de risque, devrait faire l’objet d’une surveillance continue en conditions réelles capable de détecter une dégradation des performances, des biais émergents ou des signaux de sécurité. Ce n’est pas un cadre théorique — c’est essentiellement ce vers quoi les régulateurs les plus réfléchis tendent déjà.
Les enjeux
Réussir la réglementation n’est pas qu’un simple exercice de politique publique. C’est un impératif de sécurité des patients. Trop peu de réglementation et nous risquons de répéter les erreurs des technologies médicales passées qui ont été adoptées avec enthousiasme avant que leurs méfaits ne deviennent apparents. Trop de réglementation et nous condamnons les patients à de moins bons résultats parce que des outils bénéfiques ne leur parviennent jamais. La réponse n’est pas de choisir entre l’innovation et la sécurité, mais de construire des systèmes réglementaires suffisamment sophistiqués pour offrir les deux. Cela exige des régulateurs qui comprennent l’IA, des développeurs qui comprennent les flux de travail cliniques, et des cliniciens prêts à s’engager dans les détails complexes des deux.
L'avis de nos experts
"Les données sont claires : une IA non réglementée dans le domaine de la santé entraîne des préjudices pour les patients. Le cadre SaMD de la FDA est un point de départ raisonnable, mais nous avons besoin d'essais cliniques prospectifs incluant des populations diversifiées avant qu'un outil d'IA ne touche un patient. La réglementation n'est pas l'ennemie de l'innovation -- elle est le préalable à une innovation digne de confiance."
"Les cadres réglementaires actuels ont été conçus pour des dispositifs médicaux statiques, et non pour des algorithmes en apprentissage continu. Nous avons besoin d'un nouveau paradigme -- quelque chose comme une « approbation vivante » qui surveille les performances en conditions réelles plutôt que de figer un modèle à un instant donné. Le défi technique consiste à construire des pistes d'audit pour des modèles qui se mettent à jour chaque semaine."
"La réglementation devrait être un facilitateur, et non un frein. La meilleure approche est graduée : légère pour l'IA administrative, rigoureuse pour les outils de diagnostic, et extrêmement stricte pour les décisions cliniques autonomes. Une approche uniforme laissera soit les patients sans protection, soit l'innovation ensevelie sous la paperasse."
"J'ai vu les deux côtés. Dans l'UE, l'AI Act apporte de la clarté mais ajoute 18 mois aux délais de déploiement. Sur des marchés moins réglementés, j'ai vu des outils d'IA déployés sans aucune validation sur les populations locales. Le juste équilibre réside dans des accords de reconnaissance mutuelle entre régulateurs et des exigences de preuves en conditions réelles proportionnées au risque."
Prêt à Devenir Compétent en IA ?
Rejoignez notre programme d'apprentissage de l'IA conçu spécifiquement pour les professionnels de santé. Des sessions d'une heure aux approfondissements complets.