Ceci est prévu par le décalogue du Garant de la vie privée sur l’intelligence artificielle pour les services de santé. Les technologies doivent être soumises à des contrôles réguliers pour éviter toute erreur et à une supervision humaine
Dans l’imaginaire commun l’application de l’intelligence artificielle dans les hôpitaux encore loin, mais en réalité cela fonctionne déjà, en constante évolution et, entre des mains compétentes, un outil capable d’aider le médecin dans ses décisions. Cependant, dans le même temps, on constate une crainte générale croissante quant à l’application concrète des nouvelles technologies dans le domaine médical et à l’égard de la protection des données sensibles et de la vie privée. Au-delà de l’enthousiasme initial, il est donc devenu nécessaire pour le Garant de la Protection des Données Personnelles d’élaborer un document, Le décalogue pour la création de services nationaux de santé grâce à des systèmes d’intelligence artificiellepour en réglementer l’usage, une sorte de notice pharmaceutique.
Comme tout médicament, il est important de définir toutes les caractéristiques qui permettent de le prescrire et de l’utiliser en toute sécurité. Cette prise de conscience commence dès protection des données dès la conceptioncompte tenu de la nécessité de construire un système vertueux selon les trois principes clés de connaissabilité, non-discrimination algorithmique et non-exclusivité. Le principe de connaissabilité doit se fonder sur la relation médecin-patient. Selon le Garant, le patient a le droit de savoir, également par le biais de campagnes de communication, s’il existe et Que sont les processus décisionnels basés sur l’IA ? et recevoir des informations claires sur la logique utilisée pour arriver à ces décisions. Les technologies doivent également faire l’objet de contrôles réguliers pour éviter toute erreur, tout comme le système de production de drogues exige des contrôles périodiques de ses machines. Le principe de est utile ici non-discrimination algorithmiqueafin de minimiser les effets néfastes potentiels de machines incontrôlées.
Confier le pouvoir de décision exclusivement à l’intelligence artificielle comporte cependant des risques pour les droits et la liberté des patients., une sorte de surdose de drogue. ici il trouve sa justification le modèle hybride, dans lequel la centralité du contrôle humain permet qu’une décision ne soit pas entièrement soumise à un traitement automatisé, comme le consacre le principe de non-exclusivité. À ce jour, la branche de la médecine dans laquelle ces nouveaux algorithmes trouvent la plus grande application radiologiequi fut le premier à faire face aux problèmes liés à informations adéquates sur les patients. C’est précisément dans ce domaine que l’Intelligence Artificielle représente un outil qui apporte, dans le processus diagnostique et thérapeutique, une ressource fondamentale à intégrer aux capacités cliniques humaines.
* Professeur titulaire d’anesthésie et de réanimation, Université de Parme ; Expert en intelligence artificielle, Société italienne d’anesthésie, d’analgésie, de réanimation et de soins intensifs
