L’IA dans le secteur de la santé : comment Compassana allie innovation et responsabilité

L'intelligence artificielle présente un potentiel élevé dans le secteur de la santé. Sa contribution à la valeur ajoutée ne fait quasiment plus aucun doute. Dans le même temps, les grands modèles linguistiques n'en sont encore qu'à leurs débuts sur le plan technique. Ils peuvent présenter des affirmations erronées comme des faits avérés. C’est ce qu'on appelle des « hallucinations ». Des distorsions peuvent également se répercuter sur les prises de décisions sans qu’on s’en rende compte.

Les professionnels de la santé connaissent aussi bien ces risques que les opportunités que cela représente. Pour Bluespace Ventures, l'entreprise à l'origine de Compassana, il s'agit donc avant tout de mettre en place les conditions requises pour une utilisation sûre et efficace de l'IA. Les risques doivent pouvoir être maîtrisés. La chaîne de création de valeur doit être réorganisée de manière à ce que l'IA intervienne là où elle s’avère réellement utile. La stratégie de l'entreprise en matière d'IA est extrêmement flexible et s'articule autour de cinq niveaux s'appuyant les uns sur les autres. C'est au niveau des produits qu'on constate finalement à quel point l'entreprise applique ses principes de manière cohérente quand les utilisateurs et utilisatrices sont directement concerné.e.s.

1. Des règles claires pour les collaborateurs

Bluespace Ventures a complété ses directives en matière de sécurité informatique par une réglementation interne relative à la conformité en matière d'IA avant d’utiliser un outil d'IA. Cette réglementation définit les modalités d'utilisation des outils d'IA par les collaborateurs et collaboratrices et les protège grâce à des directives claires. Elle garantit ainsi une marge de manœuvre tout en s'inscrivant dans un cadre juridique précis. Parallèlement, elle empêche que des informations confidentielles ou à caractère personnel ne se retrouvent, par des voies détournées, dans les données d'entraînement de prestataires tiers.

Les briefings afférents avaient pour objectif de parvenir à une compréhension commune et de développer de solides compétences dans le domaine de l'IA. L'article 4 du règlement de l'UE sur l'IA (règlement IA) requiert désormais expressément cette compétence, qui était déjà nécessaire auparavant étant donné que les collaborateurs et collaboratrices sont quotidiennement amené.e.s à utiliser des outils d'IA. Ce cadre, la gouvernance, constitue la condition requise pour l'autorisation d'autres applications d'IA.

2. Une équipe spécialisée dans l'IA pour des applications performantes

C'est sur cette base qu'une équipe interne dédiée à l'IA a été mise en place. Elle examine systématiquement à quel stade de la chaîne de création de valeur le recours à l'IA peut apporter un bénéfice justifiant l'investissement. L'équipe teste les outils adaptés, les adapte et les met à disposition en interne une fois qu'ils ont fait leurs preuves.

Dans le domaine du marketing et de la communication, des outils d'IA spécialisés permettent de réaliser des tâches créatives qui auraient auparavant pris beaucoup trop de temps. Pour les flux de travail structurés, l'équipe utilise une IA agentique pour mettre en œuvre les processus de manière différenciée et sécurisée. Les tests sont systématiquement axés sur l'efficacité économique et technique de chaque utilisation.

3. Des critères stricts pour la gestion

Dans ce domaine, les systèmes de gestion de Bluespace Ventures constituent un domaine d'application particulièrement fructueux. Ils garantissent la qualité, la protection des données, la sécurité de l'information et la gestion des services au niveau requis par une solution de santé professionnelle comme Compassana. Et comme ces systèmes sont cruciaux pour la fiabilité de l'entreprise, l'IA qui les soutient est soumise à des exigences plus strictes que dans d'autres domaines.

Les systèmes d'IA doivent être fidèles aux faits et exempts d'hallucinations et de distorsions. Des modèles linguistiques locaux peuvent également être envisagés si nécessaire. Les systèmes doivent être consignés de manière systématique et rester traçables grâce à un système de gestion des versions vérifiable dans le cadre d'un audit.

Un texte marketing peut se permettre une erreur occasionnelle, mais ce n'est pas le cas d'un système de qualité ou de protection des données. La conception technique soignée garantit la confiance de tous ceux qui utilisent Compassana à des fins privées ou professionnelles.

4. Ada en tant que dispositif médical homologué

Compassana a intégré très tôt le contrôle des symptômes Ada basé sur l’IA. Ce dispositif médical a été testé selon des directives particulièrement strictes. Il n'a obtenu son autorisation administrative qu'après des tests spécialisés et après avoir démontré son bon fonctionnement ainsi que son efficacité.

Ces critères de qualité ne s'appliquent pas aux modèles linguistiques universels courants. Un LLM général fournit une réponse possible ; Ada en propose une qui suit une procédure soigneusement vérifiée et traçable. C'est cette différence qui distingue un dispositif médical d'un simple outil d'aide.

5. L'autonomie des utilisateurs reste déterminante

Des ajouts supplémentaires sont en cours de préparation pour Compassana. Ce qui suit s’applique : les utilisateurs et utilisatrices décident eux-mêmes, de façon autonome, de l’utilisation de leurs données de santé et des personnes autorisées à y accéder. Aucune donnée n'est transmise aux compagnies d'assurance ou aux systèmes d'IA. Les applications sont conçues de manière transparente et à des fins spécifiques et ne sont activées qu'après le consentement des personnes concernées. Ces dispositions s'appliquent également aux utilisateurs/-trices professionnel.le.s de Compassana Med et à leur autonomie professionnelle.

La base juridique se fonde en particulier sur les dispositions de la loi sur la protection des données (LPD). Cela inclut le profilage, et en particulier le profilage à haut risque aux termes de l'article 5 lettres f) et g) LPD. L'article 22 alinéa 2 LPD régit l'obligation de réaliser une analyse d'impact relative à la protection des données lors de la mise en œuvre de nouvelles technologies.

Quand des décisions automatisées ont des conséquences juridiques pour des personnes physiques, l'article 21 LPD prévoit que la personne concernée doit être informée et qu’il doit y avoir un contrôle effectué par un être humain. Les analyses d'impact sur les droits fondamentaux, prévues par l'approche fondée sur les risques du règlement de l'UE sur l'IA, notamment à l'article 27, offrent des repères supplémentaires.

Ce que cela signifie pour Compassana

Ces cinq niveaux sont étroitement liés. La politique de sécurité informatique définit le cadre dans lequel l'équipe chargée de l'IA peut identifier des domaines d'application efficaces. Les systèmes de gestion appliquent les critères de qualités maximaux car ils garantissent la fiabilité de l’entreprise, sur laquelle repose la confiance accordée à Compassana. Ada montre ce qui distingue un dispositif médical réglementé d'un modèle linguistique général. La protection juridique de l'autonomie des utilisateurs garantit que le pouvoir de disposer des données de santé reste entre les mains des utilisateurs et des utilisatrices.

Dans la pratique, cela signifie que Compassana utilise l'IA là où elle apporte manifestement le plus d'avantages tout en présentant le moins de risques. Avant son lancement, chaque nouvelle application est soumise à un contrôle identique portant sur la gouvernance, la qualité et le consentement des utilisateurs et des utilisatrices.