L’intelligence artificielle va bientôt remplacer les psychologues et autres thérapeutes et cela pose des questions au regard du RGPD.

🧑‍💻 De plus en plus de personnes ont recours à des chatbots à des fins de thérapie, plutôt que d’aller voir un thérapeute, ou de façon complémentaire à une thérapie. Pour certains, il s’agit d’une utilisation spécifique de ChatGPT. Pour d’autres, des intelligences artificielles dédiées existent et sont alors consultées.

Le risque de s’en remettre à des IA pour des thérapies est notamment que l’IA manipule les personnes et les amène à prendre des décisions qu’elles n’auraient pas prises par elles-mêmes.

Le Règlement européen sur l’intelligence artificielle (AI Act) encadre ce risque.
❌ Il interdit les systèmes d’IA qui ont recours à des techniques subliminales ou à des techniques délibérément manipulatrices ou trompeuses, avec pour objectif ou effet d’altérer substantiellement le comportement d’une personne ou d’un groupe de personnes en portant considérablement atteinte à leur capacité à prendre une décision éclairée, amenant ainsi la personne à prendre une décision qu’elle n’aurait pas prise autrement, d’une manière qui cause ou est raisonnablement susceptible de causer un préjudice important à cette personne, à une autre personne ou à un groupe de personnes.

Du point de vue du RGPD, cela pose de nombreuses questions, notamment :
– les règles à respecter pour le traitement de données sensibles, comme des données de santé, qui peuvent être transmises à l’IA dans ce cadre.
– le principe de minimisation des données personnelles selon lequel seules les données personnelles nécessaires pour le traitement de données doivent être traitées.
– la définition de durées de conservation des données personnelles.
Les données personnelles doivent être conservées pendant la durée nécessaire aux objectifs du traitement de données.

👉 Si vous développez un produit intégrant l’IA et que vous voulez vérifier que vous respectez les obligations légales en la matière, contactez-moi.

🚧 Cet usage de l’IA pose également de nombreuses questions éthiques. Ce sont les enjeux principaux en matière de RGPD et de conformité au Règlement européen sur l’intelligence artificielle qui ont été étudiés.

Vous cherchez un avocat RGPD pour votre mise en conformité au RGPD ? Contactez-moi.