Vous n’avez pas le temps d’appeler vos parents/grands-parents ? Une IA le fait à votre place !

C’est ce que promet l’application InTouch qui les appelles sur la base d’indications que vous leur aurez données puis vous envoie ensuite un feedback.

Quels sont les enjeux RGPD et de conformité à l’AI Act derrière cette solution ?

  • du point de vue de la conformité à l’AI Act

L’AI Act prévoit que les systèmes d’IA destinés à interagir directement avec des personnes physiques soient conçus et développés de manière que les personnes physiques concernées soient informées qu’elles interagissent avec un système d’IA.

Ici, l’application commence l’appel téléphonique par “Bonjour, ici inTouch”. Cette présentation doit être assez claire pour que la personne ait conscience qu’elle interagisse avec un système d’IA.

Ensuite, cette solution ne doit pas aller au-delà d’une simple discussion factuelle et ne doit pas exploiter les vulnérabilités dues à l’âge des personnes appelées avec pour objectif ou effet d’altérer substantiellement leur comportement d’une manière qui cause ou pourrait causer un préjudice important à ces personnes ou à un tiers.

De la même façon, cette solution ne doit pas avoir recours à des techniques subliminales ou à des techniques délibérément manipulatrices ou trompeuses avec pour objectif d’altérer substantiellement leur comportement, amenant les personnes à prendre une décision qu’elles n’auraient pas prise autrement.

Si tel était le cas, il s’agirait d’une pratique d’IA interdite.

  • du point de vue de la conformité au RGPD

Cette solution pourrait être amenée à traiter beaucoup de données personnelles, notamment des données de santé, en raison de l’âge des personnes, qui sont des données sensibles au sens du RGPD.

Le principe est l’interdiction du traitement de ces données. Pour pouvoir les traiter, leur consentement devrait être obtenu au préalable.

Les personnes doivent être informées du traitement de leurs données personnelles.

Dans la mesure où les personnes sont des personnes vulnérables, en raison de leur âge, et que des données de santé pourraient être traitées, une analyse d’impact sur la protection des données devrait être réalisée.

Si vous souhaitez vérifier que votre solution est conforme à l’AI Act et/ou au RGPD, contactez-moi.