Imaginez une entreprise où votre sourire serait évalué par une intelligence artificielle.
Ce scénario qui rappelle Black Mirror existe vraiment au Japon. L’une des principales chaînes du supermarché du Japon, Aeon, est la première entreprise au monde à adopter un tel dispositif.
😁 Leur dispositif “Mr. Smile” se sert de l’intelligence artificielle pour analyser les interactions des employés avec leurs clients et s’assurer qu’ils affichent leur plus beau sourire.
Ce système de surveillance évalue toute la journée 450 facteurs dont les expressions faciales, le ton de la voix et la façon de saluer les clients.
Au-delà des questions éthiques certaines que pose ce dispositif, ce dispositif soulève des enjeux en matière de données personnelles et de conformité au Règlement européen sur l’intelligence artificielle.
– En matière de données personnelles : le traitement des données personnelles doit être licite. Or, ici, il ne semble pas l’être.
En effet, ce traitement de données personnelles ne répond pas à une obligation légale, n’est pas nécessaire à l’exécution du contrat de travail et ne pourrait pas être justifié par l’intérêt légitime de l’entreprise.
Etant donné qu’il s’agit d’une relation employeur/employé dans laquelle il y a un lien de subordination, il n’est pas possible de recueillir le consentement de l’employé pour justifier ce traitement de données personnelles.
Ce traitement de données personnelles conduit à une collecte massive de données personnelles. Le principe de minimisation des données personnelles qui consiste à ne traiter que les données nécessaires pour l’objectif poursuivi n’est pas respecté.
De plus, il est fort probable que des données sensibles au sens du RGPD soient collectées dans la mesure où la biométrie est sûrement utilisée pour identifier les personnes. Le traitement de ces données sensibles doit faire l’objet d’un fondement spécifique.
– En matière de conformité aux obligations en matière d’intelligence artificielle : dans la mesure où ce dispositif évalue le sourire des employés, on peut considérer qu’il reconnaît les émotions des personnes sur leur lieu de travail.
Or, le Règlement européen sur l’intelligence artificielle interdit les systèmes d’intelligence artificielle qui reconnaissent les émotions d’une personne physique sur le lieu de travail.
Heureusement, un tel dispositif ne pourrait donc pas voir le jour dans l’Union européenne.
🚧 Ce dispositif pose également de nombreuses questions éthiques. Ce sont ici les enjeux principaux en matière de données personnelles et de conformité au Règlement européen sur l’intelligence artificielle qui ont été étudiés.