Depuis le 2 février 2025, certaines dispositions de l’AI Act sont applicables, notamment celles relatives aux pratiques d’intelligence artificielle considérées comme présentant un risque inacceptable.
L’un des objectifs du règlement européen sur l’intelligence artificielle est de garantir le développement d’une IA digne de confiance et respectueuse des droits fondamentaux.
❌ Pour atteindre cet objectif, certaines utilisations de systèmes d’IA sont désormais interdites.
Sont notamment concernés :
- les systèmes utilisant des techniques subliminales, manipulatrices ou trompeuses susceptibles d’altérer substantiellement le comportement d’une personne et de lui causer un préjudice important ;
- les systèmes exploitant les vulnérabilités liées notamment à l’âge, au handicap ou à certaines situations sociales ou économiques ;
- certaines pratiques de notation sociale ;
- les systèmes visant à prédire le risque qu’une personne commette une infraction uniquement à partir de son profilage ou de ses caractéristiques personnelles ;
- la constitution ou l’enrichissement de bases de reconnaissance faciale à partir d’un moissonnage non ciblé d’images provenant d’Internet ou de vidéosurveillance ;
- les systèmes permettant de déduire les émotions d’une personne sur son lieu de travail ou dans un établissement d’enseignement, sauf certaines exceptions médicales ou de sécurité ;
- certaines formes de catégorisation biométrique reposant sur des données sensibles ;
- ainsi que, sous réserve d’exceptions strictement encadrées, certains usages de l’identification biométrique à distance en temps réel dans les espaces accessibles au public à des fins répressives.
⚠️ Ces interdictions concernent aussi bien la mise sur le marché, la mise en service que l’utilisation des systèmes concernés.
Pour les entreprises et organismes utilisant des solutions d’intelligence artificielle, la première étape consiste donc à identifier les systèmes d’IA utilisés et leurs finalités, afin de vérifier qu’aucune pratique interdite par l’AI Act n’est mise en œuvre.
L’enjeu est important : l’adoption d’un outil d’intelligence artificielle ne doit pas se limiter à ses performances techniques. Elle nécessite également d’en évaluer les usages et les risques juridiques.
📩 Vous utilisez des systèmes d’intelligence artificielle et souhaitez vérifier que vos pratiques sont conformes à l’AI Act ? Contactez-moi.