La CNIL, l’autorité de protection de la vie privée française, vient de publier un rapport sur le développement des technologies d’analyse vidéo automatisée dans l’espace public. Ces technologies, qui viennent se brancher sur des systèmes de vidéosurveillance existants, analysent les vidéos grâce à l’intelligence artificielle pour détecter des objets, des comportements ou encore compter des flux afin d’en tirer des données. Une pratique de plus en plus répandue dans le secteur privé et pour le moment très peu encadrée. Précisions qu’on ne parle pas ici des dispositifs d’identification biométriques comme la reconnaissance faciale.
La CNIL consacre une partie de son rapport aux magasins, considérés comme faisant partie de l’espace public, en tant que lieux accueillant du public. Dans le secteur de la distribution, ces caméras intelligentes intéressent les professionnels pour détecter automatiquement des vols, vérifier l’état des stocks, analyser les flux de clients dans chaque rayon ou encore extraire des données sur les files d’attente. Des systèmes d’analyse comportementale des clients face aux produits intéressent également les marques.
Le gendarme de la vie privée souligne que ces pratiques ne sont pas illégales en soi. Par ailleurs, elles sont tellement variées et avec des conséquences différentes sur la vie privée « qu’ une appréciation globale de ces dispositifs n’a pas de sens : il convient de les appréhender au cas par cas, en fonction notamment des risques qu’ils comportent pour les personnes concernées. » Avec trois critères immuables : l’intérêt légitime de celui qui prélève les données; la nécessité du traitement de données pour répondre à cet intérêt légitime; et un équilibre entre les droits des personnes et les intérêts de l’entreprise qui collecte les données. Par ailleurs, les clients devront être informés très clairement de l’existence de ces traitements ainsi que de leur caractère analytique et automatisé.
La CNIL donne deux exemples de procédés illicites concernant les magasins car ils « semblent conduire à un déséquilibre manifeste entre les droits et libertés des personnes et les intérêts du responsable du traitement » :
- Un dispositif qui analyse et segmente les personnes sur la base de critères tels que l’âge ou le genre afin de leur adresser des publicités ciblées (par exemple un panneau publicitaire équipé d’une caméra « augmentée » qui va analyser les personnes passant à proximité pour détecter leur âge et/ou leur genre et leur adresser des publicités ciblées selon ces critères).
- Un dispositif qui analyse et segmente les personnes sur la base de leurs émotions pour leur proposer des contenus en conséquence : (par exemple un écran équipé d’une caméra « augmentée » qui va analyser l’humeur de la personne afin de lui afficher un contenu adapté).
De nombreux risques pour la vie privée
Sans proscrire les autres procédés, la CNIL alerte tout de même sur un certain nombre de cas qui pourraient faire peser des risques sur la vie privée des personnes, et sur lesquels les fabricants de ces systèmes ainsi que leurs clients devraient être vigilants. Notamment le droit de s’opposer au traitement de données, quasi-impossible à faire valoir selon l’autorité. « Ces dispositifs captent automatiquement l’image des personnes passant dans leur champ de vision, la traitent souvent instantanément pour en tirer une conséquence en temps réel (calcul d’une donnée, affichage d’une publicité, génération d’une alerte etc.) sans possibilité d’ignorer les personnes qui auraient exprimé préalablement leur opposition ni d’interrompre le traitement.» La CNIL estime qu’un nouveau cadre légal spécifique est nécessaire pour autoriser ces pratiques sans consentement lorsqu’elles ont pour but d’empêcher un vol ou une agression dans un magasin, comme le RGPD le prévoit déjà pour les traitements de données à des fins statistiques.
Le gendarme de la vie privée souligne aussi que certains lieux sont porteurs de risques accrus. « Lorsque ces outils seront installés dans des centres commerciaux ou un magasin de jeux vidéo qui, par nature, seront souvent fréquentés par des mineurs constituant une population vulnérable dont la collecte et le traitement de leurs données à caractère personnel nécessitent une attention particulière. De même si ces dispositifs sont déployés dans l’espace public à proximité d’un hôpital, d’un local syndical ou politique ou encore d’un lieu de culte, l’analyse de l’image des personnes fréquentant ces lieux pourrait impliquer le traitement de données sensibles (santé, opinions politiques, appartenance syndicale, religion, etc.). »
Enfin, la CNIL se dit vigilante face à l'apparition de dispositifs qui « ont vocation à entièrement automatiser certaines activités de la vie courante ». « Cela pourrait par exemple être le cas pour les commerces (magasins dits « autonomes ») qui fonctionneraient uniquement à partir de dispositifs de caméras « augmentées » qui suivraient les clients afin d’analyser leurs achats pour leur permettre de les régler directement (en caisse ou sur une application mobile). Des actes simples et quotidiens, tel que faire ses courses, seraient ainsi filmés et analysés de façon continue engendrant un sentiment de surveillance important, qui deviendrait de plus en plus réel à mesure que ces dispositifs se généraliseraient dans tous les lieux où s’exercent quotidiennement les droits et libertés individuelles (voie publique, transports, commerces, lieux culturels, sportifs, etc.). »