© Stock/Getty Images Plus
À voir aussi sur Konbini
Pendant son carnaval annuel qui se tient les 19 et 20 février, Nice teste la reconnaissance faciale. Une société monégasque du nom de Confidentia a proposé à la municipalité de tester le programme AnyVision, un système de reconnaissance des visages qui permet “d’analyser en temps réel, mais aussi en relecture et en différé”.
Cela permet notamment de prendre en compte le vieillissement en “reconnaissant une personne sur la base d’une photographie datant de plus de vingt ans”. Un arsenal assez effrayant au regard du caractère festif de l’événement et des inquiétudes qui reviennent à chaque fois que ce type de sujet est mis sur la table.
Sollicitée par Konbini news au sujet de ce à quoi allaient concrètement servir les données récoltées, la mairie explique qu’elles donneront lieu à la rédaction d’un “rapport scientifique” qui permettrait entre autres de voir ce qui pourrait être mis en place “dans des délais plus longs”. Face aux critiques, la ville assure que ce “test de reconnaissance doit se dérouler dans un périmètre délimité de l’enceinte du carnaval, avec le consentement de 50 personnes volontaires pour y participer”.
“Il doit permettre de tester l’efficacité d’un dispositif d’intelligence artificielle relié à des caméras de vidéoprotection pour reconnaître dans une foule, à partir de leur photo, des personnes dites ‘d’intérêt’ : enfants égarés, personnes âgées vulnérables ou individus recherchés”, rappelle l’AFP.
Pour Christian Estrosi, le maire Les Républicains (LR) de Nice, l’objectif est d’“améliorer les contrôles d’accès”, de “détecter une personne d’intérêt au milieu d’une foule” ainsi que “retrouver une personne d’intérêt sur la voie publique lors des passages aux portiques”.
La Cnil reste prudente
La mairie a prévenu la Commission nationale de l’informatique et des libertés (Cnil) pour procéder à cette expérimentation. De son côté, la Cnil a tenu à rappeler que “depuis l’entrée en application du RGPD (Règlement général sur la protection des données), ces dispositifs ne sont plus soumis à [son] autorisation préalable”.
Elle a posté une série de tweets pour recontextualiser la manière dont a été annoncée cette expérimentation, faisant notamment savoir que “dans une logique d’accompagnement à la conformité, plusieurs échanges, dont une réunion, sont intervenus entre la ville et la Cnil”, avant d’ajouter :
“La Cnil regrette l’urgence dans laquelle ces services ont été sollicités, ces circonstances n’étant pas de nature à favoriser un travail d’analyse approfondie du dispositif projeté.”
4⃣Cette expérimentation, qui est soumise au #RGPD, repose sur le consentement des personnes volontaires.
— CNIL (@CNIL) 19 février 2019
Lors de ces échanges, la @CNIL a porté une vigilance toute particulière sur les garanties annoncées pour s’assurer de la validité du consentement (« libre » et « éclairé »)
Dans un courrier, le directeur adjoint de la conformité, Thomas Dautieu, a rappelé que la Cnil avait été avertie dans “l’urgence”, et adressé à la municipalité plusieurs mises en garde. Il y rappelle notamment que “les modalités de mise en œuvre de l’expérimentation envisagée doivent respecter des conditions particulièrement strictes pour protéger les droits des personnes”.
Il ajoute plusieurs avertissements concernant les personnes non volontaires pour participer au dispositif qui circuleront dans le carnaval et feront de facto partie des images analysées. Il plaide aussi pour la mise en place d’un formulaire particulier, sur lequel figureront toutes les informations nécessaires afin que les volontaires donnent leur consentement libre et pleinement éclairé pour l’utilisation de leur image.
Nice et les nouvelles technologies, une histoire d’amour 2.0
Heureux de recevoir ce Prix qui est une nouvelle reconnaissance de l’engagement constant qui est le nôtre en faveur du développement durable et des nouvelles technologies. #ForumSmartCity https://t.co/Piq9t8tcL5
— Christian Estrosi (@cestrosi) 28 novembre 2017
Ce choix controversé de tester la reconnaissance faciale est justifié ainsi par Christian Estrosi : “Aujourd’hui, personne ne comprendrait que la médecine n’utilise pas toutes les nouvelles technologies au service de notre santé.” L’édile voit donc dans cette démarche le fait d’“utiliser toutes les innovations possibles au service de notre sécurité”.
L’ancien ministre a fait de l’intelligence artificielle l’une de ses armes favorites contre la délinquance et appuie, coûte que coûte, et ce depuis de nombreuses années, son utilisation dans la politique sécuritaire de sa ville. Une stratégie qui a valu à Nice d’être classée parmi les premières “smart cities” au monde en 2015, derrière Londres, New York et Singapour.
La “ville intelligente” compte déjà 2 350 caméras, soit une caméra pour 145 habitants, cent opérateurs vidéos qui fonctionnent en permanence ainsi que plusieurs technologies telles que des caméras thermiques ou des caméras 360°. La municipalité se félicite d’avoir eu 1 250 réquisitions judiciaires sur l’année passée qui seraient dues à l’utilisation de ces nouvelles technologies.
Mais le maire veut aller plus loin. Il a par exemple annoncé qu’il souhaitait acquérir un nouveau logiciel de cartographie émotionnelle, le Two-I détecteur d’émotions, qui fonctionne sur le système suivant :
“Le principe n’est pas de connaître l’humeur de Mme X ou M. Y, mais l’opérateur a, sur son écran, des points de couleurs et non des visages en fonction des sept principaux sentiments identifiés.
Si la majorité vire au rouge, c’est un sentiment de peur qui se généralise, ce qui peut permettre à un opérateur de prendre la main sur les caméras pour identifier la cause !”
Concernant ce test durant le carnaval, le maire de Nice a fait savoir qu’à l’issue de cette expérimentation seraient établis “un rapport et une proposition de loi qui doit permettre de faire évoluer les lois Informatique et Liberté de 1978 et celle sur la vidéosurveillance de 1995”.
Interrogée sur ce que pourrait contenir cette proposition de loi, la mairie rétorque : “ce rapport détaillé sera remis par Christian Estrosi aux parlementaires et au gouvernement, tout comme à la CNIL, dans le but de faire évoluer la loi” et ajoute : “c’est la contribution de Christian Estrosi au débat national”.
Article publié le 19 février à 18h14 et modifié le 20 février à 17h58.
