Certains des rapports récents les plus dramatiques sur la reconnaissance faciale nous amèneraient à croire que cette technologie est un "épidémie de notre temps », alors que des militants tels que Big Brother Watch ont mis en garde contre l'utilisation de la reconnaissance faciale dans les centres commerciaux, les musées, les centres de conférence et d'autres espaces privés à travers le Royaume-Uni. Pourtant, malgré le fait que je sois le co-fondateur d'une startup dont la mission est de permettre aux gens de s'approprier la confidentialité de leurs données, je ne pense vraiment pas que ce soit une mauvaise chose - si les bonnes limites sont en place.
La technologie transforme les idées en réalité quotidienne en un clin d'œil, et aujourd'hui, les innovations en matière de reconnaissance faciale sont partout autour de nous. La reconnaissance faciale dans les aéroports nous aide à passer la sécurité plus rapidement que jamais (si cela fonctionne !) et DeepFace de Facebook permet de meilleurs mécanismes basés sur l'image, comme le marquage, et peut identifier les personnes avec un niveau de précision proche de l'humain, basé sur pas moins de 120 millions de paramètres.
En bref, la reconnaissance faciale a des centaines d'utilisations étonnantes et importantes, mais il y a aussi une conversation très importante sur la confidentialité à avoir autour de cela. Il doit y avoir un débat plus approfondi à l'échelle de l'industrie sur les avantages et les restrictions de cette technologie et pour ce faire, nous devons adopter une attitude plus saine envers ce qui est l'une des innovations les plus passionnantes de notre époque. Dans cet article, je souhaite examiner trois des plus grandes préoccupations concernant la reconnaissance faciale et les limites que nous pouvons mettre en place pour protéger nos données personnelles et nous sentir plus à l'aise avec cette nouvelle technologie passionnante.
« Qu'y a-t-il de plus personnel que mon visage ? C'est la seule donnée que je ne veux pas que les entreprises stockent »
Chaque nouvelle technologie a un marché à éduquer et son lot de critiques à affronter, et les outils de reconnaissance faciale font souvent l'objet de critiques sévères. DeepFace a été décrit comme "effrayant", À la fois Google ainsi que Apple ont dû corriger des bugs qui rendaient leurs produits racistes, et Amazon a faussement identifié les membres du Congrès comme des criminels. Il semble que lorsque notre visage est impliqué, le risque potentiel de fuite ou de manipulation de données devient plus clair et plus effrayant pour les utilisateurs.
Notre visage joue un rôle crucial dans notre sens de soi, et c'est peut-être pourquoi nous sommes plus alarmés à l'idée que la technologie accède et utilise nos traits faciaux à des fins inconnues ou de manière mal sécurisée. En quoi est-ce différent de toute autre forme d'informations personnelles que nous exposons au monde ? Ce n'est pas vraiment le cas. Considérons-nous notre visage plus important que notre compte bancaire ? Probablement pas. En fin de compte, les technologies de reconnaissance faciale gérées de manière responsable sont beaucoup plus sûres qu'un formulaire d'inscription en ligne non sécurisé. Comme tout gestionnaire de données, les entreprises de reconnaissance faciale doivent mettre en place des protections appropriées pour garantir que leurs bases de données sont aussi sécurisées que possible - et, surtout, elles doivent le communiquer à tous les utilisateurs potentiels afin qu'ils puissent savoir à quel point leur visage est en sécurité !
"La technologie Deepfake pourrait ruiner ma vie et elle devrait être interdite"
Il y a un certain niveau de danger à permettre aux autres de générer notre visage à partir de rien et de changer d'expression bon gré mal gré. Les technologies DeepFake affichent une longue liste de menaces juridiques, politiques, éthiques et sociales. Il y a quelques mois à peine, Les législateurs de New York ont mis à jour les lois locales sur la confidentialité d'interdire "l'utilisation d'une réplique numérique pour créer du matériel sexuellement explicite dans une œuvre audiovisuelle expressive" parce que la notion de quelqu'un faisant cela est très réelle. Outre ses nombreux avantages, la reconnaissance faciale a le pouvoir destructeur de changer le jeu pour le pire et il appartient à notre société de créer des limites claires qui amélioreront le positif et contrôleront le négatif.
Outre des limites claires et fermes, nous devons intensifier le jeu de la sécurité autour des solutions technologiques de reconnaissance faciale. Actuellement, même les plus grandes entreprises technologiques du monde ne peuvent promettre que nos données liées au visage seront sécurisées à 100 %. Les tentatives de Google pour lutter contre les vidéos DeepFake incluses diffusion fausses vidéos, ce qui signifie que davantage de ressources devraient être investies dans ces efforts. Nous pouvons cependant être sûrs qu'à mesure que la technologie de reconnaissance faciale deviendra une partie inséparable de notre routine quotidienne, des solutions de sécurité plus avancées entreront sur le marché et feront de leur mieux pour le protéger. Le blocage de la reconnaissance faciale peut la pousser dans la clandestinité, ce qui signifie que nous voyons encore plus d'utilisations de DeepFake – et potentiellement des technologies encore plus effrayantes – émerger. Donc, il est vraiment important d'embrasser le bien.
« Comment certaines formes de reconnaissance faciale peuvent-elles être légales si elles ne peuvent pas me demander la permission de stocker mon visage ? »
C'est une partie de l'industrie de la reconnaissance faciale qui nécessite une attention particulière. Le GDPR exige que les données personnelles ne soient pas collectées sans l'autorisation d'un individu, mais le règlement est flou dans sa discussion sur la reconnaissance faciale. En effet, dans un petit pourcentage de cas d'utilisation de la reconnaissance faciale, il est difficile de demander la permission à une personne. L'industrie de l'application de la loi est le secteur évident qui vient à l'esprit lorsque l'on considère cet argument, car elle utilise de plus en plus la reconnaissance faciale pour surveiller les espaces publics lors de la recherche de criminels potentiels afin d'améliorer l'action de la police. Mon point de vue est que les seuls visages stockés sur ces bases de données devraient être ceux de criminels, les gens ordinaires ne devraient pas l'être et cette technologie ne devrait pas non plus être utilisée pour extraire des visages car ce n'est pas éthique. Cette technologie pourrait aider à sauver des vies, donc je ne suis pas d'accord avec ceux qui souhaitent qu'elle soit interdite. Les corps qui l'utilisent doivent simplement communiquer clairement à quoi ils l'utilisent – et que les seuls visages qu'ils recherchent et stockent sont des personnes d'intérêt sur les listes de surveillance de la police.
Tout ce qui est écrit ici concernant les dangers de la reconnaissance faciale est vrai pour de nombreuses autres informations personnelles qui échappent à notre radar et ont été manipulées, échangées et utilisées sans consentement partout pendant des années. Si la reconnaissance faciale est la technologie qui peut nous réveiller tous, c'est une très bonne chose pour la confidentialité en ligne en général. Les changements dans l'attitude du public, les discussions et la législation tardent à venir et l'émergence de la technologie qui peut changer les choses pour le mieux est un signe positif.
La technologie de reconnaissance faciale est une chose merveilleuse, lorsqu'elle est utilisée de manière responsable. Nous ne devons pas permettre à nos peurs et à l'expérience négative que nous avons rencontrée en utilisant la technologie précédente d'arrêter le progrès. Au lieu de cela, nous devrions saisir cette opportunité et nous assurer qu'elle est utilisée au mieux.
Guestpost par Gal Ringel, PDG et co-fondateur, Mine
Crédits de l'image principale : Trismégiste san/ Shutterstock
Restez à l'écoute Silicon Canals pour plus de technologie européenne news.