Sommige van de meer dramatische recente rapporten over gezichtsherkenning zouden ons doen geloven dat deze technologie een "epidemie van onze tijd”, zoals campagnevoerders zoals Big Brother Watch hebben gewaarschuwd voor het gebruik van gezichtsherkenning in winkelcentra, musea, conferentiecentra en andere privéruimtes in het Verenigd Koninkrijk. Maar ondanks het feit dat ik mede-oprichter ben van a startup wiens missie het is om mensen in staat te stellen eigenaar te worden van hun gegevensprivacy, ik denk eigenlijk niet dat het een slechte zaak is - als de juiste grenzen aanwezig zijn.
Technologie verandert ideeën in een oogwenk in alledaagse realiteit, en tegenwoordig zijn innovaties op het gebied van gezichtsherkenning overal om ons heen. De gezichtsherkenning op luchthavens helpt ons sneller dan ooit tevoren door de beveiliging te komen (als het werkt!) en DeepFace van Facebook maakt betere op afbeeldingen gebaseerde mechanismen mogelijk, zoals taggen, en kan mensen identificeren met een bijna menselijk nauwkeurigheidsniveau, gebaseerd op niet minder dan 120 miljoen parameters.
Kortom, gezichtsherkenning heeft honderden verbazingwekkende en belangrijke toepassingen, maar er is ook een heel belangrijk privacygesprek omheen. Er moet een meer diepgaand, sectorbreed debat komen over de voordelen en beperkingen rond deze technologie en om dit te doen moeten we een gezondere houding omarmen ten opzichte van wat een van de meest opwindende innovaties van onze tijd is. In dit artikel wil ik kijken naar drie van de grootste zorgen rond gezichtsherkenning en de grenzen die we kunnen stellen om onze persoonlijke gegevens te beschermen en ons meer op ons gemak te voelen met deze opwindende nieuwe technologie.
“Wat is er persoonlijker dan mijn gezicht? Dit is het enige stukje data waarvan ik niet wil dat bedrijven het opslaan”
Elke nieuwe technologie heeft een markt om te onderwijzen en een deel van de critici om onder ogen te zien, en gezichtsherkenningstools krijgen vaak harde kritiek. DeepFace werd beschreven als "griezelig", beide Kopen Google Reviews en Apple moest bugs repareren waardoor hun producten racistisch leken, en Amazon identificeerde leden van het Congres ten onrechte als criminelen. Het lijkt erop dat wanneer ons gezicht erbij betrokken is, het potentiële risico van gelekte of gemanipuleerde gegevens duidelijker en angstaanjagender wordt voor gebruikers.
Ons gezicht speelt een cruciale rol in ons zelfgevoel, en misschien zijn we daarom meer gealarmeerd door het idee dat technologie toegang krijgt en onze gelaatstrekken gebruikt voor onbekende doeleinden of op een slecht beveiligde manier. Hoe verschilt dat van elke andere vorm van persoonlijke informatie die we aan de wereld blootstellen? Dat is het niet, echt niet. Vinden we ons gezicht belangrijker dan onze bankrekening? Waarschijnlijk niet. Aan het eind van de dag zijn verantwoord gebruikte gezichtsherkenningstechnologieën veel veiliger dan een onbeveiligd online registratieformulier. Net als alle gegevensverwerkers moeten gezichtsherkenningsbedrijven de juiste beveiligingen hebben om ervoor te zorgen dat hun databases zo veilig mogelijk zijn - en, belangrijker nog, ze moeten dit communiceren aan alle potentiële gebruikers, zodat ze weten hoe veilig hun gezicht is!
“Deepfake-technologie kan mijn leven ruïneren en zou verboden moeten worden”
Er schuilt een zekere mate van gevaar in om anderen in staat te stellen ons gezicht uit het niets te creëren en van uitdrukking te veranderen, willens en wetens. DeepFake-technologieën vormen een lange reeks juridische, politieke, ethische en sociale bedreigingen. Nog maar een paar maanden geleden, New Yorkse wetgevers hebben lokale privacywetten bijgewerkt om "het gebruik van een digitale replica om seksueel expliciet materiaal te creëren in een expressief audiovisueel werk" te verbieden, omdat het idee dat iemand dat doet heel reëel is. Naast de vele zegeningen heeft gezichtsherkenning de vernietigende kracht om het spel ten kwade te veranderen en het is aan onze samenleving om duidelijke grenzen te creëren die het positieve versterken en het negatieve beheersen.
Naast duidelijke en stevige grenzen, moeten we het beveiligingsspel rond technologische oplossingen voor gezichtsherkenning intensiveren. Momenteel kunnen zelfs 's werelds grootste technologiebedrijven niet beloven dat onze gezichtsgerelateerde gegevens 100% veilig zullen zijn. Google's pogingen om DeepFake-video's te bestrijden inbegrepen verspreiding nepvideo's, wat betekent dat er meer middelen in deze inspanningen moeten worden geïnvesteerd. We kunnen er echter zeker van zijn dat naarmate gezichtsherkenningstechnologie een onlosmakelijk onderdeel van onze dagelijkse routine wordt, er geavanceerdere beveiligingsoplossingen op de markt zullen komen die hun best zullen doen om deze te beschermen. Het blokkeren van gezichtsherkenning kan het ondergronds duwen, wat betekent dat we nog meer toepassingen van DeepFake – en mogelijk nog engere technologieën – zien opkomen. Het is dus erg belangrijk om het goede te omarmen.
"Hoe kunnen sommige vormen van gezichtsherkenning ooit legaal zijn als ze mijn toestemming niet kunnen vragen om mijn gezicht op te slaan?"
Dit is een onderdeel van de gezichtsherkenningsindustrie dat veel aandacht vereist. De AVG vereist dat persoonlijke gegevens niet worden verzameld zonder de toestemming van een persoon, maar de regelgeving is wazig in de discussie over gezichtsherkenning. Dat komt omdat het in een klein percentage van de use-cases voor gezichtsherkenning een uitdaging is om iemand om toestemming te vragen. De wetshandhavingsindustrie is de meest voor de hand liggende sector die in je opkomt bij het overwegen van dit argument, aangezien deze steeds vaker gezichtsherkenning gebruikt om openbare ruimtes te bewaken bij het zoeken naar potentiële criminelen om zo het optreden van de politie te versterken. Mijn mening hierover is dat de enige gezichten die in deze databases worden opgeslagen, die van criminelen zouden moeten zijn, gewone mensen zouden dat niet moeten zijn en deze technologie zou ook niet moeten worden gebruikt om gezichten te ontginnen, aangezien dit niet ethisch is. Deze technologie kan levens helpen redden, dus ik ben het niet eens met degenen die willen dat het wordt verboden. De instanties die het gebruiken, moeten gewoon duidelijk communiceren waarvoor ze het gebruiken - en dat de enige gezichten waarnaar ze op zoek zijn en die ze opslaan, mensen zijn die van belang zijn op politie-watchlists.
Alles wat hier is geschreven met betrekking tot de gevaren van gezichtsherkenning, geldt voor veel andere stukjes persoonlijke informatie die aan onze radar ontsnappen en jarenlang zonder toestemming zijn gemanipuleerd, verhandeld en gebruikt. Als gezichtsherkenning de technologie is die ons allemaal wakker kan schudden, is dat een goede zaak voor de online privacy in het algemeen. De veranderingen in publieke houding, discussie en wetgeving laten nog lang op zich wachten en de opkomst van welke technologie dan ook die dingen ten goede kan veranderen, is een positief teken.
Gezichtsherkenningstechnologie is geweldig, mits verantwoord gebruikt. We mogen niet toelaten dat onze angsten en de negatieve ervaringen die we zijn tegengekomen door eerdere technologie te gebruiken, de vooruitgang stoppen. Wat we in plaats daarvan moeten doen, is deze kans aangrijpen en ervoor zorgen dat deze zo goed mogelijk wordt benut.
Gastpost door Gal Ringel, CEO en mede-oprichter, De mijne
Credits hoofdafbeelding: Trismegist san/ Shutterstock
Blijf op de hoogte Silicon Canals voor meer Europese technologie news.