In een beweging richting regulering artificial intelligence (AI) binnen de Europeese Uniehebben de leden van het Europees Parlement (EP-leden) een voorlopig akkoord over de Artificial Intelligence Handelen op commissieniveau.
De overeenkomst, die tot doel heeft de veiligheid en naleving van de grondrechten te garanderen, kreeg dinsdag overweldigende steun tijdens de stemming van de Commissie Interne Markt en Burgerlijke Vrijheden, met een totaal van 71 tegen 8 en 7 onthoudingen.
“Deze verordening heeft tot doel de grondrechten, de democratie, de rechtsstaat en de duurzaamheid van het milieu te beschermen tegen risicovolle AI. Tegelijkertijd heeft het tot doel de innovatie te stimuleren en Europa tot leider op het gebied van AI te maken. De regels leggen verplichtingen op voor AI op basis van de potentiële risico’s en de mate van impact ervan”, zegt het Europees Parlement.
De aankondiging komt drie maanden na het bereiken van een voorlopige overeenkomst over het voorstel voor geharmoniseerde regelgeving artificial intelligence (AI) — de Artificial Intelligence Handelen.
Belangrijkste bepalingen van de Artificial Intelligence (AI) wet
1. Verboden applicaties:
De overeenkomst verbiedt bepaalde AI-toepassingen die de rechten van burgers bedreigen. Het bevat:
- Biometrische categorisatiesystemen op basis van gevoelige kenmerken
- Ongericht schrapen van gezichtsbeelden van internet of camerabeelden voor gezichtsherkenningsdatabases
- Emotieherkenning op de werkvloer en op school
- Sociaal scoren
- Predictive policing is uitsluitend gebaseerd op het profileren van een persoon of het beoordelen van zijn of haar kenmerken
- AI die menselijk gedrag manipuleert of de kwetsbaarheden van mensen uitbuit
2. Vrijstellingen voor wetshandhaving
Het gebruik van biometrische identificatiesystemen (RBI) door rechtshandhavingsinstanties is in principe verboden, behalve in uitputtend opgesomde en nauw gedefinieerde situaties.
“Real-time” RBI kan alleen worden ingezet onder strikte waarborgen, bijvoorbeeld beperkt in tijd en geografische reikwijdte, met voorafgaande rechterlijke of administratieve toestemming.
Voor een inzet op afstand, die als risicovol wordt beschouwd, is ook rechterlijke toestemming vereist en moet er sprake zijn van een strafbaar feit.
3. Verplichtingen voor risicovolle systemen
De wetgeving legt duidelijke verplichtingen op aan AI-systemen met een hoog risico die aanzienlijke gevolgen kunnen hebben voor de gezondheid, de veiligheid, de grondrechten, het milieu, de democratie en de rechtsstaat. Deze verplichtingen strekken zich uit tot kritieke infrastructuur, onderwijs, werkgelegenheid, essentiële diensten, wetshandhaving, migratie- en grensbeheer, justitie en democratische processen. Burgers krijgen het recht om klachten in te dienen over AI-systemen die hun rechten aantasten.
4. Transparantievereisten
General-purpose AI (GPAI)-systemen en hun onderliggende modellen moeten tijdens de training voldoen aan de transparantievereisten en aan de EU-auteursrechtwetgeving. Krachtigere modellen die systeemrisico's met zich meebrengen, zullen te maken krijgen met aanvullende verplichtingen op het gebied van evaluatie, risicobeoordeling en rapportage. Bovendien moet kunstmatige of gemanipuleerde video-inhoud (“deepfakes”) duidelijk als zodanig worden geëtiketteerd.
5. Maatregelen ter ondersteuning van innovatie en het MKB
Op nationaal niveau zullen regelgevingssandboxen en praktijkgerichte testinitiatieven worden opgezet, die het MKB en startups mogelijkheden om innovatieve AI-oplossingen te ontwikkelen en op te leiden voordat ze op de markt worden gebracht.
Hoewel het voorlopige akkoord op commissieniveau is goedgekeurd, wacht het nog op formele goedkeuring tijdens een komende plenaire zitting van het Europees Parlement en op definitieve goedkeuring door de Raad.
Eenmaal volledig aangenomen, zal de Artificial Intelligence De wet wordt van toepassing binnen 24 maanden na de inwerkingtreding ervan. Bepaalde bepalingen, zoals
- Het verbod op verboden praktijken zal zes maanden na de inwerkingtreding van kracht worden
- De praktijkcodes zullen negen maanden na de inwerkingtreding van toepassing zijn
- Algemene AI-regels, waaronder governance, zullen twaalf maanden na de inwerkingtreding van toepassing zijn
- Verplichtingen voor risicovolle systemen gelden over 36 maanden