Europees Parlement eensgezind over AI Act




Het Europees Parlement is het eens over de AI Act. Wel voegt het orgaan nog een algemeen verbod op realtime-gezichtsherkenning toe. Ook post-realtime-biometrische identificatie is uit den boze. Daarmee moet het risico van massa-surveillance worden ingedamd.

Het Europese Parlement gaat hierin verder dan de Europese Commissie. Dit bleek vanmiddag tijdens de stemming in Straatsburg over de AI Act. Een grote meerderheid ging akkoord met regels voor het gebruik van artificiële Intelligentie (ai) met een hoog risico.

Vanavond beginnen onderhandelingen (trilogen) met de Raad van de Europese Unie. Brussel wil de ai-wetgeving zo snel mogelijk doorvoeren. Maar het Europees Parlement moet het nog eens worden met de Europese Commissie en de EU-lidstaten over de finale inhoud van de moist.

Beide rapporteurs, de Roemeen Dragos Tuderache en de Italiaan Brando Benifei, verwachten dat deze onderhandelingen nog dit jaar zijn af te ronden. Op zijn vroegst start 2024 treden de regels voor hoge-risico-ai-toepassingen in werking. De EU is dan de eerste grootmacht met uitgebreide ai-wetgeving. Benifei zei dat de regels voor ai waartoe het Europees Parlement heeft besloten, een foundation vormen voor ‘accountable ai’. Burgers die deze ai-systemen gaan gebruiken, kunnen hierop vertrouwen, zei hij.

Volgens mede-rapporteur Tudorache is geprobeerd de mens centraal te stellen bij ai-systemen zonder dat daarbij de balans doorslaat. De uitrol van ai wordt daarbij niet gehinderd. Op het laatste second is het ook gelukt om tot een heldere definitie van ai te komen die aansluit bij de Amerikaanse definitie en die van de OESO. Het parlement heeft ook geprobeerd de regels zo veel mogelijk in lijn te brengen met internationale ontwikkelingen. Need de techniek is overal dezelfde. Het derde doel was ai maximaal te integreren in het werk en leven van burgers. Voorkomen moet worden dat ai in een slecht daglicht komt te staan. Dat kan door burgers erbij te betrekken, uit te leggen hoe het werkt en educatie.

Verkeersagent

“”Het verbod biometrische gegevens te verzamelen uit openbare camerabeelden zet mogelijk een streep door de Franse plannen om tijdens de komende Olympische Spelen in Parijs op openbare plaatsen biometrische identificatie toe te passen””

Europarlementariër Paul Tang (PvdA) wijst erop dat bedrijven ook de verplichting krijgen mensen te informeren als ze involved zijn met een ai-systeem. ‘De AI Act betekent een kentering in de ethische benadering van technologie. Gevaarlijke ai-toepassingen, zoals emotionele herkenning en voorspellend politiewerk op foundation van ai zijn uit den boze. Deze moist is als een betrouwbare verkeersagent die ervoor zorgt dat ai niet als een ongeleid projectiel door onze samenleving raast.’

Binnen het Europees Parlement is de afgelopen weken discussie gevoerd over het verbod biometrische gegevens te verzamelen uit openbare camerabeelden of web. Dit zet mogelijk een streep door de Franse plannen om tijdens de komende Olympische Spelen in Parijs op openbare plaatsen biometrische identificatie toe te passen.

Met de Europese Commissie en EU-lidstaten zal ook discussie ontstaan over de toepassing van ai tijdens grenscontroles op illegale immigratie. Deze toepassingen vallen in de categorie ‘hoog risico’ waarvoor strenge regels gaan gelden zoals transparantie. Maar er komen op dit gebied mogelijkheden, aldus Benifei. Biometrie is wel toe te passen nadat de beelden zijn verzameld. Op systemen die emoties detecteren, worden echter geen uitzonderingen gemaakt. Die worden ook bij migratie verboden.

Boetes

De EU zal streng optreden tegen ai-algoritmes die ongemerkt worden gevoed met informatie waarvoor auteursrechten gelden. Ontwikkelaars worden zeker betrokken bij het uitwerken van de compliance op dit gebied. Belangrijk is dat transparantie ontstaat. Creatieve sectoren moeten in ieder geval weten wanneer hun werk wordt gebruikt om algoritmes te trainen. ChatGPT zal daar zeker mee te maken krijgen. OpenAI moet straks onthullen welk materiaal waarop auteursrechten rusten, voor de ontwikkeling van zijn rekenformules is gebruikt.

Bedrijven die zich niet aan de regels houden, kunnen strenge sancties tegemoet zien. De EU kan boetes opleggen die oplopen tot maximaal zeven procent van de omzet. Ook kunnen ai-systemen uit de markt worden gehaald.


NEN

Anders dan bij de privacywetgeving GDPR zijn nu ook gemakkelijk normen en standaarden op te stellen. Tudorache verwacht geen juridische problemen met definities. Belangrijk wordt de uitwerking van de AI Act in werkbare normen. Daarbij wordt een bottom-up-benadering gevolgd. Ontwikkelaars kunnen daarbij hun stem laten horen.

NEN, het Nederlandse Normalisatie-instituut, benadrukt de cruciale rol van normen bij het reguleren van ai met als doel de bescherming van privateness, veiligheid en vertrouwen. Momenteel wordt nog onvoldoende aandacht besteed aan de uitwerking van eisen in normen, stelt Cas van den Hof, advisor ICT Standardization bij NEN. Om aan te tonen dat bedrijven aan de AI Act voldoen, zijn normen cruciaal.

Bijzonder is dat op verzoek van de Europese Commissie al tijdens de ontwikkeling van de AI Act normen worden voorbereid ter ondersteuning van toekomstige wetgeving. Normaal gebeurt dat pas na publicatie van de moist. Alle belanghebbenden, dus ook de ai-bedrijven zelf, zitten daarbij aan tafel. Van den Hof wijst op het horizontale karakter van de AI Act. Ook partijen die voorheen alleen onder de machinerichtlijn of richtlijn medische hulpmiddelen vielen, krijgen ermee te maken wanneer sprake is van hoge risico toepassingen.

Laat een reactie achter

Scroll naar boven