wat magazine straks wel en niet?


Ook ChatGPT valt straks zeer waarschijnlijk onder Europese AI-regels

NOS Nieuws•

  • Nando Kasteleijn

    redacteur Tech

  • Nando Kasteleijn

    redacteur Tech

Na dagen van intensieve onderhandelingen, waar een evenzo intensieve foyer aan voorafging, ligt er sinds vrijdag een voorlopig akkoord over Europese regels voor kunstmatige intelligentie (AI). Veel particulars zijn nog onduidelijk, en het duurt nog even voor de regels ook daadwerkelijk ingaan. Dit alles neemt niet weg dat de moist grote gevolgen gaat hebben voor AI in Europa.

De maatschappij is er de afgelopen jaren al steeds meer verweven mee geraakt en dat gaat naar verwachting alleen maar meer worden. Deze nieuwe moist moet ervoor zorgen dat systemen van bedrijven niet uit de bocht vliegen, maar ook dat het gebruik ervan door opsporingsdiensten aan regels gebonden is.

Vier vragen en antwoorden over wat er is afgesproken.

Wat magazine er straks niet meer?

De verboden zijn de zwaarst bevochten onderdelen van de hele moist. Er is dagen over gesproken. “We wisten dat het verbieden van realtime gezichtsherkenning op afstand niet zou gaan lukken”, zegt GroenLinks-Europarlementariër Van Sparrentak, die aan tafel zat bij de onderhandelingen. “Daar hebben we een compromis over bereikt.”

Het wordt onder meer verboden om ongericht information van gezichten te verzamelen van web of beelden van beveiligingscamera’s om zo een gezichtsherkenningsdatabase te bouwen. Ook magazine AI niet worden ingezet voor wat ‘predictive policing‘ wordt genoemd; op foundation van information proberen te voorspellen waar en door wie een misdaad gepleegd zal worden. “De technische dingen die ervoor zorgden dat het toeslagenschandaal mogelijk was, die zijn nu verboden”, zegt Van Sparrentak. “Daar ben ik echt heel trots op.”

Er zijn drie uitzonderingen gemaakt waarin opsporingsdiensten onder voorwaarden wel gebruik mogen maken van gezichtsherkenning. Als het leven van een slachtoffer in gevaar is (denk aan een ontvoering), bij directe dreiging van bijvoorbeeld een aanslag en bij bepaalde misdaden waarbij al een verdachte in beeld is. Het gaat onder meer om terrorisme, mensenhandel en seksuele uitbuiting. Er is wel toestemming van een rechter nodig, er moet een mensenrechtentoets plaatsvinden en er magazine alleen worden gezocht naar een specifiek persoon.

Komen er strenge regels voor chatbots?

Chatbots vallen onder wat ze ‘common objective AI’ noemen, AI-systemen die geen specifiek doel hebben en voor meerdere doeleinden gebruikt kunnen worden. Hoe streng de regels zijn, hangt af van hun influence. Voor alle systemen geldt dat duidelijk moet zijn hoe ze werken, op foundation van welke information ze getraind zijn en of ze geen auteursrechten schenden. Ook moet er duidelijkheid zijn over hun energieverbruik.

De strengste regels gaan alleen gelden voor de ‘meest geavanceerde’ modellen, aldus een bron bij de Europese Commissie. Die kan nog niet vertellen welke bedrijven er wel of niet mee te maken gaan krijgen. Makers in deze categorie moeten testen of de modellen accuraat en goed beveiligd zijn. Ook moeten ze onderzoeken wat hun grootste risico’s zijn en deze ondervangen. “ChatGPT-maker OpenAI erkende in gesprek met mij dat ze al deze maatregelen al nemen, maar ze willen het niet in regels vastgelegd hebben”, vertelt Van Sparrentak.

Van Sparrentak gaat ervan uit dat in ieder geval de meest geavanceerde versie van ChatGPT, GPT4, eronder valt evenals de nieuwste technologie van Google, Gemini Extremely. Volgens de bron is er tijdens de onderhandelingen niet gesproken over specifieke bedrijven.

Vallen Europese bedrijven ook onder de regels?

Ja. Maar dat betekent niet dat ze allemaal even strenge regels krijgen. De Spaanse minister voor Digitalisering en AI, die de lidstaten vertegenwoordigde tijdens de onderhandelingen, zei na afloop dat alle “Europese bedrijven zeer lichte verplichtingen” krijgen.

In de sterke lobby voorafgaand aan de laatste onderhandelingen werden twee Europese bedrijven steevast genoemd: Mistral AI en Aleph Alpha. “Zij vallen nog niet onder de strenge regels”, zegt Van Sparrentak. “Ze zijn nu nog te klein en hebben niet genoeg influence. Die definitie, influence hebben, vinden ze niet zo leuk.”

Wat betekent deze moist voor consumenten?

Eerst zijn bedrijven en overheden aan zet om de komende een tot twee jaar te kijken of zij aanpassingen moeten doen bij de inzet van AI. Voor consumenten moet het straks duidelijk zijn dat ze te maken hebben met een chatbot of met door AI gegenereerd materiaal. Verder moet er meer transparantie komen over hoe AI tot keuzes komt en er komt een klachtenprocedure.

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top