Amerikaanse techreuzen beloven risico’s AI te beperken, is wel vrijwillig


NOS Nieuws

  • Nando Kasteleijn

    redacteur Tech

  • Nando Kasteleijn

    redacteur Tech

De belangrijkste Amerikaanse techbedrijven die werken aan het ontwikkelen van AI (kunstmatige intelligentie) beloven een reeks maatregelen te nemen. Die moeten helpen de maatschappij beter te beschermen tegen de risico’s van AI. De afspraken zijn vrijblijvend, maar de bedrijven hebben wel beloofd er meteen mee aan de slag te gaan.

Zeven bedrijven hebben hun medewerking toegezegd. Het gaat met Amazon, Google, Microsoft en Meta om de high van de techsector. Ook doen drie relatief nieuwe partijen mee: ChatGPT-maker OpenAI, Anthropic en Inflection. Apple, dat ook zou werken aan z’n eigen ChatGPT-variant, is er niet bij.

De techbedrijven maken de afspraken op verzoek van het Witte Huis. Vandaag is er in bijzijn van president Biden een gezamenlijke bijeenkomst. Op deze manier wil Biden meer grip krijgen op een industrie die zich razendsnel ontwikkelt en al op various plekken in de maatschappij affect heeft. En dat wordt alleen maar meer, is de verwachting.

Acht beloftes

De bedrijven gaan zich committeren aan in totaal acht beloftes. Het gaat bijvoorbeeld om een systeem waarmee consumenten door AI gegenereerde content material, zoals audio of een afbeelding, als zodanig kunnen herkennen. Hierbij wordt gedacht aan een soort watermerk. OpenAI en Google zijn daar al mee bezig, al is het onduidelijk hoever ze daarmee zijn en hoe het in de praktijk gaat werken.

Ook beloven de techgiganten aan purple teaming te gaan doen. Dit betekent dat specialisten de grenzen van een AI-systeem gaan opzoeken om zo te ontdekken wanneer er sprake is van ongewenst gedrag. Bij een chatbot wil je bijvoorbeeld voorkomen dat die gebruikers vertelt hoe je het beste een bom kunt maken of een laptop kunt hacken.

Verder is het de bedoeling dat de bedrijven informatie over de veiligheid en betrouwbaarheid van hun AI gaan delen met overheden en andere bedrijven. Daarnaast beloven de bedrijven voorrang te geven aan onderzoek waarin wordt gekeken naar de maatschappelijke risico’s van AI, zoals het voorkomen van vooroordelen en discriminatie.

Niet dwingend

De vraag is hoeveel vrijheid de bedrijven krijgen om de beloften op hun eigen manier uit te werken. Als het ze, om welke reden dan ook, toch niet goed uitkomt om een van de punten uit te voeren, heeft dat niet direct consequenties. Daardoor heeft dit initiatief het risico een wassen neus te worden, iets wat in de praktijk weinig voorstelt. Het Witte Huis heeft gezegd dat Biden ook werkt aan een decreet, dat wel dwingend zou zijn. Wetgeving vanuit het Congres wordt niet direct verwacht.

De Europese Unie is juist al een tijd bezig met wetgeving over AI. Momenteel onderhandelen het Europees Parlement, de Europese Commissie en de lidstaten over een moist over kunstmatige intelligentie. Als het aan Parlement ligt, komen daar ook specifieke regels in te staan voor de taalmodellen die de motor zijn van generatieve AI-toepassingen. Hierbij kan een systeem op foundation van een vraag zelf een tekst of afbeelding genereren.

De Amerikaanse regering zou verdeeld zijn over de manier waarop AI moet worden gereguleerd. Een deel zou voor de EU-lijn zijn, maar er is ook vrees dat te veel regels Amerika’s concurrentiepositie – met title ten opzichte van China – in de weg kunnen zitten.

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top