Google pauzeert AI-afbeeldinggenerator na ‘problemen’



NOS Nieuws

Google stopt voorlopig met de mogelijkheid om afbeeldingen van mensen te genereren met AI-technologie Gemini. Het besluit volgt op kritiek van gebruikers dat de dienst inaccurate resultaten opleverde.

Met Gemini kunnen onder meer kunstmatige afbeeldingen gegenereerd worden op foundation van tekstuele omschrijvingen van gebruikers. Daarmee lijkt het op eerder uitgebrachte technologieën van concurrenten, zoals afbeeldinggenerator DALL-E.

Uit onderzoek van onder meer The Washington Post bleek eerder dat deze technologieën stereotyperingen in de hand kunnen werken. Als een gebruiker bijvoorbeeld om een afbeelding van een ‘leider’ vraagt, wordt relatief vaak een man getoond, terwijl ‘gevangenen’ in meerderheid afbeeldingen van zwarte mensen oplevert.

‘Vikingen’

Google beloofde met Gemini iets te doen aan deze AI-stereotyperingen, maar lijkt daar te ver in doorgeschoten te zijn. Kort na introductie van de functionaliteit eerder deze maand werden op social media voorbeelden gedeeld van historisch inaccurate resultaten. Zo leverde het systeem na een verzoek om afbeeldingen van ‘vikingen’ of ‘Nazi-soldaten’ vrijwel uitsluitend resultaten met zwarte of Aziatische personen.

Het besluit om de afbeeldinggenerator te pauzeren komt minder dan 24 uur nadat Google op X excuses aanbood voor de verkeerde weergave van sommige historische figuren. “De AI-beeldgeneratie van Gemini genereert een breed scala aan mensen. En dat is over het algemeen een goede zaak, omdat mensen over de hele wereld het gebruiken. Maar hier mist het z’n doel.”

Inhaalslag

Het tijdelijk offline halen van de functionaliteit is pijnlijk voor Google. De techgigant wil voorop lopen in de ontwikkelingen rond kunstmatige intelligentie, maar is al een tijd bezig aan een inhaalslag. Die begon toen Google verrast werd door de snelle opkomst van ChatGPT, van concurrent OpenAI. Saillant element is dat de onderliggende technologie hiervoor bedacht was door onderzoekers van Google.

Als antwoord op ChatGPT lanceerde Google vorig jaar AI-assistent Bard. De introductie daarvan leverde een blunder op, toen de chatbot het verkeerde antwoord op een voorbeeldvraag gaf. Het kostte Google op de beurs tientallen miljarden {dollars}. In februari doopte het Bard om tot Gemini, met daarbij de introductie van verschillende nieuwe functionaliteiten, waaronder de afbeeldinggenerator.

Google zegt dat het op korte termijn een ‘verbeterde versie’ van Gemini wil introduceren.

Scroll to Top