ChatGPT-maker haalt herkenningstool offline: 'Niet nauwkeurig'



ChatGPT-ontwikkelaar OpenAI heeft een device teruggetrokken die onder anderen docenten moest helpen om teksten te herkennen die door een pc waren geschreven. De device voor herkenning van kunstmatige intelligentie was amper een half jaar geleden gelanceerd. OpenAI zegt dat het systeem niet nauwkeurig was.

Het bedrijf gaat de komende tijd aan de slag met suggestions. Doel blijft om op termijn iets te ontwikkelen waarmee gebruikers kunnen nagaan of tekst, audio of video authentiek is, of is gegenereerd door AI.

Het besluit van OpenAI laat zien hoe moeilijk het is om, zelfs voor de makers, een betrouwbaar systeem op te zetten dat AI-gegenereerde content material herkent. Bij de lancering in januari had het bedrijf al gezegd dat de device mankementen had. In 9 procent van de gevallen werden door de mens geschreven teksten aangezien voor AI-content. De betrouwbaarheid nam volgens het bedrijf toe als een tekst langer was.

Hulpmiddel voor onderwijs

De device die nu is teruggetrokken was onder meer bedoeld als hulpmiddel voor docenten. Die worden steeds vaker geconfronteerd met leerlingen die een tekstgenerator als ChatGPT gebruiken voor opdrachten.

In januari uitten onderwijzers hun zorgen daarover bij de NOS; zij zeiden niet te kunnen herkennen of een tekst door hun leerling of door een pc was geschreven. Vrijwel alle leerlingen die de NOS sprak en die ChatGPT gebruiken, zeiden dat ze niet worden betrapt.

Laat een reactie achter

Scroll naar boven