Ai-pionier Geoffrey Hinton betreurt zijn levenswerk




Dr. Geoffrey Hinton, een van de peetvaders op het gebied van onderzoek naar artificiële intelligentie, is opgestapt bij Google. De pionier op gebied van neurale netwerken kan niet langer aanzien hoe generatieve ai steeds meer verderfelijke content material en misinformatie uitspuwt.

De 75-jarige computerwetenschapper die zijn bedrijf tien jaar geleden verkocht aan Google, keert het techbedrijf de rug toe. Hij wil vrijer zijn mening uiten over de toenemende gevaren van ai. Hij zegt bang te zijn van ‘zijn eigen ai’. Het gaat de verkeerde kant op, zegt de eminente ai-expert die in 2018 samen met twee andere wetenschappers de Turing Award gained, een soort Nobelprijs voor ai.

Hinton ziet ai in verkeerde handen komen. Tegenover de BBC noemde hij de gevaren van ai-chatbots ‘behoorlijk angstaanjagend’. Deze bots kunnen intelligenter worden dan mensen. Foute varieties kunnen daar misbruik van maken. Chatbots zijn in staat om enorme hoeveelheden tekst te produceren wat een spam-bot zeer effectief kan maken. Ook vreest hij dat autocratische leiders hiermee hun achterban kunnen manipuleren. Uiteindelijk kan deze technologie het mensdom bedreigen, aldus Hinton. Hij denkt dat het erg moeilijk wordt te voorkomen dat slechteriken van deze technologie misbruik gaan maken. 

Spijt

De New York Occasions bracht het nieuws over het vertrek van Hinton bij Google naar buiten. In een interview met die Amerikaanse krant zegt Hinton spijt te hebben van zijn bijdragen aan de ai-techniek. Hij zegt tot eind vorig jaar te hebben geloofd dat deze technologie bij Google in de juiste handen was. Maar dat veranderde toen Microsoft met techniek van Open AI een chatbot in zijn Bing-zoekmachine inbouwde. De beurskoers van Google kreeg een enorme klap. Google zag zijn zoekactiviteiten waarmee elk kwartaal tientallen miljarden worden verdiend, in gevaar komen.

Toen vervolgens een inderhaast gegeven presentatie van de Bard AI-chatbot de mist inging, werd Google-moeder Alphabet in twee beursdagen 160 miljard greenback minder waard. Larry Web page, mede-oprichter van Google, verordonneerde in paniek ‘koste wat kost’ Microsoft bij te benen. Maar die wedloop met Microsoft wordt Google niet in dank afgenomen. Google kreeg onder meer van Elon Musk het verwijt de veiligheid rond ai niet serieus genoeg te nemen.

In het verborgene

Hinton valt Google niet openlijk af. Evenmin vindt hij dat de ontwikkeling van ai helemaal moet worden stopgezet. De voordelen zijn momenteel nog groter dan de risico’s, stelt hij. Wel schaart de wetenschapper zich achter het groeiende leger critici die vinden dat Google, Microsoft en andere Large Tech-bedrijven onverantwoorde risico’s nemen met agressieve campagnes om versneld producten te lanceren gebaseerd op generatieve ai. Steeds meer ai-wetenschappers roepen om wereldwijde regelgeving.

Tegelijk realiseert Hinton zich dat effectieve controle bijna onmogelijk is. Ondernemingen of landen kunnen namelijk in het verborgene aan ai blijven werken. Bij de ontwikkeling van kernwapens is het veel moeilijker dergelijke activiteiten te bedekken. De Brit hoopt dat ‘s werelds leidende wetenschappers gaan samenwerken om manieren te vinden om de technologie beter beheersbaar te maken. Verdere opschaling van de techniek is onwenselijk zolang die controlemechanismen uitblijven, zo besluit hij. 

Laat een reactie achter

Scroll naar boven