Ai-pionier Geoffrey Hinton betreurt zijn levenswerk

Wetenschapper ziet gevaren chatbots escaleren

Dr. Geoffrey Hinton, een van de peetvaders op het gebied van onderzoek naar artificiële intelligentie, is opgestapt bij Google. De pionier op gebied van neurale netwerken kan niet langer aanzien hoe generatieve ai steeds meer verderfelijke content en misinformatie uitspuwt.

De 75-jarige computerwetenschapper die zijn bedrijf tien jaar geleden verkocht aan Google, keert het techbedrijf de rug toe. Hij wil vrijer zijn mening uiten over de toenemende gevaren van ai. Hij zegt bang te zijn van ‘zijn eigen ai'. Het gaat de verkeerde kant op, zegt de eminente ai-expert die in 2018 samen met twee andere wetenschappers de Turing Award won, een soort Nobelprijs voor ai.

Hinton ziet ai in verkeerde handen komen. Tegenover de BBC noemde hij de gevaren van ai-chatbots ‘behoorlijk angstaanjagend’. Deze bots kunnen intelligenter worden dan mensen. Foute types kunnen daar misbruik van maken. Chatbots zijn in staat om enorme hoeveelheden tekst te produceren wat een spam-bot zeer effectief kan maken. Ook vreest hij dat autocratische leiders hiermee hun achterban kunnen manipuleren. Uiteindelijk kan deze technologie het mensdom bedreigen, aldus Hinton. Hij denkt dat het erg moeilijk wordt te voorkomen dat slechteriken van deze technologie misbruik gaan maken. 

Spijt

De New York Times bracht het nieuws over het vertrek van Hinton bij Google naar buiten. In een interview met die Amerikaanse krant zegt Hinton spijt te hebben van zijn bijdragen aan de ai-techniek. Hij zegt tot eind vorig jaar te hebben geloofd dat deze technologie bij Google in de juiste handen was. Maar dat veranderde toen Microsoft met techniek van Open AI een chatbot in zijn Bing-zoekmachine inbouwde. De beurskoers van Google kreeg een enorme klap. Google zag zijn zoekactiviteiten waarmee elk kwartaal tientallen miljarden worden verdiend, in gevaar komen.

Toen vervolgens een inderhaast gegeven presentatie van de Bard AI-chatbot de mist inging, werd Google-moeder Alphabet in twee beursdagen 160 miljard dollar minder waard. Larry Page, mede-oprichter van Google, verordonneerde in paniek 'koste wat kost' Microsoft bij te benen. Maar die wedloop met Microsoft wordt Google niet in dank afgenomen. Google kreeg onder meer van Elon Musk het verwijt de veiligheid rond ai niet serieus genoeg te nemen.

In het verborgene

Hinton valt Google niet openlijk af. Evenmin vindt hij dat de ontwikkeling van ai helemaal moet worden stopgezet. De voordelen zijn momenteel nog groter dan de risico’s, stelt hij. Wel schaart de wetenschapper zich achter het groeiende leger critici die vinden dat Google, Microsoft en andere Big Tech-bedrijven onverantwoorde risico’s nemen met agressieve campagnes om versneld producten te lanceren gebaseerd op generatieve ai. Steeds meer ai-wetenschappers roepen om wereldwijde regelgeving.

Tegelijk realiseert Hinton zich dat effectieve controle bijna onmogelijk is. Ondernemingen of landen kunnen namelijk in het verborgene aan ai blijven werken. Bij de ontwikkeling van kernwapens is het veel moeilijker dergelijke activiteiten te bedekken. De Brit hoopt dat ‘s werelds leidende wetenschappers gaan samenwerken om manieren te vinden om de technologie beter beheersbaar te maken. Verdere opschaling van de techniek is onwenselijk zolang die controlemechanismen uitblijven, zo besluit hij. 

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2023-05-02T17:41:00.000Z Alfred Monterie


Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.