De hype rond kunstmatige intelligentie (artificial intelligence, ai) is duidelijk over het hoogtepunt heen. De tijd van de overspannen verwachtingen is voorbij. Op een aantal gebieden biedt deze tool nog steeds mogelijkheden. Maar ai is zeker geen panacee dat altijd en overal resultaat geeft. Bovendien blijft het vaak bij experimenten. Slechts twintig procent van de projecten komt uiteindelijk in productie.
Dat blijkt tijdens de World Summit AI in Amsterdam/Zaandam waar enkele duizenden belangstellenden uit de wereld van de wetenschap, het bedrijfsleven en de overheid deze week samenkomen. Nadat jarenlang de loftrompet over ai is geblazen, worden nu vooral kritische noten geplaatst. Veel aandacht was er op de openingsdag voor de ethische kanten van ai. Ook groeit het besef dat bij ai de mens centraal moet staan.
Prins Constantijn riep in zijn openingstoespraak op tot een meer verantwoordelijke houding ten opzichte van ai. De roep om ‘responsible ai’ klonk alom. Ai-systemen mogen niet meer roekeloos worden uitgerold. Belangrijk ook is de uitlegbaarheid. Duidelijk moet zijn hoe algoritmes tot bepaalde uitkomsten heeft geleid; waarom bijvoorbeeld de een wel een krediet krijgt en de ander niet. Volop werd gediscussieerd over de vraag hoe ai kan bijdragen tot een betere samenleving.
Herstart
‘Ai is aan een herstart toe’, concludeert prof. Gary Marcus, hoogleraar psychologie en neurale wetenschappen bij de New York University. ‘Het wordt hoog tijd voor de bouw van ai die we kunnen vertrouwen,’ aldus Marcus.
Staatssecretaris Mona Keijzer (Economische Zaken en Klimaat) zegt dat ethiek dé leidraad bij de creatie van ai-strategie moet zijn. Ethiek moet als een rode lijn door alle ai heen lopen. ‘Want consumenten die geen vertrouwen stellen in nieuwe technologie, gaan daar geen gebruik van maken. We moeten de mensen die angst hebben voor ai, overtuigen. Verzeker die mensen er dan ook van dat ai valt te vertrouwen. Daarbij is belangrijk dat de rechten van de individuele burger worden gerespecteerd,’ aldus Keijzer.
Marcus, auteur van het boek ‘Rebooting AI’ betoogde dat vooroordelen moeilijk uit ai-systemen zijn te verwijderen. Veel algoritmes worden gevoed met historische data. Als in die data al vooroordelen zitten ingebakken, beïnvloedt dat de ai. De Amerikaanse hoogleraar zei dat de huidige benadering van ai een aantal grote zwaktes kent die het vertrouwen schaden. Tal van voorbeelden zijn bekend hoe ai vreselijk in de fout kan gaan. ‘Zelfrijdende auto’s kunnen nog enorm verbeteren. De huidige systemen begrijpen slechts een beperkt aantal dingen. Ze snappen totaal niet hoe de wereld in elkaar steekt. Dat betekent niet dat we met ai moeten stoppen. Wel wordt het tijd dat we aan ai gaan sleutelen. We hebben een hoger niveau van begrip nodig.’
Marcus denkt aan hybride ai waarin statistische methoden worden gecombineerd met cognitieve wetenschappen. Multidisciplinaire samenwerking zal nodig zijn. ‘Door een ‘model van de wereld’ aan ai toe te voegen, ontstaat een beter begrip waardoor ai-systemen minder gemakkelijk voor de gek zijn te houden. Deep neural networks’ zijn geweldig in beeldherkenning, maar ze zijn ook gemakkelijk om de tuin te leiden. Omdat ze wereldvreemd zijn, gaan ze snel in de fout wat tot vervelende situaties kan leiden.’ Marcus liet met tal van voorbeelden zien waar de zwaktes van deze systemen liggen.
Deep learning
Volgens de Amerikaanse hoogleraar is de huidige ai eigenlijk alleen maar goed in het classificeren. Deep learning is naar zijn mening niet meer dan een geweldige statistische machine die kan labelen. ‘Het is een van de vele tools. Deep learning is niet hetzelfde als het hebben van een diep begrip’, stelt Marcus. Hij vergelijkt deep learning met een powerschroevendraaier. Een heleboel andere tools zijn nodig om echt vooruitgang te boeken.
Ron Chrisley, directeur van het Centre for Cognitive Science bij de Universiteit van Sussex, benadrukt dat ai-systemen geen vervanger van de mens moeten zijn maar hem moeten assisteren. Zeker waar mensen irrationeel gedrag vertonen en verkeerde beslissingen nemen, moet ai hen weer op het rechte pad brengen. Daartoe is nodig dat ai weet op welke momenten mensen in de fout gaan. De menselijke psyche moet niet worden gekopieerd, maar beter worden begrepen. Volgens Chrisley gaat uiteindelijk niets boven het menselijke oordeel, maar ai-systemen kunnen mensen wel helpen betere beslissingen te nemen.
Juridisch
Verder blijkt tijdens de World Summit AI dat wet- en regelgeving onontkoombaar zijn. Catellijne Muller, lid van de EU High Level Expert Group on AI, zegt dat met name applicaties die een enorme impact hebben, gereguleerd moeten worden. Een voorbeeld is gezichtsherkenning. Daar moeten echt regels voor komen. Een ruime meerderheid van de conferentiedeelnemers blijkt voor regulering te zijn. Volgens prof. Joris van Hoboken, hoogleraar aan de Vrije Universiteit Brussel, vereist de complexiteit van ai dat beleidsmakers, overheid en politici van de juiste expertise worden voorzien. Dat is belangrijk om ervoor te zorgen dat de mens echt centraal komt te staan bij de ontwikkeling van ai.
Europa
Veel bijval kreeg oud-Europees Commissaris Neelie Smit voor haar betoog dat Europa de handen ineen moet slaan bij ai. Het moet ‘EU First’ zijn, reageert ze op Donald Trumps ‘America First’. Smit: ‘Als iedereen het vuil gaat spelen, dan is dat de oplossing, ook al verdient een dergelijk beleid geen schoonheidsprijs.’ Volgens Smit kan Europa op gebied van ai alleen langszij komen als intensief tussen alle lidstaten wordt samengewerkt. Ze zei dat moet worden geleerd van de fouten uit het verleden. Europa had destijds een goede uitgangspositie op gebied van halfgeleiders. Omdat Europese bedrijven elkaar gingen beconcurreren in plaats van samen te werken, ging het volgens Smit mis. Airbus is een voorbeeld van hoe het wel moet, vindt de voormalige vice-president van de Europese Commissie.