Experts zijn sterk verdeeld over welke rol generatieve ai zoals ChatGPT moet spelen in de toekomst van de wetenschap. Dat blijkt uit het rapport ‘Regie over ai in de wetenschap’ van het Rathenau Instituut. De onderzoekers roepen betrokkenen op om snel met elkaar keuzes te maken, want anders valt er straks niets meer te kiezen.
De snelle ontwikkelingen van ai brengen veel mogelijkheden mee voor het doen van wetenschappelijk onderzoek. Waar ai tot voor kort vooral kansen bood voor onderzoekers die grote datasets gebruiken, kan generatieve ai toepasbaar zijn binnen ieder vakgebied.
Op dit moment worden veel wetenschappers aangemoedigd om generatieve ai te gebruiken. Deze technologie, afgekort als gen-ai en bekend van ChatGPT, Gemini en Claude, kan veel impact hebben op wetenschappelijk onderzoek, stelt het Nederlandse Rathenau Instituut in zijn onderzoek ‘Regie over ai in de wetenschap‘.
Schaduwzijde van ChatGPT
Gen-ai kost echter veel energie, versterkt technologische afhankelijkheden en schept methodologische en ethische problemen. De discussie over generatieve ai in de wetenschap gaat over veel meer dan technologie alleen. Volgens het Rathenau Instituut dwingt de opkomst van generatieve ai wetenschappers, bestuurders en beleidsmakers om fundamentele keuzes te maken over de toekomst van het wetenschapssysteem.
Grote uitdagingen voor publicatiesysteem
Het rapport stelt dat het gebruik van generatieve ai nu al grote uitdagingen veroorzaakt. Zo staat het wetenschappelijke publicatiesysteem verder onder druk. Bovendien zijn er vragen over de beschikbare digitale infrastructuur en groeit de zorg over duurzaamheid. Tegelijkertijd kan de technologie in de toekomst een veel grotere invloed krijgen op onderzoeksprocessen, de organisatie van de wetenschap, de relatie met de samenleving en de internationale positie van de Nederlandse wetenschap.
Het Rathenau Instituut verwelkomt de lopende initiatieven om richtlijnen en kaders voor ai-gebruik op te stellen. Dergelijke afspraken moeten duidelijk maken welke toepassingen van generatieve ai toelaatbaar zijn en aan welke eisen ai-modellen moeten voldoen.
Ai vergroot spanningen in wetenschap
Maar alleen regels voor ai zijn volgens de onderzoekers niet voldoende. De komst van gen-ai vergroot bestaande problemen binnen de wetenschap. Systemen rond academische loopbanen, onderzoeksfinanciering en wetenschappelijke publicaties waren volgens het rapport al overbelast en omstreden. Door de snelle verspreiding van ai worden deze spanningen verder vergroot.
Als bestuurders en beleidsmakers knopen doorhakken, dreigt volgens het instituut verlies van regie over belangrijke onderdelen van het wetenschapssysteem. Dat kan leiden tot schade voor onderzoekers, kennisinstellingen en uiteindelijk de samenleving.
Zeven thema’s waarop keuzes nodig zijn
Het rapport benoemt zeven thema’s (zie ook kader onderaan) waarop keuzes noodzakelijk zijn: wetenschappelijke integriteit, scholing van onderzoekers, het publicatiesysteem, financieringsinstrumenten, het stelsel van erkennen en waarderen, de relatie tussen wetenschap, samenleving en bedrijfsleven, en de technologische infrastructuur.
Daarbij spelen vragen als: moet de wetenschap verder versnellen of juist vertragen? Hoe intensief moet de samenwerking met bedrijven zijn? En wil Nederland vooral nationaal of Europees investeren in digitale infrastructuur?
Toekomstscenario’s
Volgens het Rathenau Instituut bestaan er verschillende toekomstscenario’s voor 2040, variërend van een wetenschap waarin ai slechts beperkt wordt ingezet – met een wettelijk verbod op onverantwoord gebruik van gen-ai – tot een model waarin technologie een centrale rol speelt. Bij het laatste wordt de wetenschap fundamenteel anders ingericht om zo efficiënt mogelijk wetenschappelijke inzichten te produceren met behulp van gen-ai. Het eerste scenario leidt tot vertraging, het tweede tot versnelling.
Daar tussen zit het scenario van de gedeelde wetenschap. In dat wensbeeld gebruiken wetenschappers gen-ai om wetenschap en samenleving met elkaar te verbinden, in lijn met de idealen van open science. Dankzij opensource ai-systemen die voor iedereen gratis toegankelijk zijn, kunnen gewone mensen, wetenschappers en verschillende experts veel makkelijker samenwerken.
Nachtmerrie van pseudowetenschap
Geen enkele actie in het heden kan alle toekomstbeelden tegelijk vooruit helpen. Daarvoor bleken de toekomstbeelden voor 2040 te ver uiteen te lopen. ‘Aan de ene kant is dat natuurlijk slecht nieuws,’ zegt projectleider Laurens Hessels, ‘want er zijn dus nu geen kant-en-klare acties waarbij je nog iedereen te vriend houdt.’
Hij vindt het hoog tijd om met elkaar in gesprek te gaan over welke toekomst we echt willen. ‘Want anders hebben we niets meer te kiezen en eindigen we bij een vierde toekomstbeeld, de nachtmerrie van gecommercialiseerde pseudowetenschap.’
Zeven thema’s
Het wetenschapssysteem staat voor ingrijpende keuzes op zeven thema’s:
• Gedragscode wetenschappelijke integriteit
Welke toepassingen van gen-ai worden toelaatbaar geacht? En welke eisen worden aan GenAI-modellen gesteld?
• Scholing van onderzoekers
Welke toepassingen van gen-ai worden toelaatbaar geacht? En welke eisen worden aan GenAI-modellen gesteld?
• Publicatiesysteem
Wat zijn de doelen en reikwijdte van wetenschappelijke communicatie? En moet de Nederlandse wetenschap versnellen of vertragen, en moet competitie het leidende principe blijven?
• Financieringsinstrumenten
Moet de Nederlandse wetenschap versnellen of vertragen, en moet competitie het leidende principe blijven?
• Erkennen en Waarderen
Moet de Nederlandse wetenschap versnellen of vertragen? Moet de wetenschap de samenwerking met de samenleving en/of het bedrijfsleven intensiveren?
• Relatie samenleving en bedrijfsleven
Moet de wetenschap de samenwerking met de samenleving en/of het bedrijfsleven intensiveren?
• Technologische infrastructuur
Welke capaciteit is nodig? Welke toepassingen van gen-ai worden toelaatbaar geacht? Wil Nederland nationaal of Europees investeren in digitale infrastructuur?
