Dat stelt masterstudent Jacintha Walters van de Hogeschool van Amsterdam. Zij onderzocht van vijftien grote en kleine Nederlandse bedrijven in hoeverre zij op de nieuwe regelgeving zijn voorbereid. Uit haar analyse en aanvullend literatuuronderzoek blijkt dat de voorbereidingen van veel organisaties op de aanstaande AI Act te wensen over laten.
De bedrijven werden negentig enquêtevragen voorgelegd. De gemiddelde score was 58 procent. ‘Er is dus zeker nog ruimte voor verbetering’, stelt ze.
Walters vindt het opvallend dat de meeste ondervraagde bedrijven aangaven dat zij in twee jaar tijd geen risico’s zijn tegengekomen bij het gebruik van hun datasets. ‘Dit is onwaarschijnlijk, want alle datasets en modellen bevatten een risico. Meer training op dit gebied is daarom nodig.’ De bedrijven scoorden wel goed op het up-to-date houden van hun ai-modellen.
Meer impact dan AVG
Walters constateert dat het niet verwonderlijk is dat bedrijven onvoldoende zijn voorbereid, want veel is nog onduidelijk rond de Europese regelgeving. ‘Bedrijven zijn al twee jaar hiermee bezig, want de basis voor de AI Act is al in 2021 vastgesteld.’ Ze vervolgt: ‘Op bepaalde punten is de Act wel heel concreet; met name als het gaat om heel risicovolle, zoals modellen die bepalen op welke uitkeringen iemand recht heeft. Maar op andere punten is de wet vrij algemeen: zo is het een hoog risico als je ai hebt verwerkt in je ‘kritieke infrastructuur’. Het is op die punten nog steeds ambigu wat de wet straks in de praktijk betekent.’
Toch is voorbereiding volgens de onderzoekster essentieel, omdat de regelgeving verstrekkende gevolgen gaat hebben. ‘De impact voor bedrijven gaat minstens zo groot zijn als bij de AVG. De meeste bedrijven maken soms al onbewust gebruik van ai, bijvoorbeeld bij een webshop. Dan hebben ze misschien niet eens door dat dit in een aanbevelingssysteem zit.’
Risicoanalyse
Het verschil met de AVG is dat bedrijven privacy ook nog achteraf kunnen ‘toevoegen’. Dan gaat het om het anonimiseren of pseudonimiseren van persoonsgegevens. Walters: ‘Het lastige van de ai-wet is dat bedrijven ook risicoanalyses moet uitvoeren rond rechten en discriminatie en dat je moet aantonen dat je hier over hebt nagedacht. Daarvoor moet je bepaalde methodieken gebruiken die bedrijven veelal niet kennen. Dit wordt dus een veel grotere opgave voor organisaties.’
Het hele onderzoek van Jacintha Walters is hier te lezen
Uw reactie
LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren