Ai-gebruik is ingeburgerd, maar ai-governance blijft vaak nog achterwege. Volgens onderzoeksbureau Barc heeft 97 procent van de ondervraagde organisaties minstens één ai-toepassing in productie. Opvallend: twee derde kreeg de afgelopen twaalf maanden met een ai-gerelateerd incident te maken.
De cijfers staan in ‘The State of Data and AI Governance’, een wereldwijd onderzoek van Barc onder 234 data-, ai-, it- en businessleiders. Barc is een onderzoeksbureau met focus op data en ai, ook wel omschreven als een ‘Gartner voor data’.
Gebrek aan governance kan de nodige gevolgen hebben, aldus Kevin Petrie, vice-president research bij Barc US. Als mogelijk meest schadelijke gevolg noemt 44 procent verlies van klantvertrouwen en reputatie. Boetes of sancties volgen met 40 procent, directe financiële verliezen met 37 procent.
‘Deze bevindingen laten zien waarom governance nu afdwingbare controles vereist over data, modellen, applicaties, agents en infrastructuur’, stelt Kevin Petrie van Barc.
Menselijk toezicht blijft alvast nodig: 59 procent eist goedkeuring van een mens voor gevoelige acties van ai-agents.
Op datalaag is de basis redelijk op orde: 58 procent beheert datakwaliteit en 62 procent past governancecontroles toe. ‘Maar de meeste ai-adopters slagen er niet in modellen en agents goed te beheren’, stelt Petrie. Slechts 26 procent gebruikt monitoring en observability voor modellen, 23 procent heeft modelregisters of inventarissen, 20 procent een speciaal ai-governanceplatform en 10 procent een oplossing voor agentgovernance.
Wat koplopers anders doen
Barc rekent 29 procent van de respondenten tot de ‘ai leaders’, tegenover 20 procent begin 2024. Dat zijn organisaties met een volwassen ai-programma op zeven dimensies, waaronder security, leiderschap op directieniveau en projecttoezicht. Zij melden in de meeste categorieën minder incidenten en gebruiken vaker ai-specifieke governancetechnologie.
Barc ziet in hun voortgang vier prioriteiten: duidelijke verantwoordelijkheid voor ai-risico’s, controles over de hele keten, continue monitoring en governance van de ongestructureerde informatie die genai-toepassingen en agents als context gebruiken.
Waarschuwen voor overmoed
De incidenten zijn zelfgerapporteerd. Volgens Barc melden it-respondenten bij verschillende incidenttypen meer problemen dan businessrespondenten, die volgens het onderzoeksbureau onbewust kunnen bijdragen aan ai-fouten.
Barc waarschuwt ook voor overmoed: 60 procent van de respondenten vindt de eigen governance beter dan die van sectorgenoten, terwijl 29 procent als ai-voorloper of leader geldt.
