De Europese Commissie heeft Capgemini geselecteerd om een consortium te leiden dat geavanceerde ai-modellen beoordeelt op veiligheidsrisico’s en mogelijke inzet bij cyberaanvallen.
De opdracht valt onder de Europese AI Act en richt zich op zogeheten general-purpose ai-modellen (GPAI; algemene ai-modellen getraind om een breed scala aan taken uit te voeren).
Capgemini gaat samen met het Frans-Duitse adviesbureau Wavestone en het Franse LNE (het nationale instituut voor metrologie en technische beproeving) onder meer cyberdreigingen modelleren, beoordelingsinstrumenten ontwikkelen en technische controles op naleving uitvoeren. Daarbij ligt de nadruk op risico’s zoals het automatisch opsporen van softwarekwetsbaarheden en het genereren van exploits met behulp van ai.
Het consortium ondersteunt het ai-bureau van de Europese Commissie bij het identificeren en beperken van systeemrisico’s en het handhaven van de verplichtingen voor aanbieders van GPAI-modellen, zoals daar zijn: OpenAI, Google, Anthropic, Meta en Mistral.
