De integratie van generatieve ai (gen-ai) in bedrijfsomgevingen brengt nieuwe cybersecurity-uitdagingen met zich mee. Dat stelt de cto van beveiliger Sophos vast. ‘We hebben machines niet leren denken.’
Hoewel 65 procent van de organisaties gen-ai heeft geïmplementeerd, uit 89 procent van de it-leiders zijn bezorgdheid over mogelijke beveiligingsrisico’s door tekortkomingen in gen-ai-tools, blijkt uit het onderzoek ‘Beyond the Hype: The Businesses Reality of AI for Cybersecurity’, waarvoor vierhonderd it-leiders (uit organisaties van vijftig tot drieduizend werknemers wereldwijd) werden ondervraagd. De studie toont aan dat 98 procent van de organisaties ai heeft geïntegreerd in hun cybersecurity-infrastructuur. Tegelijkertijd waarschuwt 87 procent voor een mogelijk gebrek aan verantwoordelijkheid voor cyberbeveiliging door overmatig vertrouwen in ai.
Chester Wisniewski, director en global field cto bij Sophos, benadrukt het belang van menselijk toezicht: ‘We hebben machines niet leren denken, maar simpelweg de context gegeven om de verwerking van enorme hoeveelheden data te versnellen. Zoals met veel andere dingen in het leven moet ook voor gen-ai-tools gelden: vertrouw maar verifieer.’
En dat verifiëren gebeurt dus door een menselijke check. ‘Het potentieel van deze ai-tools om securityworkloads te versnellen is verbazingwekkend, maar de context en het begrip van hun menselijke toezichthouders is nog steeds nodig om dit voordeel te realiseren.’ Ook de financiële impact van gen-ai blijft een punt van zorg: 75 procent van de it-leiders vindt het moeilijk om de kosten te kwantificeren. Wel verwacht 87 procent dat de uiteindelijke besparingen door gen-ai de initiële investeringen zullen compenseren.
