Deze opinie is van een externe deskundige. De inhoud vertegenwoordigt dus niet noodzakelijk het gedachtegoed van de redactie.

De 5 grootste mythes over 'verantwoordelijke ai'

Computable Expert

Jurriaan Krielaart
Regional director, Dataiku. Expert van Computable voor de topics Datamanagement en Datacenters.

Verantwoordelijkheid is de basis van een goed functionerende samenleving. Het was de afgelopen twee jaar wat dat betreft niet altijd makkelijk maar uiteindelijk pakten we als samenleving onze verantwoordelijkheid door mondmaskers te dragen, op veilige afstand van elkaar te blijven, waar mogelijk thuis te werken en lieten we ons vaccineren toen er vaccins beschikbaar kwamen.

Een gedeeld verantwoordelijkheidsgevoel heeft ons door een lastige tijd geholpen. Het is dan ook passend om de technologieën die we dagelijks gebruiken, door de lens van verantwoordelijkheid te bekijken. 

De term 'responsible ai', ofwel verantwoordelijke ai, verwijst naar de praktijk van het ontwerpen en implementeren van systemen om de maatschappelijke impact van ai te vergroten en de nadelige en negatieve uitkomsten te minimaliseren. Responsible ai is van cruciaal belang om vertrouwen op te bouwen in wat snel een instrument voor alledaags gebruik aan het worden is. Problemen met data-vooringenomenheid en negatieve uitkomsten moeten dus op de juiste manier worden aangepakt. En hoe sneller hoe beter, want wanneer je te laat bent, is veranderen lastig en vrijwel onbetaalbaar. Voor responsible ai bestaat nog geen geformaliseerd handboek. In plaats daarvan hebben verschillende bedrijven hun eigen whitepapers gepubliceerd over wat het voor hen inhoudt. Gezien deze enigszins informele status, is het onvermijdelijk dat er mythes zijn ontstaan rond responsable ai.

Dit zijn vijf mythes die ik vaak tegenkom,

Gedragscode

" Het proces moet ook een transparant overzicht van de verzameling en het gebruik van gegevens omvatten"

  • Responsible ai gaat over ethiek

De realiteit is pragmatischer dan het formuleren van een morele gedragscode alleen, aangezien veel negatieve resultaten bij ai kunnen voortkomen uit de beste bedoelingen. Responsible ai moet zowel gaan over intentie als verantwoording. In de testfase moeten geïmplementeerde modellen zich gedragen zoals ze zijn ontworpen. Hoewel dit een voor de hand liggende eis lijkt voor elke systeemtest, betekent dit dat er ook goed gekeken moet worden naar de gegevens die voor de test worden gebruikt, niet alleen naar het gedrag van de algoritmen. 

De gegevens moeten afkomstig zijn van erkende en onbevooroordeelde bronnen, en bij het testen moeten meerdere partijen uit verschillende disciplines worden betrokken. Elk van deze partijen, ook degenen die geen rol hebben gespeeld bij de totstandkoming van het systeem, moet in staat zijn de resultaten te begrijpen. Het proces moet ook een transparant overzicht van de verzameling en het gebruik van gegevens omvatten, met name op dat wat het algemene resultaat betreft en in de praktijk gevolgen kan hebben voor iemand die bijvoorbeeld een lening of verzekering aanvraagt. 

  • Responsible ai is te leveren door alleen al de juiste instrumenten

Tools kunnen een deel van de weg zijn naar het leveren van responsible ai. Maar zelfs mlops - dat voor machine learning lifecycle management doet wat devops doet voor meer conventionele codering - vereist dat teams samenwerken en een nieuwe cultuur opbouwen, met nieuwe governance-normen en nieuwe workflows. Deze gewijzigde processen zullen worden ontworpen om tegemoet te komen aan verschillende risiconiveaus die samenhangen met factoren zoals eindgebruikers, mogelijke uitkomsten en zakelijke impact. Tools kunnen alleen helpen bij deze benaderingen als de benaderingen zelf zijn ontworpen.

  • Onbekwaamheid en kwaadwilligheid zijn enige oorzaken van problemen 

Enkele van de grootste technologiebedrijven ter wereld hebben te lijden gehad van publieke schandalen als gevolg van de verkeerde toepassing van ai-principes, en post-mortems toonden geen bewijs van sabotage of ernstige fouten in het ontwerp. In plaats daarvan leidde een gebrek aan intentie en verantwoordelijkheid tijdens de levenscyclus van het project tot onvoorziene gevolgen. Achter veel van de nieuwskoppen gaan eenvoudige gevallen van vertekende of niet-representatieve gegevens schuil. En als het de grote spelers kan overkomen, kan het iedereen overkomen.

  • Ai-verordening zal geen gevolgen hebben 

Bedrijven moeten al voldoen aan de Europese General Data Protection Regulation (GDPR) uit 2016, die veel van de elementen van responsible ai raakt. En hoe groter en invloedrijker ai wordt, des te meer regelgeving er in leven geblazen wordt om burgers en bedrijven te beschermen. Om van ai te kunnen profiteren, moeten organisaties hun eigen transformatieproces in evenwicht brengen met opkomende normen, aangezien het vrijwel zeker is dat overheden deze binnenkort zullen formaliseren.

  • Responsable ai is klus voor de technologen

Gezien de omvang van de adoptie van AI, zal dit idee binnenkort onpraktisch zijn. Voor veel gebruikers is dat misschien nu al zo. Domeinexperts zijn nodig om het onderliggende bedrijfsprobleem en de aard van de gegevens te begrijpen. Data scientists en ander technisch personeel begrijpen de tools en de oplossingen die zijn gebouwd. En besluitvormers begrijpen de bredere bedrijfsdoelstellingen en kunnen oordelen vellen over regelgevingskwesties en andere zaken. Hoewel niemand onmisbaar is, begrijpt niemand alle aspecten van een AI-project.

Doel en middelen

Bij de implementatie van responsible AI moeten we risico's inschatten en vertrouwen opbouwen. Iedereen in het bedrijf moet een rol spelen in de cultuurverandering die gaat volgen. Infrastructuur, software, mensen en meer moeten zich verenigen in een naadloze hybride die alle invalshoeken ziet en waarde toevoegt binnen en buiten de organisatie.

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden
Sponsored content 

HPE information Governance solutions: controle over uw data

Door datagroei, hogere gebruikerseisen en regelgeving wordt datamanagement een steeds grotere uitdaging. En dat terwijl uw bedrijfsdata ook uw waardevolste bezit is. Met de flexibele, modulaire datamanagement-oplossingen van Hewlett Packard Enterprise neemt u het heft in handen en haalt u bruikbare inzichten uit uw data tegen zo laag mogelijke kosten. 

Ontdek in deze whitepaper hoe u Information Governance proactief aanpakt met maximaal voordeel en minimale kosten.

Lees hier verder.


Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2022-03-18T13:29:00.000Z Jurriaan Krielaart
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.