IBM geeft meer inzicht in ai-beslissingen

Dit artikel delen:

IBM heeft nieuwe technologie klaar die inzicht geeft in hoe ai-systemen tot bepaalde acties of conclusies komen. Het bedrijf wil daarmee het ‘black box’-probleem oplossen: hoe kunnen mensen kunstmatige intelligentie (ai) vertrouwen als ze niet weten hoe het bepaalde beslissingen neemt.

De nieuwe software wordt door IBM als open bron-tool ter beschikking gesteld en draait volledig in de cloud. De tool detecteert bepaalde ‘afzwakkingen’ en ‘vooroordelen’ (‘mitigation’ en ‘bias’) van ai-systemen en werkt met software en apparatuur van verschillende fabrikanten, waaronder Watson van IBM zelf, Tensorflow, SparkML, AWS Sagemaker en AzureML.

De software legt bepaalde beslissingen uit op het moment dat ze door ai-systemen worden genomen en geeft suggesties om bepaalde data toe te voegen om voorkeuren en vooroordelen zo veel mogelijk te neutraliseren. Dit alles gebeurt met eenvoudige dashboards. Alle mogelijke parameters worden opgeslagen en kunnen weer opgevraagd worden, bijvoorbeeld voor regulatoren of voor compliance-redenen.

IBM maakt daarnaast ook een ‘Ai Fairness 360 toolkit’ beschikbaar, een nieuwe set algoritmes, code en handleidingen om onderzoekers en datawetenschappers uit te leggen hoe ze zelf bias en mitigation onder controle kunnen houden.

‘IBM is altijd een voorloper geweest om bepaalde principes van vertrouwen en transparantie te hanteren wanneer we nieuwe ai-technologie ontwikkelden’, zegt Beth Smith, general manager of Watson AI bij IBM. ‘Het is nu tijd om die principes in de praktijk waar te maken. We geven nieuwe transparantie- en controlemechanismen aan bedrijven die ai gebruiken en het grootste risico lopen wanneer er verkeerde beslissingen worden genomen.’

Uit een eigen studie van IBM blijkt dat 82 procent van de grote bedrijven overweegt om ai in te zetten. Bijna twee derde (63 procent) heeft echter niet genoeg gekwalificeerd personeel in huis om de technologie in goede banen te leiden.  

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2018-09-20T09:34:00.000Z Frederic Petitjean
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.