IBM Watson kiest foute kankerbehandeling

Dit artikel delen:
Arts met stethoscoop

Watson, het ai-platform van IBM, zou onveilige en verkeerde kankerbehandelingen hebben aangeraden. Dat schrijft de website Statnews dat zich baseert op interne documenten van het technologiebedrijf.

In de documenten is sprake van medische professionals die verschillende voorbeelden vonden van onveilige en onjuiste aanbevelingen voor behandelingen die Watson had gegeven. Het ai-platform zou ook vaak incorrecte suggesties hebben gegeven, waardoor er vragen rijzen over de betrouwbaarheid van het systeem. De documenten hoorden bij twee presentaties van medio 2017. Het management van IBM Watson Health zou op de hoogte geweest zijn van de fouten, zo zegt Statnews.

De problemen zouden te wijten zijn aan een samenwerking die IBM aanging met het Memorial Sloan Kettering Cancer Center (MSK). De artsen van dat hospitaal hadden de taak om Watson te trainen in zijn vaardigheden, maar gaven hem geen echte data van patiënten maar van hypothetische patiënten. Wanneer andere ziekenhuizen dan het systeem gebruikten, kregen hun dokters aanbevelingen gebaseerd op de voorkeuren van de dokters van MSK. En niet van het ai-systeem zelf.  

Een specifieke case ging bijvoorbeeld over een oudere man met longkanker die ook ernstige bloedingen leek te hebben. Watson suggereerde daarbij een geneesmiddel te gebruiken dat die bloedingen nog erger zou maken. Een woordvoerder van het MSK zegt dat dit advies niet werd opgevolgd bij een echte patiënt, maar dat het slechts een test was.

Een dokter van het Jupiter Hospital in Florida zou tegen Big Blue gezegd hebben dat het systeem een ‘hoop rommel’ is, zo melden de documenten en dat het in de meeste gevallen niets bijdraagt. En er waren blijkbaar nog meerdere klachten van die strekking.

In een verklaring aan de site Gizmodo verklaarde een IBM-woordvoerder dat ‘Watson Health verbeterd werd, gebaseerd op de feedback van cliënten, nieuw wetenschappelijk bewijs, nieuwe soorten kanker en alternatieven voor behandelingen. Daar vallen elf software-updates onder in het afgelopen jaar, waar onder meer de nationale richtlijnen voor onder meer darmkanker en leverkanker onder vallen.’

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2018-07-30T17:59:00.000Z Frederic Petitjean


Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.