In de documenten is sprake van medische professionals die verschillende voorbeelden vonden van onveilige en onjuiste aanbevelingen voor behandelingen die Watson had gegeven. Het ai-platform zou ook vaak incorrecte suggesties hebben gegeven, waardoor er vragen rijzen over de betrouwbaarheid van het systeem. De documenten hoorden bij twee presentaties van medio 2017. Het management van IBM Watson Health zou op de hoogte geweest zijn van de fouten, zo zegt Statnews.
De problemen zouden te wijten zijn aan een samenwerking die IBM aanging met het Memorial Sloan Kettering Cancer Center (MSK). De artsen van dat hospitaal hadden de taak om Watson te trainen in zijn vaardigheden, maar gaven hem geen echte data van patiënten maar van hypothetische patiënten. Wanneer andere ziekenhuizen dan het systeem gebruikten, kregen hun dokters aanbevelingen gebaseerd op de voorkeuren van de dokters van MSK. En niet van het ai-systeem zelf.
Een specifieke case ging bijvoorbeeld over een oudere man met longkanker die ook ernstige bloedingen leek te hebben. Watson suggereerde daarbij een geneesmiddel te gebruiken dat die bloedingen nog erger zou maken. Een woordvoerder van het MSK zegt dat dit advies niet werd opgevolgd bij een echte patiënt, maar dat het slechts een test was.
Een dokter van het Jupiter Hospital in Florida zou tegen Big Blue gezegd hebben dat het systeem een ‘hoop rommel’ is, zo melden de documenten en dat het in de meeste gevallen niets bijdraagt. En er waren blijkbaar nog meerdere klachten van die strekking.
In een verklaring aan de site Gizmodo verklaarde een IBM-woordvoerder dat ‘Watson Health verbeterd werd, gebaseerd op de feedback van cliënten, nieuw wetenschappelijk bewijs, nieuwe soorten kanker en alternatieven voor behandelingen. Daar vallen elf software-updates onder in het afgelopen jaar, waar onder meer de nationale richtlijnen voor onder meer darmkanker en leverkanker onder vallen.’
Om te kunnen beoordelen moet u ingelogd zijn: