Thales maakt ai-regels voor kritieke scenario's

Technisch dienstverlener Thales gaat eigen regels opstellen voor de inzet van ai-toepassingen in situaties waarin mensenlevens op het spel staan. De technisch specialist voor toepassingen in onder meer de luchtvaart, bij defensie, de ruimtevaart, transport en cybersecurity, vindt dat wet- en regelgeving te traag op gang komt. Het bedrijf wil in 2019 met eigen richtlijnen komen over de inzet van ai in zogenoemde missiekritieke situaties.

Dat zei Thales-ceo Patrice Caine donderdag 25 januari 2019 tijdens een internationale mediadag. Bij die bijeenkomst gaf Thales een update over toepassingen waarin ai een steeds grotere rol speelt en de maatschappelijke impact van die technologie.

Caine: Techgiganten als Amazon, Facebook en Netflix gebruiken ai op heel andere vlakken dan wij. Wanneer Netflix bijvoorbeeld een nieuwe tv-serie aanbeveelt, dan staat er niet zo veel op het spel als dat een verkeerde aanbeveling is.’ Hij legt uit dat wanneer het gaat om ai-toepassingen van Thales, bijvoorbeeld in de luchtvaart- het bedrijf stelt dat 40 procent van het wereldwijde luchtverkeer via hun systemen wordt begeleid- de systemen van ‘cruciaal’ en ‘vitaal’ belang zijn.

De Thales-ceo benadrukt dat zijn bedrijf in alle kritieke beslissingsketens waar ai een rol speelt, moet kunnen uitleggen waarom en hoe het systeem tot die uitkomst is gekomen. ‘Anders wordt ai een zwarte doos waarvan niemand meer weet hoe het tot een bepaalde uitkomst is gekomen’, zei hij tegen journalisten. De ceo benadrukt dat ai in zijn visie, zeker in missiekritieke omgevingen, betrouwbaar, verklaarbaar en certificeerbaar moet zijn.

Mens en machine

"AI mag geen zwarte doos worden waarvan niemand meer weet hoe het tot een uitkomst is gekomen"

Volgens Caine is het essentieel dat mensen centraal staan in de besluitvorming van processen waarbij mensenlevens op het spel staan. Daarbij tempert hij de verwachtingen van ai. ‘We moeten verder kijken dan de hype. Ondanks de enorme belofte van ai zijn deze technologieën nog steeds in een beperkt stadium. Het is belangrijk om realistisch te blijven over het niveau van volwassenheid van ai en zijn capaciteiten te koppelen aan termen als gezond verstand, kennis en redenering.’

De Thales-ceo stelt dat ai al leidt tot aanzienlijke vooruitgang voor de mens, maar het ons niet kan vervangen. ‘Mensen moeten in staat zijn om bewuste acties te ondernemen bij beslissende momenten. Vooruitgang in ai moet gaan om het bereiken van een steeds nauwere harmonie tussen mensen en machines.’

Hij maakt daarin een duidelijk onderscheid tussen mens en machine. ‘Mensen moeten zich kunnen concentreren op wat hen menselijk maakt. Menselijke wezens moeten creatief blijven: denk intuïtief en voer taken uit met een hoge toegevoegde waarde.’ Volgens Caine kan dat in samenspraak met machines die zich richten op repetitieve cognitieve taken en geoptimaliseerde oplossingen voor complexe
situaties en zo beslissingsondersteuning bieden.

Geen killerrobots

Partice Caine, ceo Thales

Caine’s visie op ai komt natuurlijk niet zomaar uit de lucht vallen. Het bedrijf investeerde vanaf 2014 zo’n 7 miljard euro in digitale toepassingen waarin ai een rol speelt. De ceo voorspelde bijvoorbeeld eerder dat vliegtuigen binnen tien tot vijfiten jaar zonder ingreep van een menselijke piloot kunnen vliegen. Ook test het bedrijf bijvoorbeeld met autonoom rijdende treinen.

Met name op het vlak van defensietechnologie is er veel weerstand tegen ai en in het mogelijke gevolg daarvan: autonoom werkende gevechtssystemen. Caine haalt in zijn presentatie kort het angstscenario ‘killerrobots’ aan. Maar, volgens de ceo kunnen dat soort scenario’s door invulling van ethische en morele waarde (betrouwbaarheid), verklaarbaarheid en het certificeren van ai tegengaan dat die Hollywoodscenario's werkelijkheid worden en de mens beschermen tegen de machine.

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2019-01-25T11:59:00.000Z Pim van der Beek
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.