7 Vragen over de risico’s van AI

19-06-2019

Een aantal voorbeelden van toepassingen van Artificial Intelligence zijn personal assistant Siri, zorgrobots, zelfrijdende auto’s, co-bots op de productieplek, digitale customer service Amelia en diagnosebots in medische wereld. “Artificial Intelligence is booming. Data beginnen hun onschuld te verliezen met het interpreteren van deze data,” zegt Maurits Kreijveld tijdens zijn presentatie ‘Zeven vragen over de risico's van kunstmatige intelligentie’ op het IIA Congres 2019.

“We zijn van de vroege Artificial Intelligence in de jaren vijftig, via het opkomen van Machine Learning in de jaren tachtig, uitgekomen bij Deep Learning vanaf ongeveer 2010. Van al deze vormen van kunstmatige intelligentie baart Deep Learning de meeste zorg. Weten we waar Artificial Intelligence allemaal terechtkomt? Hoe kun je mensen tegen zichzelf beschermen? Kunnen medewerkers en consumenten er ook van profiteren, of zijn het alleen de bedrijven en de overheid die de scepter zwaaien?” Ja, er kan veel met Artificial Intelligence, maar er zitten ook risico’s aan.

Kunnen we de risico’s omdraaien? Welke ontwerpprincipes kunnen we inzetten?

Zeven vragen over de risico's van kunstmatige intelligentie

1. Wie controleert het algoritme?
Het voordeel én nadeel van Artificial Intelligence: Het is zelflerend en zelf-programmerend. Maar wie controleert wat er nu eigenlijk gebeurt?

2. Hou houd je controle?
Zelflerende en zelf-programmerende systemen met een eigen logica zijn veel ‘slimmer’ dan mensen. Ze ontwikkelen zichzelf veel sneller dan wij. Moet er een uit-knop zijn?

3. Hoe respecteer je privacy?
Zijn er dingen die echt uitgewisseld moeten worden? Hoe kun je bepaalde dingen van mensen geheim houden? Met pseudoniem kun je de data toch gebruiken, zonder dat je persoonlijke details precies hoeft te weten. Is dat een goede oplossing?

4. Hoe bouw je vertrouwen?
Blockchain is geen automatisch vertrouwen. Sociaal vertrouwen is een combinatie van intentie en moraliteit. Kun je met Artificial Intelligence ook investeren in een langetermijnrelatie?

5. Hoe kijk je toekomstgericht?
Met historische data heb je kans op vooroordelen en tunnelvisie. De kansen van Artificial Intelligence liggen juist in anticiperen en 'early detection'. We moeten schijnzekerheid loslaten en meerdere systemen en opvattingen combineren.

6. AI mét mensen of ter vervanging?
Zien we Artificial Intelligence als vriend of als betweterige nerd? Feit is, de mens en AI vullen elkaar aan. Met deze collectieve intelligentie kunnen mensen beslissingen nemen met opties die AI voorschotelt. We hoeven niet alles dicht te timmeren, problemen zijn niet eenduidig.

7. Hoe bouw je langetermijnrelaties?
Kunnen we kennis over de klant gewetensvol inzetten? Dit is geen eenvoudig rekensommetje, daar komt een menselijke afweging de hoek om kijken. Hierin moeten we zelf verantwoordelijkheid nemen en niet wachten op overheid.

Wat is de rol van de auditor in dezen? Wat kunnen wij hierin betekenen?


Elisabeth Beelaerts Fotografie 

Terug naar het nieuwsoverzicht

IIA Nederland

088-0037100
iia@iia.nl
Burgemeester Stramanweg 102A
1101 AA Amsterdam
Postbus 22657
1100 DD Amsterdam
Contact opnemen

Audit Magazine

Audit Magazine

Lidmaatschap

IIA is dé toonaangevende beroepsorganisatie voor internal auditors. Een lidmaatschap laat u delen in de collectieve kennis van alle vakgenoten in de wereld.
Meer informatie