Biases in algoritmes en bedrijfsvoering

Mensen zitten vol biases, soms bewust soms onbewust. En Artificial Intelligence (AI)-systemen? Die zullen waarschijnlijk een afspiegeling zijn van de bouwers van deze AI-systemen, ook weer bewust en onbewust. In de media is recentelijk ook veel aandacht voor bias in AI, namelijk voor bias in foundation models, Large Language Models (LLMs) en generatieve AI. Als je aan bijvoorbeeld ChatGPT vraagt wat de belangrijkste risico's zijn van het gebruik van ChatGPT zelf, dan is het eerste risico dat ChatGPT zelf noemt biases (versie 13 feb 2023): "ChatGPT kan worden beïnvloed door de vooroordelen die in de trainingsgegevens aanwezig zijn, zoals culturele en sociaaleconomische vooroordelen. Dit kan leiden tot ongepaste of discriminerende antwoorden op basis van de demografische gegevens van de gebruiker." Nu komen Google’s Bard/Gemini, Baidu’s ERNIE, Microsoft/Nvidea Megatron en vele andere ook op de markt, maken ze gebruik van dezelfde bronnen, met dezelfde biases?
Maar hoe ga je dit dan te lijf als (internal) auditor? Heb je zelf de expertise? Weet je wat bias precies is en hoeveel biases zijn er dan in scope van een 'audit'? 1, 10, 50 of meer? En is er al een normenkader (in de maak) op dit gebied? Door interacties, stellingen en prakrijkvoorbeelden gaan we deze wereld verkennen en jullie met handvatten en ‘food for thought’ naar huis sturen…

Kan je niet wachten? Dan zijn dit artikel (BIASED2) en het ADR-normenkader interessant om al door te nemen:

Bullet points

Actualiteiten
Theorie
Frameworks, normenkaders
Stellingen en casussen

Programma

12.45 inloop na de lunch (lunch niet inbegrepen)
13.00 uur start training deel 1
15.00 uur pauze met koffie en thee
15.15 uur start training deel 2
17.15 gepland einde bijeenkomst

Aanmelden

Sprekers
Damian Borstel is 20 jaar werkzaam geweest in de accountancy sector (externe accountant en interne (IT) auditor) bij diverse organisaties en heeft veel verschillende ‘keukens’ van binnen gezien. Hij is al 30 jaar bekend met IT en tijdens audit opdrachten ontbrak het IT-perspectief niet. De afgelopen 4 jaar is hij werkzaam als toezichthouder en houdt zich bezig met toezicht op kunstmatige intelligentie/algoritmes.

Fré Vink is projectmanager verantwoorde AI bij de Auditdienst Rijk en heeft ervaring als data scientist en algoritme-auditor. Fré werkt aan hoe onderzocht kan worden dat AI verantwoord wordt ingezet. Door ethiek te combineren met statistiek helpt Fré samen met zijn collega’s bias in processen te identificeren en mitigeren. Aandacht voor de privacy van het individu is hierbij een belangrijke aspect dat ook wordt meegenomen.

Datum
15 oktober 2024

Tijd
13:00 tot 17:15 uur

Locatie
Burg. Stramanweg 105F, 1101 AA Amsterdam ZO

Prijs leden/niet leden
€ 395 / 495 (leden/nietledePE-Punten

PE-punten
4 PE-punten

Doelgroep
Internal (IT) auditors (ervaring met het onderwerp is niet noodzakelijk, maar het is wel wenselijk een basis training m.b.t. AI te volgen zoals de IIA training Algorithm Assurance?!)

Doel
Antwoord op de intro-vragen en andere vragen zullen we aan de hand van o.a. frameworks, standaarden, BIASED2 en (wetenschappelijke) publicaties van derden doorlopen. Verschillende theorieën en praktijksituaties zullen hopelijk tot meer inzichten leiden, die jou als (internal) auditor verder helpt in het doen van jouw werkzaamheden omtrent dit onderwerp.
In de wereld zijn wetgevers namelijk al druk bezig met het verplichten van 'bias-audits' (door derden). In New York geldt dit voor AI in HR-processen al sinds medio 2023. Staan werkzaamheden omtrent biases bij jullie al op het auditjaarplan? Mogelijk na deze training wel of ben ik mogelijk ook biased?

Niveau/complexiteit
(Junior, medior)

Aantal deelnemers
Minimaal 5 en maximaal 12 deelnemers

Vragen
Neem contact op met Damian Borstel of Fré Vink via Linkedin voor inhoudelijke vragen.

Aanmelden

Terug naar de agenda.