AI-implementatie: de ethische verantwoordelijkheid van de IT-leider

Er bestaat een comfortabele opvatting over AI-ethiek: dat het een juridisch onderwerp is dat wordt afgehandeld zodra de compliance-checklist af is. Die opvatting is aantrekkelijk omdat ze het probleem verplaatst naar een afdeling die er verstand van heeft.

Ze klopt alleen niet. Wetgeving legt een ondergrens vast en die ondergrens is breed. Verreweg de meeste AI-toepassingen in een gemiddelde organisatie vallen in de lichtste categorie van de Europese AI-verordening en dragen nauwelijks verplichtingen. Dat maakt ze niet onschadelijk. Het betekent dat de wetgever de afweging bij jou heeft gelaten.

Bias is een keuze die je maakt, geen fout die je overkomt

De standaardformulering is dat een model bias kan bevatten. Dat is passief geformuleerd en daardoor misleidend. Een model reproduceert de patronen in de data die je hebt gekozen, voor het doel dat je hebt bepaald, geoptimaliseerd op de maat die jij hebt gedefinieerd.

Neem een model dat sollicitanten voorsorteert op basis van wie er in het verleden succesvol was. Zo'n model is technisch correct en doet precies wat is gevraagd. Het bestendigt daarmee ook precies de samenstelling die je had. Wie een andere uitkomst wil, moet dat vooraf als eis opschrijven, want de optimalisatie doet het niet vanzelf.

Dat is de kern: bias voorkomen is geen kwaliteitscontrole achteraf maar een ontwerpbeslissing vooraf. De praktische vraag bij elke use case luidt welke groep er systematisch nadeel van kan ondervinden, en hoe je dat zou merken. Kun je die tweede vraag niet beantwoorden, dan heb je geen meetpunt en dus geen zicht.

Uitlegbaarheid is een eis van de ontvanger, niet van de bouwer

Uitlegbaarheid wordt meestal technisch ingevuld: welke variabelen wogen mee, hoe zwaar. Dat is nuttig voor de ontwikkelaar en zelden bruikbaar voor de persoon over wie het gaat.

De toets die telt is of de medewerker die de uitkomst overbrengt, hem kan uitleggen aan degene die hem ontvangt, in gewone woorden, zonder zich te verschuilen achter het systeem. Lukt dat niet, dan heb je geen uitlegbaar model, hoeveel documentatie er ook ligt.

Die toets is bovendien goedkoop uit te voeren. Vraag drie mensen uit het betrokken team om een willekeurige uitkomst uit te leggen aan een collega van een andere afdeling. Wat je daar hoort, is wat je klant of medewerker straks te horen krijgt.

De vraag die vóór de haalbaarheidsvraag komt

Technische teams beginnen bij de vraag of iets kan. Dat is hun vak en het is een goede vraag. Ze is alleen niet de eerste.

De eerste vraag is of we het zouden moeten willen, en die hoort thuis bij de selectie van de use case. Later is hij niet meer eerlijk te stellen. Zodra er zes maanden werk in zit, is de vraag of we hiermee door moeten gaan een aanval op het team geworden in plaats van een afweging.

Praktisch betekent dit dat je de ethische vraag in de intake zet, niet in de oplevering, en dat je hem klein en concreet houdt. Wie wordt hierdoor geraakt. Wat is de zwaarste fout die dit systeem kan maken. Wie merkt die fout als eerste, en langs welke weg bereikt die melding ons. Drie vragen, tien minuten, aan het begin.

Verantwoordelijkheid laat zich niet delegeren aan een leverancier

Een groot deel van de AI in organisaties komt binnen als functionaliteit in ingekochte software. De verleiding is dan om de verantwoordelijkheid mee in te kopen.

Dat werkt niet, juridisch niet en praktisch niet. Als gebruiksverantwoordelijke bepaal jij waarvoor het systeem wordt ingezet, en dat gebruik bepaalt de impact. Een leverancier kan je vertellen hoe zijn model is gebouwd. Hij kan je niet vertellen of het verstandig is om het in jouw proces op jouw doelgroep los te laten.

De bruikbare vragen aan een leverancier zijn daarom niet of hij compliant is, maar waarop het model is getraind, hoe hij prestatieverschillen tussen groepen meet, en wat er gebeurt als jij een fout meldt. Dat laatste antwoord is het meest onthullende.

Een ethische cultuur is een reeks kleine reacties

Een gedragscode voor AI verandert weinig. Wat verandert, is hoe er wordt gereageerd op het moment dat iemand zegt dat het model ernaast zit.

Als die melding leidt tot een onderzoek en een aanpassing, komt de volgende melding sneller. Als ze leidt tot uitleg waarom het model toch gelijk heeft, komt de volgende melding niet. Dat mechanisme is precies hetzelfde als bij psychologische veiligheid in IT-teams, en het is even bepalend.

Meet daarom de doorlooptijd tussen een gemelde modelfout en een besluit erover. Dat cijfer is eenvoudig bij te houden en het zegt meer over je AI-ethiek dan elk beleidsdocument.

Waarom dit uiteindelijk over vertrouwen gaat

Een organisatie zet AI in op plekken waar mensen voorheen oordeelden. Dat kan alleen als medewerkers en klanten erop vertrouwen dat er iemand verantwoordelijk is en dat een fout wordt hersteld.

Dat vertrouwen bouw je niet op met communicatie over hoe zorgvuldig je bent. Je bouwt het op met de eerste keer dat het misgaat en je het zichtbaar rechtzet. Wie dat moment goed doet, koopt jaren krediet. Wie het wegregelt, betaalt het bij elke volgende toepassing terug.