AI-strategie: de menselijke kant begeleiden als IT-leider

De meeste AI-strategieën die ik zie, zijn technisch in orde en organisatorisch naïef. Ze beschrijven use cases, datastromen, modellen en een architectuur. Ze beschrijven zelden wat er gebeurt op de afdeling waar het model straks een oordeel geeft dat een mens tot vorige week zelf gaf.

Daar zit het verschil met eerdere technologiegolven, en het is groter dan het lijkt.

AI raakt ander werk dan automatisering deed

Automatisering nam decennialang routinewerk over. Het patroon was voorspelbaar: repeterende taken verdwenen, de mensen die ze deden schoven op naar het beoordelen van uitzonderingen, en de organisatie noemde dat vooruitgang.

AI werkt andersom. Ze presteert het sterkst op precies dat oordeelswerk: het inschatten van een aanvraag, het samenvatten van een dossier, het voorstellen van een diagnose. Daarmee verschuift de onzekerheid van de onderkant van de organisatie naar het midden en de bovenkant. Niet de nieuwkomer voelt de druk, maar de vijftiger die zijn positie heeft opgebouwd op ervaring en fijngevoelig oordeel.

Dat heeft twee praktische gevolgen. Het eerste is dat de weerstand niet komt van wie je verwacht. Het tweede is dat die weerstand competent is. Iemand met twintig jaar vakkennis die zich bedreigd voelt, formuleert geen zwak bezwaar. Hij formuleert een sterk bezwaar, en dat is moeilijker te onderscheiden van een terechte inhoudelijke waarschuwing. Soms ís het er ook een.

Van "kan het" naar "moeten we het"

Een AI-strategie die alleen de haalbaarheidsvraag stelt, laat de moeilijkste vraag aan de implementatie over. De vraag of iets mag en of het verstandig is, hoort thuis bij de keuze van de use case, niet bij de oplevering.

Dat is sinds de Europese AI-verordening ook geen morele luxe meer. Verordening (EU) 2024/1689 werkt met een risicogebaseerde indeling, en systemen die beslissen over werving, beoordeling of toegang tot voorzieningen vallen in de zwaarste categorie die nog is toegestaan. Wie zo'n toepassing kiest, kiest tegelijk een pakket verplichtingen rond documentatie, datakwaliteit en menselijk toezicht. Meer daarover staat in het artikel over AI Act-compliance en governance.

De strategische winst zit in het vroeg stellen van die vraag. Een use case die in maand negen sneuvelt op toezichtseisen, heeft negen maanden gekost. Dezelfde use case die in week twee sneuvelt, heeft twee weken gekost en een hoop geloofwaardigheid opgeleverd.

Wat menselijk toezicht in de praktijk betekent

Menselijk toezicht staat in bijna elke AI-strategie en betekent in bijna elke organisatie iets anders. De bruikbare toets is of de mens in de lus daadwerkelijk iets kan veranderen aan de uitkomst.

Een medewerker die per uur veertig modeladviezen moet accorderen, houdt geen toezicht. Die tekent af. Een medewerker die er acht beoordeelt, het dossier kan inzien en wiens afwijking van het advies zonder gedoe wordt geregistreerd, houdt wel toezicht. Het verschil is niet het beleid maar de werkdruk en de gemaakte afspraken.

Meet daarom het afwijkingspercentage. Wijkt een team in drie maanden nooit af van het advies, dan is er geen toezicht meer, hoe het proces ook op papier staat. Dat cijfer is eenvoudig te verzamelen en het vertelt je meer dan de meeste governance-rapportages.

Vertrouwen bepaalt de adoptiesnelheid

Er zijn twee manieren waarop een AI-implementatie vastloopt op vertrouwen, en ze zijn elkaars spiegelbeeld.

De eerste is te weinig vertrouwen. Mensen gebruiken het systeem niet, of ze gebruiken het en negeren de uitkomst. Dat kost je de investering en het is zichtbaar in de gebruikscijfers.

De tweede is te veel vertrouwen, en die is duurder omdat je hem niet ziet. Een model dat in negenennegentig van de honderd gevallen gelijk heeft, traint zijn gebruikers om het honderdste geval niet meer te controleren. Precies daar zit de schade, want dat honderdste geval is meestal de uitzondering waarvoor de mens in het proces zat.

Beide problemen hebben dezelfde oorzaak: gebruikers weten niet waar het model sterk is en waar het zwak is. Die kennis moet je expliciet overdragen, met voorbeelden uit hun eigen werk, en niet in een algemene training over AI.

Wat een IT-leider hiervan concreet oppakt

Betrek de mensen wier oordeel het model gaat raken bij de keuze van de use case, niet bij de uitrol. Zij weten welke gevallen lastig zijn, en dat is precies de informatie die je nodig hebt om te bepalen of het model bruikbaar wordt.

Wees expliciet over wat er met de vrijgekomen tijd gebeurt, ook als het antwoord onaangenaam is. De onzekerheid die je niet benoemt, gaat niet weg. Ze gaat ondergronds en komt terug als inhoudelijk bezwaar.

Investeer in het herkennen van modelfouten door je eigen mensen, en beloon het melden ervan zichtbaar. Een organisatie waarin het meldt wanneer het model ernaast zit, bouwt aan een dataset van randgevallen. Een organisatie waarin dat niet gebeurt, ontdekt haar randgevallen via een klacht.

Laat de AI-strategie eindigen in cijfers die over gedrag gaan en niet alleen over techniek: gebruik per team, afwijkingspercentage, en de doorlooptijd tussen een gemelde modelfout en een aanpassing. Modelprestaties meet je vanzelf al. Deze drie vertellen je of de organisatie meebeweegt.

De menselijke factor in een AI-strategie is geen hoofdstuk aan het eind. Het is de variabele die bepaalt of de rest ergens toe leidt.