AI verantwoord implementeren: menselijke factoren en de AI Act

De meeste AI-implementaties die vastlopen, lopen niet vast op het model. Ze lopen vast op de vraag wie er verantwoordelijk is als het model iets zegt waar een mens het niet mee eens is.

Bestuurders die AI invoeren, beginnen doorgaans bij de techniek en de businesscase. Dat is logisch, want daar zit de investering. Maar de risico's die later duur worden, zitten in de laag ertussen. In wat medewerkers denken dat het systeem over hen zegt, en in de vraag of iemand een uitkomst nog mag betwisten.

Wat de AI Act nu van u vraagt

Rond de AI Act circuleren veel datums, en een deel daarvan klopt niet meer. Het loont om de stand precies te hebben, want planningen worden erop gebouwd.

Artikel 4 over AI-geletterdheid geldt sinds 2 februari 2025, voor zowel aanbieders als gebruiksverantwoordelijken en ongeacht het risiconiveau van het systeem. De Digital Omnibus, Verordening (EU) 2026/1744, die op 27 juli 2026 in werking trad, heeft dit artikel herschreven. Het is nu een inspanningsverplichting: u neemt maatregelen die AI-geletterdheid ondersteunen. Er staat geen aparte Europese boete op, maar er is sinds 3 augustus 2026 wel nationaal toezicht.

De verboden praktijken uit artikel 5 gelden eveneens sinds 2 februari 2025. De transparantieplicht voor systemen die met mensen interacteren staat in artikel 50, niet in artikel 52 zoals in het oorspronkelijke Commissievoorstel, en geldt vanaf 2 augustus 2026.

Voor hoog-risicotoepassingen is de planning verschoven. De Digital Omnibus verplaatst de verplichtingen onder bijlage III, waaronder toepassingen in werving en personeelsbeleid, van 2 augustus 2026 naar 2 december 2027. Bijlage I schuift naar 2 augustus 2028. Die verschuiving staat onder voorbehoud van publicatie in het Publicatieblad, dus controleer de stand voordat u er een programma op baseert.

Wat dit praktisch betekent: u heeft meer tijd voor de zware documentatieplicht dan veel roadmaps uit 2025 aannemen, en minder tijd dan u denkt voor geletterdheid en transparantie, want die gelden al.

Compliance-datums bepalen wanneer u iets moet kunnen aantonen. Ze bepalen niet wanneer uw medewerkers vertrouwen in het systeem hebben. Dat tweede kost meer tijd en staat in geen enkele verordening.

Waar het in de praktijk misgaat

Het patroon dat ik het vaakst zie, is dat een systeem correct werkt en toch wordt omzeild. Een planningstool die roosters voorstelt, een triage die meldingen prioriteert, een assistent die concepten schrijft. Technisch in orde, en na drie maanden gebruikt de helft van het team een eigen werkwijze ernaast.

Als u dan doorvraagt, komt zelden een technisch bezwaar naar boven. Wat u hoort is dat mensen niet weten waarop de uitkomst gebaseerd is, dat ze niet weten wat er gebeurt als ze ervan afwijken, en dat ze niet weten wie er verantwoordelijk is als het misgaat. Drie keer onzekerheid over de spelregels, niet over de techniek.

Dat is precies waar de AI Act en goed verandermanagement elkaar raken. De transparantieplicht bestaat niet om een banner te tonen. Ze bestaat omdat mensen die niet weten dat ze met een systeem praten, hun gedrag niet kunnen aanpassen. Wie de plicht invult als juridische formaliteit, houdt het risico dat de plicht wilde afdekken.

Drie vragen die u voor de uitrol moet kunnen beantwoorden

De eerste is de afwijkvraag. Wat gebeurt er met een medewerker die het advies van het systeem naast zich neerlegt en achteraf ongelijk blijkt te hebben. Als het antwoord is dat hij dan een probleem heeft, dan gebruikt niemand zijn oordeel meer en heeft u het systeem in de praktijk beslissend gemaakt zonder dat ergens vast te leggen.

De tweede is de uitlegvraag. Kan de leidinggevende in eigen woorden uitleggen waarom het systeem tot deze uitkomst komt. Niet op modelniveau, maar op het niveau van welke informatie meeweegt. Kan hij dat niet, dan kan hij de uitkomst ook niet verdedigen tegenover zijn team, en zal hij hem stilzwijgend gaan negeren.

De derde is de correctievraag. Wat is de route als het systeem structureel iets fout doet, en hoe lang duurt die route. Als het antwoord de leverancier en een kwartaal is, dan weet u dat mensen intussen hun eigen oplossing bouwen.

Waarom ethiek hier geen apart onderwerp is

Ethiekbeleid rond AI eindigt vaak als document dat niemand raadpleegt. Dat komt doordat het op het verkeerde niveau geschreven wordt: als principes, terwijl het probleem in beslissingen zit.

Bruikbaar beleid beantwoordt vragen die iemand op dinsdagochtend heeft. Mag ik klantgegevens in dit hulpmiddel plakken. Moet ik zeggen dat deze tekst met AI is gemaakt. Wie kijkt mee als het systeem iemand afwijst. Dat zijn geen filosofische kwesties, het zijn werkinstructies met een ethische kern.

De praktische toets is simpel. Neem drie situaties die de afgelopen maand echt zijn voorgekomen en kijk of uw beleid ze beantwoordt. Zo niet, dan heeft u principes en geen beleid.

Voor de zorg geldt dit scherper

In zorgorganisaties komt er iets bij. De beslissingen raken patiënten, en de beroepsgroep heeft een eigen verantwoordelijkheidskader dat ouder en zwaarder is dan elk IT-beleid. Een systeem dat een verpleegkundige adviseert, botst niet met de techniek maar met haar professionele oordeel en haar aansprakelijkheid.

Dat maakt de afwijkvraag daar de belangrijkste van de drie. Zolang niet expliciet is vastgelegd dat het professionele oordeel voorgaat en dat afwijken geen verantwoordingslast oplevert, krijgt u ofwel stille afwijzing van het systeem ofwel iets zorgelijkers: mensen die het advies volgen terwijl ze twijfelen, omdat dat veiliger voelt.

Waar te beginnen

Begin bij de inventarisatie, niet bij het beleid. Welke AI-toepassingen draaien er nu al, inclusief de hulpmiddelen die mensen zelf hebben gevonden. Die lijst is bijna altijd langer dan verwacht en vormt uw echte risicoprofiel.

Bepaal daarna per toepassing of er een besluit over een mens genomen wordt. Dat is de scheidslijn die er in de verordening en in de praktijk toe doet. Toepassingen die tekst samenvatten zijn iets anders dan toepassingen die mensen rangschikken.

En regel de geletterdheid nu, want die verplichting loopt al. Dat hoeft geen opleidingsprogramma te zijn. Het gaat erom dat mensen weten wat het systeem doet, waar het faalt en wanneer ze het moeten negeren. Die kennis is tegelijk uw beste bescherming tegen het gebruik dat u later niet had willen zien.

Verder praten

Speelt er een AI-implementatie waarbij de techniek klaar is en de organisatie nog niet? Bekijk het aanbod of neem contact op via de Squisse-pagina.