Wat zijn de valkuilen van AI-automatisering voor IT-managers?

Jaap de Roos · 14 Jul 2026

De grootste valkuilen van AI-automatisering zijn niet technisch van aard. Ze zitten in wat organisaties overslaan voordat ze beginnen: governance zonder tanden, datastructuren die niet kloppen, compliance die te laat wordt meegenomen en budgetramingen die de helft van de echte kosten missen. IT-managers in het MKB+ en midcap-segment herkennen dit patroon: de technologie werkt, maar de organisatie eromheen is niet klaar. De vragen hieronder snijden elk een van die valkuilen aan.

Welke risico’s ontstaan als AI-automatisering zonder governance wordt ingevoerd?

Zonder governance weet een AI-agent niet welke beslissingen hij zelf mag nemen en welke hij moet escaleren. Het resultaat is een systeem dat acties uitvoert namens je organisatie, terwijl niemand precies weet op basis van welke data, met welke autorisatie en met welk mandaat. Dat is geen theoretisch risico; het is een operationeel probleem dat snel zichtbaar wordt.

De meest voorkomende gevolgen zijn: agents die werken met tegenstrijdige of verouderde data, outputs die niemand meer kan verklaren of auditen, en gebruikers die het systeem na een paar incidenten links laten liggen. Het verlies van vertrouwen bij je eigen medewerkers is moeilijker te herstellen dan een technische fout.

Governance bij AI-automatisering betekent concreet dat je voor elk type beslissing vastlegt wanneer een mens beslist, wanneer een mens controleert en wanneer de agent zelfstandig doorpakt. Zonder die escalatiepaden draait je organisatie op impliciete aannames. En impliciete aannames schalen niet.

Waarom onderschatten IT-managers de impact op bestaande datastructuren?

Een AI-agent is fundamenteel anders dan een dashboard of rapportagetool. Een dashboard leest data en toont die. Een agent leest data, neemt beslissingen op basis daarvan en voert vervolgens acties uit. Dat stelt andere eisen aan de kwaliteit, consistentie en het eigenaarschap van je datastructuren dan de meeste IT-managers op voorhand inschatten.

Het probleem zit in drie lagen. Ten eerste datakwaliteit: agents werken met wat er in de brondata staat. Als die data incompleet, inconsistent of verouderd is, produceert de agent foute of verzonnen uitkomsten. Hallucinaties bij AI zijn bijna altijd terug te voeren op een fundament dat niet op orde is.

Ten tweede semantiek: als “omzet” in het ene systeem iets anders betekent dan in het andere, weet de agent niet welke definitie hij moet volgen. Dat leidt tot beslissingen op basis van verkeerde aannames. Ten derde governance en toegang: wie mag welke data zien, en wat mag worden gewijzigd? Agents hebben authenticatie en autorisatie nodig, net als menselijke gebruikers. Wie dat niet inregelt, opent een nieuwe klasse van toegangsrisico’s in zijn eigen infrastructuur.

Hoe voorkom je dat AI-automatisering compliance-verplichtingen schendt?

Compliance voorkom je niet door het achteraf te checken. Je bouwt het in als onderdeel van je procesontwerp, voordat de eerste agent in productie gaat. De AVG en de EU AI Act stellen eisen aan documentatie, audit trails en aantoonbare zorgvuldigheid. Die eisen gelden voor geautomatiseerde systemen net zo goed als voor menselijke processen, soms strenger.

Praktisch betekent dit dat je procesvolwassenheid een harde voorwaarde is. Werk dat herhaalbaar, gedocumenteerd en aantoonbaar verloopt, kan worden geautomatiseerd op een manier die je kunt verantwoorden. Werk dat afhankelijk is van impliciete kennis bij individuele medewerkers, kan dat niet. Automatiseer je dat toch, dan automatiseer je ook de risico’s.

Wat je concreet regelt: audit trails die bijhouden welke data de agent heeft gebruikt en welke acties hij heeft uitgevoerd, toegangscontroles die vastleggen wie wat mag zien en wijzigen, en een semantische laag die definities van kernbegrippen eenduidig vastlegt. Laat je juridisch adviseur beoordelen wat de EU AI Act en de AVG specifiek vereisen voor jouw situatie. Dat valt buiten wat technologie alleen kan afdekken.

Wanneer is gefaseerde AI-implementatie beter dan een big-bang uitrol?

Gefaseerde implementatie is bijna altijd beter dan een big-bang uitrol, tenzij je organisatie al volledig volwassen is op alle negen fundamenten die AI-agents nodig hebben. Dat is zelden het geval. Een big-bang uitrol vergroot de kans dat fouten in je data, processen of governance zich gelijktijdig manifesteren in meerdere systemen, waardoor de oorzaak moeilijk te isoleren is.

De aanpak die werkt: begin met één agent met beperkte impact en bouw alleen de fundamenten op die nodig zijn om die agent verantwoord in productie te laten draaien. Met elke volgende agent groeit de fundamentenlaag mee. Dit principe: denk groot, begin klein, handel snel, voorkomt dat je twee jaar bezig bent met voorbereiding voordat er iets live gaat, maar ook dat je te snel te veel tegelijk uitrolt. Meer over de structuur achter dit principe lees je in het AI Foundationsmodel voor verantwoorde implementatie.

Gefaseerd werken heeft nog een ander voordeel: je medewerkers groeien mee. AI-literacy, het begrijpen wat agents wel en niet kunnen en het aanpassen van werkwijzen aan wat agents overnemen, bouw je op door te doen. Niet door een eenmalige training voorafgaand aan een grote uitrol.

Wat zijn de verborgen kosten van AI-automatisering die budgethouders missen?

De zichtbare kosten van AI-automatisering zijn licenties, implementatie en eventuele externe begeleiding. De verborgen kosten zitten in alles wat nodig is voordat de technologie kan werken, en in alles wat misgaat als dat niet op orde is.

De kosten die budgethouders het vaakst onderschatten:

Datakwaliteitswerk: schone, gevalideerde brondata met duidelijke eigenaren kost tijd en geld, en is een voorwaarde, geen bijzaak
Procesherziening: gedocumenteerde en herhaalbare processen zijn nodig voordat je ze kunt automatiseren; als die documentatie er niet is, moet je die eerst maken
Security en identity management: agents als nieuwe identiteitsklasse inrichten in je bestaande systemen vraagt specialistisch werk
Observability: zicht houden op wat agents in productie doen, inclusief systematische meting van outputkwaliteit, is een doorlopende investering
Change management: medewerkers die hun werkwijze moeten aanpassen, hebben begeleiding nodig; adoptie gaat niet vanzelf
Herstelkosten bij fouten: agents die op basis van slechte data verkeerde acties uitvoeren, veroorzaken schade die hersteld moet worden

De werkelijke kosten van een mislukt AI-traject zijn hoger dan de som van de investeringen. Een organisatie die weet dat haar agents onbetrouwbaar zijn en stopt met ze te gebruiken, heeft niet alleen geld verloren. Ze heeft ook de interne bereidheid verloren om het opnieuw te proberen.

Hoe houd je als IT-manager de regie bij uitbestede AI-trajecten?

Regie bij uitbestede AI-trajecten begint met een scherpe waardehypothese: welk probleem lost deze agent op, voor wie, en hoe ziet succes eruit? Zonder dat vertrekpunt stuur je op activiteiten in plaats van op uitkomsten. En bij activiteiten verlies je de regie altijd aan de partij die ze uitvoert.

Praktische maatregelen om de regie te houden:

Leg per agent vast wat de strategische intentie is en welke metrics bepalen of hij zijn werk goed doet
Zorg dat observability geen verantwoordelijkheid is van de leverancier alleen; je wilt zelf zicht houden op wat agents in productie doen
Eis kennisoverdracht als expliciet onderdeel van het traject, zodat interne medewerkers meegroeien in plaats van afhankelijk te blijven
Werk met partijen die per domein gespecialiseerd zijn, in plaats van met generalisten die alles doen maar nergens echt diep in gaan
Houd één aanspreekpunt dat de regie voert over het geheel en verantwoordelijk is voor de samenhang tussen de onderdelen

Het risico bij uitbesteding is niet dat externe partijen slecht werk leveren. Het risico is dat de integratie tussen hun werk en jouw organisatie niet goed is geborgd. Dat is een regievraagstuk, geen technisch vraagstuk. Bekijk hoe de Connect & Build aanpak voor AI-trajecten dit concreet invult.

Hoe wij helpen bij verantwoorde AI-automatisering

De valkuilen in dit artikel zijn precies de vraagstukken waar wij dagelijks mee werken. Niet als generalist die overal iets van weet, maar als programmamanager die de beste specialisten per domein samenbrengt en zorgt dat de fundamenten op orde zijn voordat er agents in productie gaan.

Onze aanpak via AIConnected werkt in twee stappen:

We starten met een Foundation Scan: drie gerichte gesprekken van elk 45 minuten, één per laag van het AI Foundationsmodel. Na twee tot drie uur interviewtijd weet je waar je organisatie staat op alle negen fundamenten, en welke risico’s het meest urgent zijn
Op basis van die scan bouwen we een concreet programma, met per fundament de specialist die er het sterkst in is. Jij houdt één aanspreekpunt en de regie; wij zorgen dat de specialismen op elkaar aansluiten

De waardehypothese staat centraal: we beginnen altijd met de vraag welk probleem je wilt oplossen, voor wie, en hoe succes eruitziet. Daarna bepalen we samen welke agent als eerste in aanmerking komt en welke fundamenten daarvoor op orde moeten zijn. Wil je weten waar je nu staat? Neem contact op voor een Foundation Scan.