Wat doet die mens daar eigenlijk

Menselijke controle is waarschijnlijk de meest voorkomende beheersmaatregel in AI-ontwerpen van de afgelopen twee jaar. HITL: Human In The Loop. In vrijwel elk kader staat dat er iemand meekijkt voordat er iets de deur uit gaat. Wat die persoon vervolgens verandert, werd zelden gemeten. Tot voor kort.

Eduardo Davalos en Yike Zhang publiceerden op 15 september 2026 een preprint waarin ze het wel proberen. Ze schreven het voor het onderwijs, maar de vraag is breder. Ze keken niet naar het eindproduct, maar naar toetsaanslagdata uit drie publieke corpora: een co-writing-corpus, programmeertelemetrie en een basislijn van vóór de taalmodellen. Hun vraag was of AI-hulp een tijdssignatuur achterlaat. En ja, dat doet het. Wat een model inbrengt, komt in grote bursts die duidelijk buiten het eigen typritme van de auteur vallen, bij schrijven en bij programmeren allebei.

Twee getallen uit dat werk zijn blijven hangen. In schrijftaken, in dit onderzoek verhalen en betogen, haalt 93 procent van de door AI ingevoegde tekens het einddocument. De mens past er dus amper iets aan. In programmeertaken haalt 14 procent van de geaccepteerde suggesties ongewijzigd het einddocument. Die twee tellen niet hetzelfde: het zijn tekens tegenover aangenomen suggesties, en dat is geen eerlijke vergelijking. Een suggestie die niet compileert, verdwijnt bovendien vanzelf. Maar het gat is groot genoeg om de volgende vraag te stellen: waar komt dit vandaan?

Het verschil zit in wat terugpraat

De makkelijke verklaring is dat programmeurs kritischer zijn dan schrijvers. Dat is waarschijnlijk te makkelijk, en dat realiseer ik me. Wat programmeurs wél hebben, is een systeem dat binnen een minuut terugpraat en feedback geeft.

De compiler weigert, een test valt om, of een collega doet een review en schiet gaten in je door AI gegenereerde pull request. Elk van die signalen dwingt tot een beslissing over de aangeleverde code, en pas zo'n beslissing maakt van meelezen echt beoordelen. Je komt er niet omheen, zeker niet als het proces goed is ingericht, met bijvoorbeeld een verplichte review op elke pull request in GitHub.

Bij een beleidsstuk, een klantbrief of een besluitnota bestaat dat tegenspel vaak niet. Daar is de enige controle iemand die leest wat er al staat, en die dat doet in de stille aanname dat het waarschijnlijk wel klopt. Want feedback geven: dat is natuurlijk spannend.

Lisanne Bainbridge beschreef dat mechanisme in 1983 in "Ironies of Automation": naarmate je meer automatiseert, worden de momenten waarop de mens moet ingrijpen zeldzamer, terwijl zijn verantwoordelijkheid voor precies die momenten juist toeneemt. Hij oefent minder en moet meer. Mijn vertaling: we worden lui.

De rol van de mens als restpost

Er is een tweede lezing, en die komt uit mijn eigen notities en keynotes. Bepaalde processtappen zijn er voor de mens en niet voor de machine: overdrachtsmomenten, statusoverleg, dubbele controles, het vier-ogenprincipe, de afhandeling van grote incidenten. Ze staan in een proces omdat er mensen in zaten. Wie zo'n proces één-op-één digitaliseert, sleept die stappen mee en houdt de kosten die ze veroorzaken. Moeten deze stappen er wel zijn? Wat automatiseren we nu echt?

De mens in de lus is diezelfde stap, maar dan in omgekeerde richting. Hij is aan een machineproces toegevoegd. En in vrijwel elk kader ook nog eens zonder dat iemand daarna heeft vastgesteld wat die stap daadwerkelijk oplevert. Raja Parasuraman en Victor Riley beschreven dit patroon al in 1997 voor klassieke procesautomatisering. Ontwerpers bepalen eerst wat de machine doet, en wat overblijft wordt de rol van de operator. Die rol is dan geen ontwerpkeuze, maar een restpost. Volgens Parasuraman en Riley is dat precies een van de manieren waarop automatisering misgaat.

In augustus 2026 verscheen in JAMA een opiniestuk dat die restpost duurder maakt dan een vinkje. De auteurs stellen dat autonome AI bij medisch redeneren binnenkort beter presteert dan welk team van arts en model ook, en dat toezichthouders om die reden geen mens in de lus zouden moeten voorschrijven. Wel geven ze zelf toe dat vrijwel al het bewijs uit simulaties komt, niet uit echte patiëntenzorg. De richting is duidelijk genoeg om ongemakkelijk te zijn.

Wanneer de mens er wel hoort

Fares Fourati, Hinrich Schütze, Eyke Hüllermeier en Iryna Gurevych publiceerden in juli 2026 een theoretisch kader met drie redenen waarom menselijke deelname blijft bestaan, ook bij zeer capabele AI:

1. Technisch: mensen brengen iets in dat het model mist.
2. Normatief: deelname is op zichzelf waardevol, voor groei en zelfbeschikking.
3. Wat zij target emergence noemen: bij sommige activiteiten ligt het doel niet vooraf vast, maar ontstaat het door de interactie zelf. Daar is menselijke deelname geen middel om de uitkomst te bereiken; ze maakt de uitkomst. Het doel wordt gaandeweg ontdekt.

Dat geeft een scherper criterium dan een simpele risicoklasse. Ligt het doel vast en is de uitkomst objectief te scoren? Dan is een verplichte mens in de lus vooral een overgenomen processtap.

Ontstaat het doel pas in het doen, zoals bij een gesprek met een patiënt over wat hij nog wil, of een productrichting die je al pratend en discussiërend vindt? Dan is diezelfde mens niet weg te automatiseren, hoe goed het model ook wordt.

En dan wordt het meetbaar

Het derde deel van het paper van Davalos en Zhang heeft de langste staart. Modellen die alleen naar tijdspatronen kijken, herkennen volledig uitbesteed werk bijna perfect: met een F1-score van 0,997 of hoger zien ze het verschil tussen gesimuleerde volledige uitbesteding en echt, menselijk werk. Gewone samenwerking met AI blijft in dezelfde data moeilijk te onderscheiden van werk zonder AI.

Dat is een asymmetrie met gevolgen. Wat meetbaar wordt, is de afwezigheid van werk, en niet de kwaliteit ervan. Trek je het door naar organisaties, dan kan een auditor straks met een audittrail op tijdspatronen vaststellen dat er feitelijk niemand aan tafel zat. Hij kan alleen niet vaststellen of wie er wel zat, het goed deed.

Charles Goodhart beschreef in 1975, voor het Britse monetaire beleid, wat er dan gebeurt. In de bekende formulering van Marilyn Strathern: zodra een maatstaf een doel wordt, verliest hij zijn waarde als maatstaf.

Een organisatie die wordt afgerekend op hoeveel haar mensen aanpassen aan modeloutput, krijgt gewoon mensen die dingen aanpassen. Het ritme klopt, het dossier klopt, maar er is helaas niemand beter gaan nadenken.

Meten is daarmee niet zinloos, zeker niet. Maar deze meting kan precies één ding: vaststellen of er überhaupt iemand heeft gewerkt. Als rapportcijfer voor de kwaliteit van dat werk is ze ongeschikt.

Wie haar toch zo gebruikt, bouwt over een paar jaar een dashboard dat het verkeerde gedrag beloont. Doe maar niet.

Bronnen

• Eduardo Davalos en Yike Zhang, "Does AI Assistance Leave a Temporal Fingerprint? Detecting Overreliance in AI-Assisted Writing and Programming", arXiv:2609.17883, 15 september 2026. Preprint, niet peer-reviewed. https://arxiv.org/abs/2609.17883v1
• Fares Fourati, Hinrich Schütze, Eyke Hüllermeier en Iryna Gurevych, "The Boundaries of Automation: A Theory of Persistent Human Participation", arXiv:2607.21547, 24 juli 2026. https://arxiv.org/abs/2607.21547
• "As AI beats doctors, regulators shouldn't force a human into the loop, JAMA piece says", The Decoder, 18 augustus 2026 (over een opiniestuk in JAMA). https://the-decoder.com/as-ai-beats-doctors-regulators-shouldnt-force-a-human-into-the-loop-jama-piece-says
• Lisanne Bainbridge, "Ironies of Automation", Automatica 19(6), 1983.
• Raja Parasuraman en Victor Riley, "Humans and Automation: Use, Misuse, Disuse, Abuse", Human Factors 39(2), 1997.
• Charles Goodhart, 1975, over het Britse monetaire beleid.
• Marilyn Strathern, "'Improving ratings': audit in the British University system", European Review 5(3), 1997.