Wat betekent ‘human in the loop’ en waarom blijft het nodig?

Human in the loop (HITL) betekent dat een mens actief meebeslist, controleert of bijstuurt in een AI-proces voordat een uitkomst definitief wordt. Het blijft nodig omdat AI-systemen fouten maken, vooroordelen kunnen overnemen en geen verantwoordelijkheid dragen. Menselijke controle op AI maakt de uitkomsten betrouwbaar, uitlegbaar en juridisch houdbaar. Hieronder lees je wanneer mensen ingrijpen, welke varianten bestaan en welke vaardigheden je nodig hebt.

Op welke momenten grijpt de mens bij AI in?

Een mens grijpt bij AI in op drie momenten: bij het trainen van het model, tijdens het beoordelen van individuele uitkomsten en bij het bijsturen van het systeem nadat het in gebruik is genomen. Zo blijft de kwaliteit van machine learning gewaarborgd, ook als data of omstandigheden veranderen.

In de praktijk ziet dat er als volgt uit:

• Bij het trainen: mensen labelen data, selecteren trainingsmateriaal en controleren of de dataset representatief is.
• Bij het beslissen: een medewerker keurt een AI-advies goed, past het aan of wijst het af, bijvoorbeeld bij een kredietbeoordeling of medische analyse.
• Bij het bijsturen: mensen monitoren prestaties, signaleren afwijkingen en trainen het model opnieuw wanneer de kwaliteit afneemt.

Vooral bij beslissingen met grote gevolgen voor personen is een menselijke eindcontrole gebruikelijk.

Wat is het verschil tussen human in the loop, on the loop en out of the loop?

Het verschil zit in de mate van menselijke betrokkenheid. Bij human in the loop beslist de mens mee bij elke stap. Bij human on the loop houdt de mens toezicht en grijpt alleen in bij problemen. Bij human out of the loop werkt het systeem volledig zelfstandig.

Human in the loop

De mens maakt deel uit van het besluitvormingsproces. Het AI-systeem doet een voorstel, de mens neemt de uiteindelijke beslissing. Dit past bij situaties met hoge risico’s, zoals diagnoses, sollicitatieselecties of juridische beoordelingen.

Human on the loop en out of the loop

Bij human on the loop bewaakt een mens het proces en kan hij of zij het systeem stoppen of corrigeren. Denk aan het monitoren van een geautomatiseerd fraudedetectiesysteem. Bij human out of the loop is er geen menselijke tussenkomst tijdens het proces, bijvoorbeeld bij een spamfilter. Dat is alleen verantwoord bij een laag risico en omkeerbare gevolgen.

Welke risico’s voorkomt menselijke controle bij AI?

Menselijke controle bij AI voorkomt vooral foutieve beslissingen, discriminatie door vooringenomen data, onverklaarbare uitkomsten en het ontbreken van verantwoordelijkheid. Een mens herkent context, ethiek en uitzonderingen die een model niet doorziet, en kan daardoor schade beperken voordat die ontstaat.

De belangrijkste risico’s op een rij:

• Hallucinaties en fouten: generatieve AI kan overtuigend klinkende maar onjuiste informatie produceren.
• Bias: een model dat is getraind op eenzijdige data, reproduceert die vooroordelen op grote schaal.
• Datadrift: de werkelijkheid verandert, terwijl het model nog op oude patronen vertrouwt.
• Gebrek aan verantwoording: een algoritme kan niet aansprakelijk worden gesteld, een organisatie wel.
• Privacy en veiligheid: mensen herkennen gevoelige gegevens en misbruik sneller in de praktijk.

Goede AI-governance legt vast wie waarvoor verantwoordelijk is en op welk moment controle plaatsvindt.

Verplicht de EU AI Act menselijk toezicht?

Ja, voor hoogrisico-AI-systemen verplicht de EU AI Act menselijk toezicht. Aanbieders moeten hun systemen zo ontwerpen dat natuurlijke personen ze effectief kunnen controleren. Voor andere risicocategorieën gelden lichtere of andere verplichtingen, zoals transparantie.

De wet werkt met risicoklassen. Praktijken met een onaanvaardbaar risico zijn verboden. Voor hoogrisicosystemen, bijvoorbeeld in werving, onderwijs, kredietverlening of kritieke infrastructuur, gelden eisen rond risicobeheer, datakwaliteit, documentatie en menselijk toezicht. Het doel van menselijk toezicht volgens de EU AI Act is dat mensen de werking begrijpen, afwijkingen herkennen, uitkomsten kunnen negeren en het systeem kunnen stoppen.

De wet verplicht organisaties bovendien om AI-geletterdheid te bevorderen. Medewerkers die met AI werken, moeten voldoende kennis hebben om het systeem verantwoord te gebruiken. Controleer voor jouw situatie altijd de actuele tekst en de bijbehorende uitvoeringsregels, want de invoering gebeurt gefaseerd.

Blijft human in the loop nodig naarmate AI beter wordt?

Ja, human in the loop blijft nodig, ook als AI beter wordt. Betere modellen maken minder fouten, maar nooit helemaal geen fouten. Daarnaast blijven verantwoordelijkheid, ethische afwegingen en context menselijke taken. Alleen de vorm van het toezicht verschuift.

Bij eenvoudige, herhaalbare taken kan de controle verschuiven van elke beslissing naar steekproeven of monitoring (human on the loop). Bij complexe, ingrijpende of nieuwe situaties blijft directe menselijke beoordeling essentieel. Daar komt bij dat modellen na verloop van tijd verouderen wanneer data en regels veranderen. Iemand moet die afwijking opmerken.

Ook juridisch en maatschappelijk blijft de mens eindverantwoordelijk. Een organisatie kan een beslissing niet afschuiven op een algoritme. Hoe beter AI wordt, hoe belangrijker het wordt dat mensen weten wanneer zij het systeem kunnen vertrouwen en wanneer niet.

Welke vaardigheden heeft een professional nodig voor AI-toezicht?

Een professional heeft voor AI-toezicht een mix nodig van AI-geletterdheid, domeinkennis, kritisch denkvermogen en kennis van regelgeving. Je hoeft geen datawetenschapper te zijn, maar je moet begrijpen hoe een model tot uitkomsten komt en waar het kan falen.

De belangrijkste vaardigheden:

• Basiskennis van machine learning: begrijpen hoe modellen leren, wat trainingsdata is en waar bias ontstaat.
• Kritisch beoordelen: uitkomsten toetsen aan vakkennis in plaats van ze blind over te nemen.
• Kennis van AI-governance en wetgeving: weten wat de EU AI Act en privacyregels van je vragen.
• Datakwaliteit herkennen: signaleren wanneer invoer of uitvoer niet klopt.
• Communicatie en documentatie: beslissingen onderbouwen en afwijkingen melden.

Deze vaardigheden train je gericht, bijvoorbeeld via een AI-training in IT die theorie koppelt aan praktijkcases.

Hoe wij helpen bij menselijke controle op AI

Menselijke controle werkt alleen als medewerkers de kennis hebben om AI kritisch te beoordelen. Wij bieden daarvoor IT-opleidingen en certificeringen die aansluiten op het niveau en de rol van je team. Met meer dan 25 jaar ervaring en partnerschappen met toonaangevende organisaties zorgen wij dat de inhoud actueel blijft.

• Flexibele leervormen: klassikaal, live online of via zelfstudiepakketten, passend bij je werkpraktijk.
• Maatwerk voor organisaties: trainingen die zijn afgestemd op jullie systemen, risico’s en verantwoordelijkheden.
• Examenvoorbereiding en certificering: wij begeleiden je van voorbereiding tot examen, als geautoriseerd examencentrum.
• Brede basis: van basisvaardigheden tot gevorderde IT-certificeringen, voor beginners en ervaren professionals.

Wil je weten welke training past bij jouw team of rol? Neem dan vrijblijvend contact met ons op, dan denken wij graag met je mee.