Welke AI-toepassingen zijn verboden onder de Europese AI-wet?
De Europese AI-wet verbiedt AI-toepassingen die een onaanvaardbaar risico vormen voor de grondrechten, veiligheid of waardigheid van mensen. Het gaat om systemen die mensen manipuleren, massaal surveilleren of discrimineren op basis van gedrag of persoonlijke kenmerken. In dit artikel beantwoorden we de meest gestelde vragen over welke AI-toepassingen precies verboden zijn en waarom.
Welke criteria bepalen of een AI-toepassing verboden is?
Een AI-toepassing is verboden onder de Europese AI-wet wanneer deze valt in de categorie “onaanvaardbaar risico”. Dit betekent dat de toepassing een fundamentele bedreiging vormt voor de grondrechten, democratische waarden of de fysieke en psychologische integriteit van mensen. De wet hanteert een risicogebaseerde benadering waarbij de potentiële schade bepalend is.
De wet beoordeelt AI-systemen aan de hand van een aantal concrete criteria:
- Sublimale beïnvloeding: systemen die mensen beïnvloeden buiten hun bewuste waarneming om
- Uitbuiting van kwetsbaarheden: toepassingen die misbruik maken van leeftijd, beperking of sociaaleconomische situatie
- Massale profilering: systemen die grootschalig gedrag registreren en beoordelen zonder wettelijke grondslag
- Voorspelling van crimineel gedrag: AI die uitsluitend op basis van profielen of persoonlijkheidskenmerken iemand als verdachte aanmerkt
De kern van de wetgeving is dat een AI-systeem niet mag worden ingezet als het de autonomie, vrijheid of gelijkheid van mensen structureel ondermijnt. De wet geldt voor aanbieders en gebruikers van AI-systemen die actief zijn op de Europese markt, ongeacht waar de aanbieder gevestigd is.
Welke vormen van sociale scoring zijn verboden onder de AI-wet?
Sociale scoring door overheden is volledig verboden onder de AI-wet. Het gaat om systemen waarbij mensen worden beoordeeld, gerangschikt of benadeeld op basis van hun sociale gedrag, persoonlijkheid of gepercipieerde betrouwbaarheid over een langere periode. Dit type systeem leidt tot ongerechtvaardigd onderscheid en is onverenigbaar met Europese grondrechten.
Concreet gaat het om systemen die:
- Burgers een “score” toekennen op basis van gedrag in verschillende contexten of tijdsperioden
- Op basis van die score toegang beperken tot diensten, voordelen of openbare ruimten
- Gedrag in een privécontext meewegen bij beslissingen in een geheel andere context, zoals werk of onderwijs
Het verbod richt zich primair op overheidsinstanties. Voor private actoren gelden aanvullende regels, maar de grens ligt bij systemen die discriminerende of disproportionele effecten hebben op individuen. Een werkgever die AI gebruikt om medewerkers continu te monitoren en te rangschikken op basis van productiviteitsscores bevindt zich in een juridisch grijs gebied dat de wet nadrukkelijk wil inperken.
Is biometrische surveillance in openbare ruimten verboden?
Realtime biometrische identificatie in openbare ruimten is in principe verboden voor wetshandhavingsdoeleinden. De AI-wet verbiedt het gebruik van systemen die mensen op afstand identificeren via gezichtsherkenning of andere biometrische kenmerken terwijl zij zich in de publieke ruimte bevinden, tenzij aan zeer strikte voorwaarden is voldaan.
Wat valt onder het verbod?
Het verbod omvat systemen die in real time biometrische gegevens verwerken om personen te identificeren in openbare ruimten. Denk aan camerasystemen die gezichten scannen en koppelen aan databases zonder dat de betrokkene daarvoor toestemming heeft gegeven of zonder wettelijke machtiging.
Wat zijn de uitzonderingen voor biometrische surveillance?
De wet staat beperkte uitzonderingen toe voor wetshandhaving, maar uitsluitend onder strikte voorwaarden: voorafgaande rechterlijke toestemming, een specifiek omschreven doel zoals het opsporen van een vermist kind of het voorkomen van een terroristische aanslag, en tijdelijke inzet. Achteraf biometrische identificatie, waarbij opnames worden geanalyseerd na een incident, is onder bepaalde omstandigheden wel toegestaan, maar eveneens sterk gereguleerd.
Wat zijn verboden AI-toepassingen op het gebied van manipulatie?
AI-systemen die mensen manipuleren via technieken die zij niet bewust waarnemen, zijn verboden. Het gaat om toepassingen die gebruikmaken van subliminale prikkels, verborgen beïnvloeding of psychologische kwetsbaarheden om beslissingen, gedrag of overtuigingen te sturen op een manier die schadelijk is voor de betrokkene.
Voorbeelden van verboden manipulatieve AI-toepassingen zijn:
- Systemen die kinderen via spelomgevingen aanzetten tot aankopen of gedragsverandering zonder dat ouders dit kunnen waarnemen
- AI die een emotionele toestand detecteert en daar direct op inspeelt om commercieel of politiek voordeel te behalen
- Toepassingen die ouderen of mensen met cognitieve beperkingen gericht beïnvloeden via gepersonaliseerde boodschappen die inspelen op hun kwetsbaarheden
- Deepfake-systemen die worden ingezet om mensen te misleiden over de identiteit van een persoon of de authenticiteit van informatie
Het onderscheidende criterium is de combinatie van verborgenheid en schade. AI die transparant personaliseert en geen schadelijk doel dient, valt niet automatisch onder dit verbod. De intentie en het effect op de gebruiker zijn bepalend.
Welke uitzonderingen bestaan er op de verboden AI-toepassingen?
De verboden in de AI-wet kennen beperkte uitzonderingen, voornamelijk voor nationale veiligheid en wetshandhaving. Deze uitzonderingen zijn nauw omschreven en vereisen altijd een wettelijke grondslag, proportionaliteit en toezicht door een onafhankelijke instantie.
De belangrijkste uitzonderingen zijn:
- Gerichte opsporing: biometrische identificatie achteraf is toegestaan bij ernstige strafbare feiten, mits rechterlijk gemachtigd
- Terrorismepreventie: realtime biometrische surveillance in openbare ruimten kan worden toegestaan bij een concrete en onmiddellijke dreiging
- Vermiste personen: opsporing van vermiste kinderen of slachtoffers van mensenhandel kan een uitzondering rechtvaardigen
Uitzonderingen zijn geen vrijbrief. Lidstaten moeten de inzet van dergelijke systemen registreren, evalueren en rapporteren aan Europese toezichthouders. De bewijslast ligt bij de instantie die de uitzondering inroept, niet bij de burger die erdoor wordt geraakt.
Wat zijn de gevolgen van het gebruik van verboden AI-systemen?
Het gebruik van verboden AI-systemen kan leiden tot zeer hoge boetes en reputatieschade. De AI-wet voorziet in sancties die kunnen oplopen tot 35 miljoen euro of zeven procent van de wereldwijde jaaromzet, afhankelijk van welk bedrag hoger is. Dit geldt zowel voor aanbieders als voor gebruikers van verboden systemen.
Naast financiële sancties kunnen toezichthouders:
- Het gebruik van het systeem onmiddellijk laten stopzetten
- Toegang tot de Europese markt intrekken
- Verplichte audits of technische aanpassingen opleggen
- Strafrechtelijke procedures initiëren bij ernstige schendingen
Voor organisaties en professionals die werken met AI-systemen is kennis van deze regelgeving geen luxe maar een noodzaak. De wet is in 2026 volledig van kracht voor de meeste verboden toepassingen, wat betekent dat compliance nu al een prioriteit moet zijn. Wie AI-systemen ontwikkelt, inkoopt of inzet, draagt juridische verantwoordelijkheid en moet kunnen aantonen dat de gebruikte technologie voldoet aan de eisen van de AI-wet.
Hoe Startel helpt met AI-kennis en compliance
De Europese AI-wet raakt steeds meer professionals, van IT-specialisten en ontwikkelaars tot managers en beleidsmakers. Bij Startel begrijpen we dat inzicht in AI-regelgeving en de technische achtergrond van AI-systemen onmisbaar is geworden voor iedereen die in een digitale werkomgeving werkt. Wij bieden:
- Trainingen die de technische en juridische context van AI combineren
- Officieel erkende certificeringen via partnerschappen met toonaangevende organisaties
- Flexibele leervormen: klassikaal, live online en zelfstudie
- Persoonlijke begeleiding door ervaren trainers met praktijkervaring
- Maatwerk voor organisaties die hun teams willen bijscholen op het gebied van AI en compliance
Of je nu starter bent op de arbeidsmarkt of een ervaren professional die zijn kennis wil actualiseren, wij helpen je de stap te zetten naar een toekomstbestendige IT-carrière. Neem gerust contact met ons op om te bespreken welke training het beste aansluit bij jouw situatie.
