EU AI Act en autistische AI-hulpmiddelen

Brussel specificeert in deze weken welke AI-systemen als een hoog risico worden beschouwd. Voor AI in de gezondheidszorg en het onderwijs is deze vraag cruciaal. Autistic Mirror valt bewust niet in deze categorie. Wat dit in de praktijk betekent.

Waar het om gaat, in twee zinnen

De EU AI Act is de eerste verordening die AI-systemen classificeert op basis van risico. Waar het gaat om diagnoses, schoolplaatsen, toegang tot revalidatie of personeelsbeslissingen, gelden de strengste eisen. Juist daar wordt bepaald welke AI-hulpmiddelen autistische mensen veilig kunnen gebruiken en welke juridisch en ethisch niet houdbaar zijn.

Wat de EU AI Act regelt

De AI-verordening (Verordening EU 2024/1689)^[1] is sinds augustus 2024 van kracht en wordt gefaseerd van toepassing. Verbodsbepalingen voor bepaalde praktijken en de plicht tot AI-geletterdheid (artikel 4) gelden sinds 2 februari 2025. De verplichtingen voor AI-modellen voor algemene doeleinden gelden sinds 2 augustus 2025. De cruciale datum voor de meeste aanbieders is 2 augustus 2026: vanaf die datum treden de volledige vereisten voor AI-systemen met een hoog risico volgens bijlage III in werking.^[1]

De verordening kent vier risiconiveaus: verboden praktijken, systemen met een hoog risico, systemen met een beperkt risico en systemen met een minimaal risico. Het niveau bepaalt de lijst met verplichtingen.

Waar de grens ligt voor AI in de zorg en het onderwijs

Bijlage III noemt de gebieden waar AI-systemen automatisch als een hoog risico worden beschouwd.^[1] Drie daarvan zijn bijzonder relevant voor de discussie in HR-kringen: onderwijs en beroepsopleiding, werkgelegenheid en personeelsbeheer, toegang tot essentiële diensten inclusief gezondheidszorg en sociale voorzieningen. Wie in deze sectoren beslissingen voorbereidt of neemt, valt binnen de hoog-risicocategorie.

Bijlage I koppelt dit bovendien aan de wetgeving voor medische hulpmiddelen. Zodra een AI fungeert als veiligheidscomponent van een medisch hulpmiddel of als hulpmiddel voor in-vitrodiagnostiek, wordt het onafhankelijk van de toepassing als een hoog risico beschouwd.^[3][5]

Artikel 6, lid 3, biedt een nauw gedefinieerde uitzondering: als een systeem alleen een voorbereidende of puur technische taak uitvoert en geen aanzienlijk risico vormt voor de grondrechten, kan het ondanks de sectoren in bijlage III buiten de hoog-risicocategorie vallen. Zodra er echter sprake is van profilering, oftewel de geautomatiseerde beoordeling van persoonlijke aspecten, is de uitzondering niet meer van toepassing.

Waarom Autistic Mirror geen AI met een hoog risico is

Autistic Mirror is uitdrukkelijk geen medisch hulpmiddel. Dit standpunt is vastgelegd in de privacyverklaring sectie 2.4 en in de gebruiksvoorwaarden. Er is geen sprake van diagnose, therapie, triage of aanbeveling van medische maatregelen. De taak is nauw gedefinieerd: het verklaren van neurologische mechanismen van autistische beleving en het ondersteunen van zelfreflectie.

Vier punten onderbouwen de classificatie buiten de hoog-risicocategorie:

1. Geen medisch hulpmiddel volgens MDR/IVDR.^[3][5] Hiermee is bijlage I niet van toepassing.
2. Geen besluitvormingsondersteunende functie in onderwijs, werkgelegenheid of toegang tot essentiële diensten. De app beoordeelt geen personen, sorteert geen sollicitaties en wijst geen school- of revalidatieplaatsen toe. Hiermee zijn de drie kritieke pijlers uit bijlage III niet van toepassing.
3. Geen profilering in de zin van artikel 4, nr. 4 van de AVG (GDPR). Onboarding-gegevens (rol, co-occurring conditions, leeftijdsgroep) configureren uitsluitend de systeem-prompt-instelling. Er vindt geen geautomatiseerde beoordeling van persoonlijke aspecten plaats, noch een voorspelling over gedrag, prestaties of gezondheid. Daarmee blijft de uitzondering van artikel 6, lid 3, van toepassing.
4. Geen geautomatiseerde besluitvorming in de zin van artikel 22 van de AVG.^[2][7] Er ontstaan geen rechtsgevolgen of vergelijkbaar aanzienlijke nadelen door het gebruik. Antwoorden zijn verklarend, niet beslissend.

De app biedt geen advies in klinische zin. Wanneer gebruikers expliciet vragen naar een diagnose- of behandeltraject, treedt een output-filter in werking die de aanvraag afwijst en verwijst naar professionals. Dit is geen zelfbeperking, maar de zuivere scheidslijn tussen uitleg en aanbeveling.

Geen emotieherkenning, geen biometrische categorisering

Artikel 5, lid 1, onder f, van de EU AI Act verbiedt systemen voor emotieherkenning op de werkplek en in onderwijsinstellingen.^[1][4] Autistic Mirror voert geen emotieherkenning uit. Er vindt geen audioverwerking plaats, geen camera-analyse, geen stem- of gezichtsanalyse en geen biometrische categorisering. Inputs bestaan uit vrije tekst. De app sluit hiermee ook een praktijk uit die voor autistische mensen bijzonder riskant zou zijn, omdat hun emotionele expressie systematisch verkeerd wordt geïnterpreteerd.

Transparantieverplichtingen volgens artikel 50

Ook buiten de hoog-risicocategorie gelden vanaf 2 augustus 2026 de transparantieverplichtingen uit artikel 50. Gebruikers moeten kunnen herkennen dat zij interactie hebben met een AI-systeem. Autistic Mirror voldoet hier consistent aan: de productnaam, onboarding, privacyverklaring en elk antwoord zijn aangemerkt als door AI gegenereerd. Er is geen imitatie van menselijk advies en geen voorgewende therapeutische relatie.

Aanbieder, gebruiker en GPAI-classificatie

Autistic Mirror is de aanbieder (provider) in de zin van de EU AI Act. Organisaties die de app in het kader van een B2B-licentie aan hun medewerkers verstrekken, zijn gebruikers (deployers) en dragen de verplichtingen uit artikel 26, voor zover van toepassing. Omdat Autistic Mirror niet wordt geclassificeerd als hoog risico, beperken deze plichten zich in essentie tot interne gebruiksregels en informatie aan de werknemers. Het onderliggende taalmodel is een AI-model voor algemene doeleinden (GPAI) van een externe aanbieder. De GPAI-verplichtingen uit hoofdstuk V vallen onder de verantwoordelijkheid van de model-aanbieder, niet onder Autistic Mirror.

Waarom dit belangrijk is voor autistische mensen

Wanneer een generieke AI in een advies-, school- of werkcontext een gedragsaanbeveling doet, zoals "maak meer oogcontact" of "verminder stimming", dan grijpt dit diep in op de autistische beleving. Zonder tussenkomst van een deskundige. Zonder uitleg van het mechanisme. Dergelijke aanbevelingen volgen vaak een logica die autistische reacties wil onderdrukken in plaats van begrijpen.

De EU AI Act adresseert precies dit risico. Het dwingt aanbieders kleur te bekennen: stel ik diagnoses of doe ik aanbevelingen met effect op onderwijs, beroep of gezondheid, of houd ik het bij uitleg. Deze scheidslijn beschermt niet alleen aanbieders tegen audits, het beschermt autistische mensen tegen hulpmiddelen die hun neurologie willen corrigeren in plaats van verklaren.

Wat de verplichtingen voor hoog risico concreet zouden kosten

Wie zich in de hoog-risicocategorie bevindt, moet een volledig conformiteitsregime opzetten: gedocumenteerd risicobeheer, data governance met bewijs van trainingsdata, technische documentatie, logboekverplichtingen, menselijk toezicht, nauwkeurigheids- en robuustheidsmetingen en een conformiteitsbeoordeling. Bij gevallen uit bijlage I komt daar een aangemelde instantie (notified body) bij.

Een veelgeciteerde studie van het Centre for European Policy Studies schat de initiële conformiteitskosten voor een enkel AI-systeem met een hoog risico op ongeveer 29.277 euro, aangevuld met jaarlijkse kosten van ongeveer 71.400 euro voor een gecertificeerd kwaliteitsmanagementsysteem, telkens exclusief interne personeelskosten en vervolgaudits.^[6] Voor een klein team is dit alleen haalbaar als de toepassing daadwerkelijk een hoog risico vormt. Het antwoord daarop is niet het omzeilen van de plichten, maar het zuiver afbakenen van de toepassing.

Wat wij desondanks vrijwillig naleven

Ook buiten de hoog-risicocategorie gelden de AVG, ePrivacy en nationale regels. Autistic Mirror voldoet parallel aan vijf compliance-families: ISO/IEC 27001 Annex A voor informatiebeveiliging, OWASP Top 10 voor applicatiebeveiliging, AVG artikelen 5, 9, 22, 25, 32, 35, EN ISO 9241 delen 110 tot 210 voor software-ergonomie en WCAG 2.1 niveau A en AA voor toegankelijkheid. Daarnaast is er een 5-laags veiligheidsarchitectuur met anti-ABA-filter, crisisdetectie, output-safety-filter, injection-detection en buffer-then-send.

De gegevensbeschermingseffectbeoordeling (GEB) volgens artikel 35 AVG is gedocumenteerd, evenals het register van verwerkingsactiviteiten volgens artikel 30. De technisch-organisatorische maatregelen volgens artikel 32 zijn uitgewerkt. Er vindt geen tracking plaats, geen verkoop van gegevens en geen training van modellen met gebruikersinhoud.

Hoe dit verschilt van generieke AI

Een generieke chatbot zonder specialisatie kan op elk moment onbedoeld vervallen in diagnosetaal, therapieadviezen geven of aan ABA-gerelateerde strategieën voorstellen. Daarmee begeeft deze zich in een juridisch onduidelijk gebied zodra het wordt gebruikt voor gezondheids- of onderwijsvragen, en in een ethisch kritisch gebied zodra het in contact komt met autistische mensen.

Autistic Mirror heeft een vaste "mechanisme-eerst"-prompt en een output-filter die diagnose-aanbevelingen en ABA-inhoud blokkeert. Hiermee blijft het hulpmiddel binnen het toegestane bereik, zonder de gebruikers de inhoudelijke diepgang te ontnemen. Uitleg in plaats van aanbeveling. Mechanisme in plaats van diagnose.

Generieke AI

Open themaveld. Geen blokkade voor diagnoses. Geen ABA-filters. Geen crisisdetectie. Antwoorden geoptimaliseerd voor aannemelijkheid, niet voor neurologische accuratesse.

Autistic Mirror

Nauw gedefinieerde toepassing: mechanisme verklaren. Output-filter tegen diagnose- en behandelingsadviezen. Anti-ABA-filter. Redundante crisisdetectie in frontend en backend. Buffer-then-send, zodat elk antwoord vóór weergave wordt gecontroleerd.

Een lichtpunt

Regulering wordt vaak als een hindernis ervaren. In het geval van de EU AI Act is het een aanbod tot duidelijkheid: het dwingt aanbieders om te beslissen of ze diagnostische verantwoordelijkheid willen nemen of niet. Hulpmiddelen die mechanismen verklaren in plaats van diagnoses stellen, kunnen serieus schalen zonder in de hoog-risicocategorie te belanden. Dat is tegelijkertijd de juridisch zuivere en de ethisch verantwoorde weg. Voor autistische mensen betekent dit dat het hulpmiddel bruikbaar blijft, zonder dat er iemand tussen hen en hun eigen neurologie in staat.

Autistic Mirror legt de autistische neurologie individueel uit, toegespitst op jouw situatie. Of dat nu voor jezelf is, als ouder of als professional.

Bronnen

1. Europees Parlement en de Raad: Verordening (EU) 2024/1689 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (AI-verordening), 13 juni 2024. eur-lex.europa.eu/eli/reg/2024/1689/oj
2. Europees Parlement en de Raad: Verordening (EU) 2016/679 (AVG), 27 april 2016. eur-lex.europa.eu/eli/reg/2016/679/oj
3. Europees Parlement en de Raad: Verordening (EU) 2017/745 betreffende medische hulpmiddelen (MDR), 5 april 2017. eur-lex.europa.eu/eli/reg/2017/745/oj
4. Europese Commissie: Richtsnoeren over verboden praktijken op grond van de AI-verordening (C(2025) 884 final), februari 2025. digital-strategy.ec.europa.eu
5. Medical Device Coordination Group: MDCG 2019-11 Rev.1, Qualification and Classification of Software in Regulation (EU) 2017/745 and Regulation (EU) 2017/746, 2024. health.ec.europa.eu
6. Renda, A. et al., Centre for European Policy Studies: Clarifying the costs for the EU's AI Act, 2021. ceps.eu
7. Europees Comité voor gegevensbescherming (EDPB): Richtsnoeren en adviezen over artikel 22 AVG. edpb.europa.eu
8. Europese Commissie, AI Office: Toepassing en termijnen van de AI-verordening. digital-strategy.ec.europa.eu/en/policies/ai-office