Waarom Autistic Mirror niet hallucineert

De meest voorkomende klacht over generatieve AI is hallucinatie. Een model wordt gevraagd inhoud te produceren waarvoor het geen betrouwbare basis heeft, en vult het gat met iets plausibels. Het risico zit altijd op één specifieke plek. Daar waar het model de inhoud zelf moet verzinnen.

Die stap wordt in Autistic Mirror teruggebracht tot het punt waar het verzinnen daadwerkelijk zou ontstaan. Het model hoeft niets te verzinnen, want de inhoud is er al. Die komt uit een gecureerd lexicon waarin elk item drie keer is gevalideerd. eerste publicatie, DOI of PubMed-identificatie, en een match van de samenvatting met de aangehaalde bewering.

Waar het risico zit

Generatieve AI heeft een sterke en een zwakke kant. Het is sterk in herformuleren, in toon en taal aanpassen, in het vertalen van een uitspraak voor een specifieke lezer. Het is zwak in het uitvinden van waarheid. Die twee liggen dicht bij elkaar, omdat de bron van een uitspraak structureel irrelevant is voor het model. Een plausibele auteursnaam plus een plausibel jaar plus een plausibele tijdschrifttitel levert een plausibele verwijzing op. Het bestaat gewoon niet.

De meeste AI-toepassingen in de zorg dragen dat risico ongewijzigd door. Ze geven de uitspraak en laten broncontrole over aan de lezer. In gevoelige momenten is dat de verkeerde taakverdeling.

Wat de architectuur anders doet

Autistic Mirror scheidt waarheid van vorm. Waarheid komt uit het lexicon. Vorm komt uit het model. Dat is het hele idee.

Concreet. wanneer de app praat over maskeren, vermoeidheid door sensorische verwerking, predictive coding, het double empathy problem of een van de ongeveer zestig gecureerde mechanisme-onderwerpen, dan komt de onderliggende uitspraak niet uit het model. Die komt uit een item dat al een eerste publicatie, een uitgever en een gematchte samenvatting heeft. Het model mag die uitspraak voor de situatie herformuleren, aanpassen aan de rol van de lezer, vertalen naar de doeltaal. Het mag haar niet vervangen, niet uitbreiden, en niet onderbouwen met eigen bronnen.

De splitsing is hardgecodeerd in de system prompt. Er zijn geen inline referenties die het model zelf mag schrijven. Bronnen verschijnen alleen in de woordenlijst, die gevoed wordt uit hetzelfde gecureerde lexicon. Tik daar op een term en je ziet de eerste publicatie, de DOI-link en tot twee extra gevalideerde studies.

Waar het lexicon ophoudt

Niet elke relevante term heeft vandaag een item. Voor sommige onderwerpen is de bronbasis te mager voor de drievoudige check. In dat geval blijft het antwoord zonder bron. De uitspraak mag dan alleen in generieke vorm verschijnen. bijvoorbeeld "onderzoek naar autonome regulatie laat zien" en niet als specifieke verwijzing met auteur en jaar. Liever bronloos dan wankel.

Die regel is hard, omdat het de enige is die drift voorkomt. Op het moment dat één enkele uitspraak een verzonnen DOI draagt, is het anker voor elke andere uitspraak beschadigd.

Wat er voor de AI overblijft

Aanpassing aan de rol. binnenperspectief als autistische persoon, of buitenperspectief als ouder, leraar of partner. Aanpassing aan de situatie. een specifiek conflict, een specifieke sensorische belasting, een specifieke co-voorkomende aandoening. Aanpassing aan de taal. zeven UI-talen, hetzelfde mechanisme, geen drift naar uitgeholde hybride termen.

Dat is de taak waar generatieve AI echt goed in is. Het neemt iets dat al waar is en vertaalt het zodat het landt bij een specifieke persoon.

Waarom de kracht uit het bewijs komt

Generieke chats slagen er zelden in dit verband te leggen, omdat ze ofwel puur generatief zijn en dus vatbaar voor hallucinatie, ofwel puur statisch en dus niet aanpasbaar. Een FAQ uit 2018 is betrouwbaar maar spreekt niet in de taal van de lezer en neemt hun co-voorkomende aandoeningen niet mee. Een generieke chatbot is aanpasbaar maar verzint de studie die hij aanhaalt.

Autistic Mirror lost beide tegelijk op. vaste waarheid plus flexibele vertaling. Dat is de architectuur die het hulpmiddel van beide kanten onderscheidt. Het is ook de reden dat de wetenschappelijke evaluatiecriteria er anders uitzien dan bij een generieke gezondheids-AI.

Wat dat in het dagelijks gebruik betekent

Iedereen die een antwoord leest kan in twee klikken het pad volgen van de uitspraak terug naar de oorspronkelijke studie, zodra de term in de woordenlijst verschijnt. Iedereen die geen bron vindt, weet dat er op dat punt geen bron is beloofd. Beide horen bij dezelfde discipline.

Dezelfde logica geldt voor handelingsadvies. Autistic Mirror legt mechanismen uit en plaatst bestaande benaderingen in context. De app geeft geen therapeutische interventie en geen gepersonaliseerde instructies. Wat de app niet kan verantwoorden, genereert ze niet. Geen bron en geen advies.

Autistic Mirror is een AI-chat die autistische neurologie individueel uitlegt en in relatie tot de huidige situatie van de gebruiker. Mechanisme in plaats van advies. Uitleg in plaats van correctie. De app is geen medisch hulpmiddel en vervangt geen medische of therapeutische zorg.

Aaron Wahl
Aaron Wahl

Autistisch, oprichter van Autistic Mirror

De app waar dit over gaat.

Gratis registreren