Arkitektur

Hvorfor Autistic Mirror ikke hallucinerer

Den mest almindelige indvending mod generativ AI er hallucination. En model bliver bedt om at producere indhold, som den ikke har et pålideligt grundlag for, og den udfylder hullet med noget plausibelt. Risikoen ligger altid ét bestemt sted. Der hvor modellen selv skal opfinde indholdet.

Det trin er reduceret i Autistic Mirror til det præcise sted, hvor opfindelsen faktisk ville opstå. Modellen behøver ikke at opfinde noget, for indholdet er allerede til stede. Det kommer fra et kurateret leksikon, hvor hver post er valideret tre gange. Første udgivelse, DOI eller PubMed-id, og et abstract der matcher den citerede påstand.

Hvor risikoen ligger

Generativ AI har en stærk side og en svag side. Den er stærk til at omformulere, til at tilpasse tone og sprog, til at oversætte en påstand til en specifik læser. Den er svag til at opfinde sandhed. De to ligger tæt sammen, fordi kilden til en påstand er strukturelt irrelevant for modellen. Et plausibelt forfatternavn plus et plausibelt år plus et plausibelt tidsskriftsnavn giver en plausibel citation. Den findes bare ikke.

De fleste AI-applikationer i sundhedsområdet viderefører den risiko uændret. De udsender påstanden og overlader kildekontrollen til læseren. I følsomme øjeblikke er det den forkerte opdeling.

Hvad arkitekturen gør anderledes

Autistic Mirror adskiller sandhed fra form. Sandheden kommer fra leksikonet. Formen kommer fra modellen. Det er hele idéen.

Konkret. Når appen taler om maskering, sensorisk bearbejdningstræthed, prædiktiv kodning, dobbelt-empatiproblemet eller et af de cirka tres kuraterede mekanisme-emner, kommer den underliggende påstand ikke fra modellen. Den kommer fra en post, der allerede har en første udgivelse, en udgiver og et matchende abstract. Modellen må omformulere den påstand til situationen, tilpasse den til læserens rolle, oversætte den til målsproget. Den må ikke erstatte den, udvide den eller bakke den op med egne kilder.

Opdelingen er hardcodet i systemprompten. Der er ingen inline-citationer, som modellen må skrive selv. Kilder findes kun i ordlisten, som fodres fra det samme kuraterede leksikon. Tryk på et begreb der, og du ser første udgivelse, DOI-linket og op til to yderligere validerede studier.

Hvor leksikonet ender

Ikke hvert relevant begreb har en post i dag. For nogle emner er kildegrundlaget for tyndt til det tredobbelte tjek. I så fald forbliver svaret uden kilder. Påstanden må kun optræde i generisk form (for eksempel "forskning i autonom regulering viser") og ikke som en specifik citation med forfatter og år. Bedre uden kilde end vaklende.

Den regel er hård, fordi den er den eneste, der forhindrer afdrift. I det øjeblik en enkelt påstand bærer en opfundet DOI, er ankeret for alle andre påstande beskadiget.

Hvad der bliver tilbage til AI'en

Tilpasning til rollen. Indefra som autistisk person, eller udefra som forælder, lærer, partner. Tilpasning til situationen. En specifik konflikt, en specifik sensorisk belastning, en specifik ledsagende tilstand. Tilpasning til sproget. Syv UI-sprog, samme mekanisme, ingen afdrift ind i udvandede hybridtermer.

Det er den opgave, generativ AI ægte er god til. Den tager noget, der allerede er sandt, og oversætter det, så det lander hos en bestemt person.

Hvorfor styrken kommer fra evidensen

Generiske chats opnår sjældent denne forbindelse, fordi de enten er rent generative (og derfor tilbøjelige til hallucination) eller rent statiske (og derfor ikke tilpasningsdygtige). En FAQ fra 2018 er pålidelig, men taler ikke i læserens sprog og bærer ikke deres ledsagende tilstande. En generisk chatbot er tilpasningsdygtig, men opfinder det studie, den citerer.

Autistic Mirror løser begge dele på én gang. Fast sandhed plus fleksibel oversættelse. Det er den arkitektur, der adskiller værktøjet fra begge sider. Det er også grunden til, at de videnskabelige evalueringskriterier ser anderledes ud end for en generisk sundheds-AI.

Hvad det betyder i daglig brug

Enhver der læser et svar kan følge stien fra påstanden tilbage til det oprindelige studie med to klik, så snart begrebet optræder i ordlisten. Enhver der ikke finder en kilde, ved at der ikke blev lovet en på det tidspunkt. Begge dele er del af den samme disciplin.

Den samme logik gælder for handlingsanvisninger. Autistic Mirror forklarer mekanismer og placerer eksisterende tilgange i kontekst. Appen tilbyder ikke terapeutisk intervention og ingen personaliserede instruktioner. Hvad appen ikke kan stå inde for, genererer den ikke. Hverken en kilde eller et råd.

Autistic Mirror er en AI-chat, der forklarer autistisk neurologi individuelt og i relation til brugerens aktuelle situation. Mekanisme i stedet for råd. Forklaring i stedet for korrektion. Appen er ikke et medicinsk udstyr og erstatter ikke medicinsk eller terapeutisk behandling.