Architektur

Wie Autistic Mirror Halluzinationen eingrenzt

Der häufigste Vorwurf gegen generative KI lautet Halluzination. Ein Modell soll Inhalt erzeugen, für den es keine verlässliche Grundlage hat, und füllt die Lücke mit Plausiblem. Das Risiko sitzt also immer an einer ganz bestimmten Stelle: dort, wo das Modell den Inhalt selbst erfinden muss.

Autistic Mirror setzt genau an dieser Stelle an. Für die Mechanismen, um die es in der App geht, muss das Modell den Inhalt nicht erfinden: Er steht in einem kuratierten Lexikon mit derzeit 97 Einträgen. Die meisten tragen eine dreifach geprüfte Quelle, also Erstpublikation, DOI oder PubMed-ID und den Abgleich des Abstracts mit der zitierten Aussage. Einige wenige sind ausdrücklich als Begriffe aus der autistischen Community gekennzeichnet, für die es noch keine peer-reviewte Erstbeschreibung gibt.

Wo das Risiko sitzt

Generative KI hat eine starke Seite und eine schwache Seite. Stark ist sie im Umformulieren, im Anpassen von Ton und Sprache, im Übersetzen einer Aussage auf den jeweiligen Empfänger. Schwach ist sie im Erfinden von Wahrheit. Beides liegt nah beieinander, weil dem Modell die Quelle einer Aussage strukturell egal ist. Ein plausibel klingender Autorenname plus ein plausibel klingendes Jahr plus ein plausibel klingender Journal-Name ergibt einen plausibel klingenden Beleg. Nur dass es ihn nicht gibt.

Viele KI-Anwendungen im Gesundheitsbereich tragen dieses Risiko unverändert weiter. Sie geben die Aussage aus und überlassen die Prüfung der Quelle dem Empfänger. In sensiblen Momenten ist das die falsche Lastverteilung.

Was die Architektur anders macht

Autistic Mirror trennt, so weit es geht, Inhalt und Form. Der Inhalt der Mechanismus-Erklärungen stützt sich auf das Lexikon. Die Form kommt aus dem Modell.

Konkret heißt das: Wenn die App über Maskierung, Reizfilter-Erschöpfung, Predictive Coding, Double Empathy oder eines der weiteren kuratierten Mechanismus-Themen spricht, bekommt das Modell den passenden Lexikon-Eintrag als Grundlage mit. Das Modell darf diese Aussage situativ umformulieren, für die jeweilige Rolle anpassen, in die jeweilige Sprache übersetzen. Es darf sie nicht ersetzen, ergänzen oder mit eigenen Quellen unterfüttern.

Die Trennung steht als feste Regel im System-Prompt. Es gibt keine inline-Zitate, die das Modell selbst formulieren darf. Quellen erscheinen ausschließlich im Glossar, das aus demselben kuratierten Lexikon gespeist wird. Wer im Glossar auf einen Begriff klickt, sieht die Erstpublikation, den DOI-Link und bis zu drei weitere Studien.

Eine Regel allein reicht nicht, weil ein Modell Regeln nicht in jedem Fall befolgt. Deshalb prüfen nachgelagerte Filter jede Antwort vor der Anzeige auf Quellenangaben, die nicht im Lexikon stehen, und ersetzen sie im Zweifel durch einen Hinweis auf das Glossar.

Wo das Lexikon endet

Nicht jeder relevante Begriff hat heute einen Eintrag. Für einige Themen ist die Quellenlage zu dünn für die Dreifach-Prüfung. In diesem Fall bleibt die Antwort quellenfrei. Die Aussage darf nur in generischer Form stehen (zum Beispiel "Forschung zur autonomen Regulation zeigt"), nicht als spezifischer Beleg mit Autor und Jahr. Lieber quellenfrei als wackelig.

Diese Regel ist streng, weil eine einzige erfundene Quellenangabe das Vertrauen in alle anderen beschädigen würde.

Was übrig bleibt für die KI

Sprachliche Anpassung an die Rolle: Innensicht autistisch oder Außensicht eines Elternteils, einer Lehrkraft, einer Partnerin. Anpassung an die jeweilige Situation: ein bestimmter Konflikt, eine bestimmte Reizlage, eine bestimmte Begleitdiagnose. Anpassung an die Sprache: 23 Sprachen, gleicher Mechanismus, kein Drift in entkernte Mischformen.

Das ist die Aufgabe, in der generative KI tatsächlich gut ist. Sie nimmt etwas, das bereits geprüft ist, und übersetzt es so, dass es bei einem bestimmten Menschen ankommt.

Warum die Stärke aus der Evidenz kommt

Generische Chats schaffen diese Verbindung selten, weil sie entweder rein generativ sind, also halluzinationsanfällig, oder rein statisch, also nicht anpassbar. Eine FAQ aus dem Jahr 2018 ist verlässlich, aber sie spricht nicht in der Sprache der Leserin und sie nimmt die Begleitdiagnosen nicht mit. Ein generischer Chatbot ist anpassbar, aber er kann eine Studie erfinden, auf die er sich dann beruft.

Autistic Mirror löst beides zusammen: geprüfter Inhalt plus flexible Übersetzung. Das ist die Architektur, die das Werkzeug von beiden Seiten abhebt. Und es ist der Grund, warum die Prüfkriterien für wissenschaftliche Einordnung anders aussehen als bei einer generischen Gesundheits-KI.

Wo die Grenzen liegen

Ausgeschlossen sind Fehler damit nicht. Das Modell formuliert jede Antwort selbst, und auch die Teile, die nicht aus dem Lexikon stammen, etwa der Bezug auf die konkrete Situation, können ungenau sein. Die Filter arbeiten mit Mustern und mit einer zweiten KI-Prüfung. Beides fängt viel ab, aber nicht alles. In den bisherigen Prüfläufen ist keine erfundene Quellenangabe durchgekommen, eine Garantie ist das nicht. Deshalb steht unter den Blog-Artikeln mit App-Antworten eine eigene Einordnung, die benennt, wo eine Antwort über die Quellenlage hinausgeht.

Was das für den Alltag bedeutet

Wer eine Antwort liest, kann den Weg von der Aussage bis zur Originalstudie in zwei Klicks gehen, sobald der Begriff im Glossar erscheint. Wer keine Quelle findet, weiß, dass an dieser Stelle bewusst keine versprochen wurde. Beides ist Teil derselben Disziplin.

Dieselbe Logik gilt für Handlungsempfehlungen. Autistic Mirror erklärt Mechanismen und ordnet Ansätze ein. Die App gibt keine therapeutische Intervention und keine personalisierte Handlungsanweisung. Was die App nicht verantworten kann, soll sie nicht erzeugen, weder eine Quelle noch einen Rat.

Autistic Mirror ist ein KI-Chat, der autistische Neurologie individuell und auf die jeweilige Situation bezogen erklärt. Mechanismus statt Ratschlag. Erklärung statt Korrektur. Die App ist kein Medizinprodukt und ersetzt keine ärztliche oder therapeutische Behandlung.