Dein Ziel: Nach dieser Lektion erkennst du Halluzinationen und prüfst kritische Angaben, bevor du sie verwendest.
Eine KI nennt dir ein Gerichtsurteil samt Aktenzeichen. Alles klingt präzise und seriös. Nur: Dieses Urteil hat es nie gegeben. Genau darum geht es in dieser Lektion.
Was eine Halluzination ist
Eine Halluzination ist eine plausibel klingende Falschaussage. Die KI erfindet sie nicht aus böser Absicht. Sie tut nur, wozu sie gebaut ist.
Der Name führt leicht in die Irre. Die KI sieht keine Trugbilder wie ein Mensch. Sie erzeugt einfach den wahrscheinlichsten Text, auch wenn er nicht stimmt. Halluzination ist dafür nur ein eingebürgertes Wort.
Ein Sprachmodell optimiert auf wahrscheinliche, flüssige Sprache. Es optimiert nicht auf Wahrheit. Fehlt ein passendes Muster aus dem Training, füllt das Modell die Lücke mit dem, was plausibel klingt. So entsteht eine Erfindung im seriösen Ton.
Muster statt Wissen: der Weg zur Halluzination
Das trifft nicht nur Gerichtsurteile. Die KI erfindet ebenso Studien, Buchtitel oder Statistiken. Sie nennt eine Zahl mit zwei Nachkommastellen. Diese Genauigkeit wirkt seriös und ist doch frei erfunden.
Wo das Risiko am grössten ist
Nicht jede Antwort ist gleich heikel. Am grössten ist das Risiko bei harten Angaben. Dazu zählen Zahlen, Namen, Daten und Zitate. Dazu zählen auch Quellenangaben, Rechtliches und Medizinisches.
Warum gerade diese? Sie alle verlangen eine exakte Tatsache. Eine erfundene Jahreszahl fällt kaum auf. Ein leicht falscher Name klingt völlig normal.
Bei weichem, beschreibendem Text bemerkst du einen Fehlgriff dagegen meist sofort.
Merke dir vor allem eines. Ein selbstsicherer Ton sagt nichts über die Richtigkeit. Gerade die überzeugendsten Sätze verdienen den zweiten Blick.
Eine KI begründet eine Aussage mit einem konkreten Gerichtsurteil und Aktenzeichen. Du findest es in keiner amtlichen Quelle. Was tust du?
So schützt du dich
Gegen Halluzinationen hilft eine feste Prüf-Gewohnheit. Vier Handgriffe genügen im Alltag.
Verlange erstens Quellen zu jeder wichtigen Aussage. Schalte zweitens den Websuche-Modus zu, wenn es um Aktuelles geht. Prüfe drittens jeden Kernfakt in einer verlässlichen Quelle gegen.
Und hole viertens bei wichtigen Entscheidungen eine zweite Person dazu, das Vier-Augen-Prinzip. Mehr zum sauberen Prüfen von Fakten findest du in den KI-Grundlagen.
Besonders streng bist du bei zwei Themen. Geht es um Recht oder Gesundheit, prüfst du jede einzelne Angabe. Ein Fehler wiegt hier schwer.
Im Zweifel fragst du eine Fachperson. Lieber ein Anruf zu viel als eine falsche Auskunft.
Szenario: Jonas und der Bericht mit dem Gerichtsurteil
fiktives Beispiel
Jonas arbeitet in einer kleinen Versicherungsagentur. Eine KI hat ihm einen Bericht entworfen. Darin stehen ein Gerichtsurteil samt Aktenzeichen und ein wörtliches Zitat daraus. Beides klingt präzise und seriös.
Was tut Jonas, bevor er den Bericht weitergibt?
Der Bericht geht mit einem Urteil hinaus, das womöglich nie gefällt wurde: Ein selbstsicherer Ton sagt nichts über die Richtigkeit.
Gute Wahl: Harte Angaben wie Urteile, Zitate und Aktenzeichen verdienen den zweiten Blick.
Jonas findet das Urteil in keiner amtlichen Quelle. Wie handelt er richtig?
So bleibt der Bericht belegbar: Ein Urteil ohne amtliche Bestätigung gehört nicht in seine Arbeit.
Die Bestätigung kommt aus derselben Quelle wie die Erfindung: Das Modell liefert wieder nur den wahrscheinlichsten Text.
Merke dir das Muster: Harte Angaben wie Urteile und Zitate prüfst du in einer verlässlichen Quelle, bevor du sie weitergibst. Fehlt die Bestätigung, lässt du die Angabe weg.
- Dein Weg
Lass dir von einer KI drei Quellen zu einem Fachthema nennen. Öffne jede einzeln. Prüfe, ob sie existiert und wirklich das aussagt, was die KI behauptet.
Flüssig ist nicht gleich richtig.
Mit dieser Lektion endet Station 1. Sie dreht sich darum, was KI ist, wie sie arbeitet und wo ihre Grenzen liegen. In Station 2 lernst du die grossen Chatbots kennen und findest das passende Werkzeug für dich.