Künstliche Intelligenz kann beeindruckende Ergebnisse liefern – sie ist jedoch nicht unfehlbar. Besonders bei generativer KI gilt: Eine Antwort kann überzeugend, detailliert und professionell formuliert sein und trotzdem falsche Informationen enthalten.

Bei unserem heutigen Blogartikel haben wir als Beispiel ChatGPT von OpenAI benutzt, aber ähnliche Funktionen finden Sie auch in anderen KI-Systemen.

Was sind Halluzinationen?

Von einer Halluzination spricht man, wenn eine KI falsche oder frei erfundene Informationen erzeugt und diese so darstellt, als wären sie korrekt.

Das können beispielsweise erfundene Quellen, falsche Zahlen, nicht existierende Personen oder unzutreffende Aussagen über Gesetze sein. Besonders problematisch ist, dass solche Antworten häufig plausibel klingen und sprachlich kaum von einer korrekten Antwort zu unterscheiden sind.

Warum „lügt“ die KI?

Die KI „lügt“ dabei nicht im menschlichen Sinne. Sie hat keine Absicht, jemanden zu täuschen, sie ist eine Maschine. Ein Sprachmodell erzeugt Antworten auf Grundlage gelernter statistischer Zusammenhänge. Dabei kann eine Ausgabe entstehen, die sprachlich und inhaltlich plausibel erscheint, faktisch aber falsch ist.

In der Praxis sind die gefährlicheren KI-Fehler häufig nicht offensichtlich absurde Erfindungen, sondern richtige Einzelinformationen mit fehlendem Kontext, übersehenen Ausnahmen oder einer unzulässigen Schlussfolgerung.

Wie sehen typische Halluzinationen aus?

Halluzinationen können in unterschiedlichen Formen auftreten, zum Beispiel:

• erfundene Studien, Bücher, Urteile oder Quellen
• falsche Zahlen und Statistiken
• Verwechslungen von Personen, Unternehmen oder Ereignissen
• erfundene Zitate
• falsche Datumsangaben
• unzutreffend dargestellte Rechtslagen
• scheinbar konkrete Antworten auf Fragen, für die der KI die notwendigen Informationen fehlen

Besonders kritisch wird das in Bereichen, in denen falsche Angaben unmittelbare Konsequenzen haben können. Dazu gehören beispielsweise Buchhaltung, Steuern und rechtliche Fragestellungen. Eine überzeugend klingende Antwort auf die Frage, welches Konto für einen bestimmten Geschäftsvorfall verwendet werden soll, muss deshalb nicht automatisch buchhalterisch richtig sein. Gleiches gilt für Aussagen zu Gesetzen, Fristen oder rechtlichen Ansprüchen.

Was kann man gegen Halluzinationen tun?

1. Das Risiko von Halluzinationen verringern

Bei ChatGPT von Open AI haben Sie die Möglichkeit, der KI grundlegende Anweisungen zu geben, die bei jeder Antwort berücksichtigt werden sollen. So eine Personalisierungsanweisung kann das Risiko von Halluzinationen reduzieren, aber sie kann Halluzinationen nicht verhindern. Der wichtigste Effekt ist, dass man das Modell dazu anhält, bei Unsicherheit eher keine konkrete Behauptung aufzustellen, statt eine plausible Antwort zu „erraten“. Genau dieses Verhalten (Unsicherheit eingestehen statt raten) beschreibt OpenAI als wichtigen Ansatz gegen Halluzinationen in seinem Help Center.

Dafür gehen Sie in die Einstellungen: Einstellungen > Personalisierung > Benutzerdefinierte Anweisungen

An dieser Stelle tragen Sie diesen oder einen ähnlichen Text ein:

Priorisiere faktische Richtigkeit vor Vollständigkeit oder einer möglichst überzeugenden Antwort.

Erfinde keine Fakten, Zahlen, Zitate, Personen, Studien, Quellen oder Links. Wenn du etwas nicht zuverlässig weißt oder überprüfen kannst, sage ausdrücklich „Ich weiß es nicht“ oder kennzeichne die Unsicherheit. Rate nicht, wenn eine verlässliche Antwort erforderlich ist.

Unterscheide klar zwischen belegten Fakten, Schlussfolgerungen und Annahmen. Stelle Vermutungen niemals als Tatsachen dar.

Nutze bei Fragen, bei denen Aktualität oder Genauigkeit wichtig ist, nach Möglichkeit aktuelle und glaubwürdige Quellen. Nenne die verwendeten Quellen nachvollziehbar und verlinke sie, sofern möglich. Erfinde niemals eine Quelle oder einen Link.

Überprüfe besonders konkrete Angaben wie Zahlen, Daten, Namen, Zitate, Studien, Rechtsvorschriften und Statistiken, bevor du sie als Tatsache darstellst.

Bei rechtlichen, steuerlichen, finanziellen oder anderen besonders fehlerkritischen Fragen weise auf relevante Unsicherheiten hin und bevorzuge Primärquellen beziehungsweise offizielle Quellen.

Wenn meine Frage eine falsche Voraussetzung enthält, übernimm diese nicht ungeprüft, sondern weise mich darauf hin.

Wenn Informationen fehlen, die für eine zuverlässige Antwort notwendig sind, frage nach oder sage, welche Informationen fehlen.

Erkläre bei Berechnungen oder diskutierbaren Schlussfolgerungen den nachvollziehbaren Rechen- beziehungsweise Gedankengang.

Prüfe vor der Antwort, ob wesentliche Tatsachenbehauptungen ausreichend belegt sind. Wenn nicht, kennzeichne sie als unsicher oder lasse sie weg.