KI-Halluzination im Finanzbereich

Bedeutung

Ein KI-System kann eine überzeugend klingende Antwort geben, die eine unbelegte Gewinnkennzahl, eine erfundene Nachricht oder eine nicht existente Quellenangabe enthält. Im Finanzbereich sind solche Fehler relevant, weil eine scheinbar konkrete Behauptung die Einschätzung einer Aktie oder eines Auftrags beeinflussen kann.

Bei einer Halluzination geht es um die Belegbarkeit einer Aussage, nicht darum, ob die Schlussfolgerung plausibel klingt. Auch eine tatsächlich existierende Kennzahl ist unzuverlässig, wenn sie dem falschen Berichtszeitraum zugeordnet wird. Fehlende oder veraltete Daten erfordern einen gesonderten Hinweis: Ein KI-System sollte eine Datenlücke nicht mit einer selbstsicher vorgetragenen Vermutung füllen.

Berechnung

Für KI-Halluzinationen gibt es weder eine standardisierte Finanzformel noch einen allgemein gültigen Kennwert. Eine praktische manuelle Prüfung kann stattdessen den Anteil der Tatsachenbehauptungen einer Antwort messen, die sich nach der Überprüfung nicht belegen lassen:

Anteil unbelegter Behauptungen (%) = (U / N) × 100

• U ist die Zahl der überprüften Tatsachenbehauptungen, für die sich die angeführten Belege nicht finden lassen oder die durch diese Belege nicht gestützt werden. Gemessen wird in Behauptungen.
• N ist die Gesamtzahl der überprüften Tatsachenbehauptungen, ebenfalls gemessen in Behauptungen. Bei N = 0 ist der Anteil nicht definiert.

Dieser Wert ist eine Prüfkennzahl, nicht die Wahrscheinlichkeit, dass eine KI-Antwort falsch ist. Legen Sie vor dem Zählen fest, was als Tatsachenbehauptung gilt. Ein nicht funktionierender Link allein beweist nicht, dass eine Behauptung falsch ist; er bedeutet, dass der angeführte Beleg sie nicht verifiziert hat.

Beispiel

Angenommen, eine KI-Zusammenfassung zu einer hypothetischen US-Aktie enthält fünf überprüfbare Aussagen. Eine lesende Person vergleicht jede Aussage mit dem passenden Unternehmensbericht oder Marktdatensatz und achtet dabei auf denselben Berichtszeitraum und dieselben Stückangaben.

1. Der angegebene Quartalsumsatz von 100 Mio. US$ stimmt mit dem Bericht überein: belegt.
2. Der angegebene Quartalsgewinn von 20 Mio. US$ stimmt mit dem Bericht überein: belegt.
3. Für die Behauptung, der Umsatz sei um 10 % gestiegen, werden die richtigen Vergleichszeiträume herangezogen: belegt.
4. Eine angegebene Dividende von 5 Mio. US$ lässt sich im zitierten Bericht nicht finden: unbelegt.
5. Für die behauptete Handelsaussetzung gibt es keine Bestätigung in der von der Antwort angeführten Mitteilung der Börse: unbelegt.

Hier gilt: U = 2 Behauptungen und N = 5 Behauptungen. Der Anteil unbelegter Behauptungen beträgt somit (2 / 5) × 100 = 40 %. Dieser Prozentsatz beschreibt nur diese kleine Auswahl überprüfter Aussagen. Er schätzt weder, wie oft das System allgemein halluziniert, noch belegt er, dass eines der beiden unbelegten Ereignisse an anderer Stelle stattgefunden hat oder nicht stattgefunden hat.

Bedeutung vor einem Trade

Eine Vorhandelsanalyse hängt sowohl von den Eingabedaten als auch von der Schlussfolgerung ab. Eine erfundene Handelsaussetzung könnte die Einschätzung beeinflussen, ob eine Ausführung möglich ist. Eine falsch zitierte Umsatzkennzahl könnte die Einschätzung der Liquidität verzerren; eine falsche Gewinnaussage könnte das Verständnis des Ereignisrisikos verändern. Eine flüssig formulierte Erklärung macht eine falsche Eingabe nicht richtig.

Prüfen Sie wichtige Aussagen anhand einer für die jeweilige Aussage geeigneten Quelle: veröffentlichte Unternehmensergebnisse anhand von Unternehmensberichten, den Handelsstatus anhand von Börsenmitteilungen und Preise oder Handelsvolumen anhand eindeutig datierter Marktdaten. Kontrollieren Sie Tickersymbol, Währung, Einheiten, Datum und Berichtszeitraum. Lässt sich eine Aussage nicht verifizieren, behandeln Sie sie als unbestätigt und nicht als Handelsfakt.

Verwendung bei PreTrAIde

PreTrAIde führt Vorhandelsanalysen für ein vom Nutzer zusammengestelltes Aktienportfolio durch. Die quantitative Ebene erstellt deterministische, reproduzierbare Schätzungen und Bewertungen. Anschließend analysieren KI-Agenten die einzelnen Aktien und das Portfolio anhand dieser Werte, aktueller Nachrichten und Analystenbewertungen. Die Schutzmechanismen korrigieren KI-Ausgaben, die festgelegten Daten widersprechen: Eine vom Handel ausgesetzte Aktie erhält immer NO-GO, ein GO mit einer Erfolgswahrscheinlichkeit unter 50 % wird herabgestuft, und Wahrscheinlichkeiten werden auf 5 % bis 95 % begrenzt. Die Schutzmechanismen verändern Urteile ausschließlich in eine konservativere Richtung.

Diese Prüfungen betreffen festgelegte Widersprüche; sie belegen nicht, dass jede Aussage, Nachricht oder Quelle der KI korrekt ist. Das Urteil GO, NO-GO oder MODIFY dient der Entscheidungsunterstützung und ist keine Empfehlung. Nutzer führen etwaige Trades selbst über ihren eigenen Broker aus.

Häufige Fehler

• Eine präzise Zahl oder professionell wirkende Quellenangabe als Beleg zu behandeln, ohne die Originalquelle zu öffnen.
• Eine unbelegte Aussage mit einer nachweislich falschen Aussage gleichzusetzen. Beide müssen überprüft werden, sind aber nicht dasselbe.
• Eine Kennzahl zu prüfen, ohne Datum, Währung, Einheit oder Berichtszeitraum zu berücksichtigen.
• Anzunehmen, dass Schutzmechanismen für Urteile jeden Satz einer KI-Erklärung verifizieren.