Allucinazione dell’IA in finanza

Cosa significa

Un sistema di IA può fornire una risposta convincente che include un dato sugli utili non supportato, una notizia inventata o una citazione inesistente. In finanza, questi errori sono rilevanti perché un’affermazione apparentemente precisa può influenzare il modo in cui si valuta un’azione o un ordine.

Un’allucinazione riguarda il fondamento di un’affermazione, non la plausibilità della sua conclusione. Anche un dato reale citato con il periodo di riferimento sbagliato è inaffidabile. I dati mancanti o non aggiornati richiedono un avviso distinto: un sistema di IA non dovrebbe colmare una lacuna con un’ipotesi presentata con sicurezza.

Come si calcola

Non esiste una formula finanziaria standard né un punteggio universale per misurare le allucinazioni dell’IA. In alternativa, una verifica manuale pratica può misurare la quota di affermazioni fattuali contenute in una risposta che, dopo averle controllate, restano prive di riscontro:

Percentuale di affermazioni non supportate (%) = (U / N) × 100

• U è il numero di affermazioni fattuali verificate per le quali non si trova la prova citata o questa non supporta l’affermazione; si misura in affermazioni.
• N è il numero totale di affermazioni fattuali verificate, anch’esso misurato in affermazioni. La percentuale non è definita se N = 0.

Questa è una metrica di verifica, non la probabilità che una risposta dell’IA sia falsa. Prima del conteggio, definisci cosa consideri un’affermazione fattuale. Un link non funzionante, da solo, non dimostra che un’affermazione sia falsa: significa che la prova citata non l’ha verificata.

Esempio svolto

Supponiamo che un riepilogo generato dall’IA su un’ipotetica azione statunitense contenga cinque affermazioni verificabili. Un lettore le confronta con il documento societario o il dato di mercato pertinente, usando lo stesso periodo di riferimento e le stesse unità di misura delle azioni.

1. Il fatturato trimestrale dichiarato, pari a 100 milioni di USD, corrisponde al documento: supportato.
2. Gli utili trimestrali dichiarati, pari a 20 milioni di USD, corrispondono al documento: supportato.
3. L’affermazione secondo cui il fatturato è aumentato del 10% usa i periodi di confronto corretti: supportata.
4. Non si trova nel documento citato un dividendo dichiarato di 5 milioni di USD: non supportato.
5. L’avviso della borsa citato nella risposta non conferma la presunta sospensione delle contrattazioni: non supportato.

In questo caso, U = 2 affermazioni e N = 5, quindi la percentuale di affermazioni non supportate è (2 / 5) × 100 = 40%. Questa percentuale descrive solo il piccolo insieme di affermazioni verificate. Non stima la frequenza generale delle allucinazioni del sistema e non dimostra che i due eventi privi di riscontro siano o non siano avvenuti altrove.

Perché è importante prima di fare trading

L’analisi pre-trade dipende tanto dai dati in ingresso quanto dal ragionamento. Una sospensione delle contrattazioni inventata potrebbe falsare la valutazione della possibilità di eseguire un ordine. Un dato sui volumi riportato in modo errato potrebbe alterare la valutazione della liquidità; un’affermazione falsa sugli utili potrebbe cambiare la percezione del rischio legato a un evento. Una spiegazione scorrevole non corregge un dato errato.

Verifica le affermazioni rilevanti consultando una fonte adeguata: i documenti societari per i risultati pubblicati, gli avvisi della borsa per lo stato delle contrattazioni e dati di mercato con data chiaramente indicata per prezzi o volumi. Controlla il ticker, la valuta, le unità di misura, la data e il periodo di riferimento. Se un’affermazione non può essere verificata, considerala non confermata, anziché trattarla come un fatto su cui basare un’operazione.

Come lo usa PreTrAIde

PreTrAIde svolge analisi pre-trade su un paniere di azioni creato dall’utente. Il suo livello quantitativo genera stime e punteggi deterministici e riproducibili; gli agenti di IA ragionano poi su ciascuna azione e sul paniere, utilizzando quei punteggi, le notizie recenti e i giudizi degli analisti. Le salvaguardie correggono gli output dell’IA che contraddicono i dati specificati: un’azione sospesa riceve sempre un verdetto NO-GO; un verdetto GO con probabilità di successo inferiore al 50% viene declassato; le probabilità sono limitate all’intervallo 5%–95%. Le salvaguardie possono spostare i verdetti solo in senso prudenziale.

Questi controlli riguardano specifiche contraddizioni, ma non dimostrano che ogni affermazione, notizia o fonte citata dall’IA sia accurata. I verdetti GO, NO-GO o MODIFY sono un supporto alle decisioni, non una raccomandazione. Gli utenti eseguono eventuali operazioni autonomamente tramite il proprio intermediario.

Errori comuni

• Considerare un numero preciso o una citazione ben presentata come una prova senza consultare la fonte originale.
• Confondere un’affermazione non supportata con un’affermazione dimostrata falsa: entrambe richiedono una verifica, ma non sono la stessa cosa.
• Controllare un dato senza verificarne la data, la valuta, l’unità di misura o il periodo di riferimento.
• Presumere che una salvaguardia applicata ai verdetti verifichi ogni frase di una spiegazione generata dall’IA.