Citare o rifiutare: come le risposte IA di Rexfin non indovinano mai

Chiedi a un assistente IA generico una domanda numerica su un’azienda e risponderà. È così che è progettato. È addestrato per essere utile, e una non-risposta fluente sembra un fallimento al modello, quindi riempie il vuoto con qualcosa di plausibile. In finanza, un numero plausibile ma non reale è peggio di nessuna risposta, perché sembra esattamente corretto finché qualcuno non lo confronta con il bilancio e scopre che non corrisponde.

Il motore di risposta di Rexfin è costruito attorno a una regola che suona semplice ma è deliberatamente difficile da aggirare: ogni affermazione numerica in una risposta deve risolversi in una citazione, oppure il motore rifiuta di rispondere a quella parte della domanda. Non “la segnala come incerta.” Rifiuta.

Due compiti, separati di proposito

Il motore separa la ricerca delle prove dalla scrittura della risposta. Un primo passaggio, un investigatore, esegue una ricerca multi-fase sul grafo dei fatti estratti e delle loro relazioni, cercando i dati specifici richiesti dalla domanda. Solo dopo aver raccolto queste prove, un secondo passaggio, lo scrittore, redige la risposta, ed è vincolato a scrivere solo a partire dal blocco di prove che gli è stato consegnato. Non può andare oltre quel blocco per attingere a ciò che “ricorda” dell’azienda dai suoi dati di addestramento. Se le prove non contengono il numero, lo scrittore non ha accesso a una versione del numero proveniente da qualsiasi altra fonte.

Questo vincolo da solo non è l’intera salvaguardia, perché un modello può comunque riportare in modo scorretto ciò che dicono le sue stesse prove. Per questo esiste un controllo separato e deterministico a valle: un filtro di veridicità delle citazioni che esamina ogni numero nella bozza di risposta e verifica che sia effettivamente supportato dalla prova citata, non solo plausibile accanto ad essa. Un numero senza una citazione reale a sostegno non viene ammorbidito con una nota cautelativa: la risposta viene rifiutata, oppure la parte non supportata viene eliminata e la risposta lo dichiara apertamente. Un passaggio di verifica opera sopra tutto questo e restituisce un’etichetta di confidenza, alta, media o bassa, così chi legge non si limita a sapere che una risposta è stata controllata, ma anche quanto rigorosamente.

Rifiutare in modo utile, non solo rifiutare

Un secco “non posso rispondere” è quasi tanto inutile quanto un numero sbagliato. Quindi quando Rexfin non può rispondere a una domanda così com’è posta, perché è ambigua, riguarda più di un bilancio o chiede qualcosa che i documenti sottostanti non contengono, dice cosa può rispondere al suo posto, invece di lasciare un vicolo cieco. Se una domanda è ambigua su quale azienda o bilancio intende, il motore chiede l’ambito mancante invece di indovinare quale probabilmente intendesse l’utente.

La disciplina sull’ambito va oltre. Un numero che appartiene a un segmento di reporting non viene citato silenziosamente come se fosse la cifra dell’intera azienda, e una domanda circoscritta a un esercizio fiscale non viene risposta con un numero preso dal bilancio di un anno diverso solo perché è quello più recente disponibile. Sembrano distinzioni minori, ma sono esattamente il tipo di confusione che trasforma una risposta dal tono sicuro in una sbagliata, difficile da individuare a una lettura veloce.

Da dove viene davvero l’evidenza

Nulla di questa disciplina di rifiuto avrebbe molto senso se il pool di prove da cui attinge fosse instabile. Le citazioni a cui è vincolato lo scrittore provengono da cifre che hanno già superato la riconciliazione con i totali stampati nel bilancio e si collocano al gradino appropriato della catena di fiducia: una cifra depositata e verificata viene trattata diversamente da una stima interna, e il motore di risposta rispetta questa distinzione invece di appiattirla. È anche per questo che le citazioni dietro una risposta si collegano direttamente al cassetto di provenienza, così chi legge può passare dalla frase al documento fonte con un clic invece di dover credere sulla parola.

Per chi è pensato

Questo conta di più per chiunque debba difendere un numero di origine IA davanti a qualcun altro: un CFO che informa un board, un analista che risponde alla domanda di un finanziatore, un controller che gestisce un follow-up di un revisore. Se il costo di una risposta sbagliata è la tua stessa credibilità, “sicuro ma non fondato” è la modalità di fallimento che non puoi permetterti, e citare-o-rifiutare è il design che la elimina. Esplora il resto del tour del prodotto Rexfin per scoprire come viene costruito lo strato di evidenza sottostante.