Alucinación de IA en finanzas

Qué significa

Un sistema de IA puede generar una respuesta convincente que incluya una cifra de resultados sin respaldo, una noticia inventada o una cita inexistente. En finanzas, estos errores importan porque una afirmación aparentemente concreta puede cambiar la forma en que alguien evalúa una acción o una orden.

Una alucinación se refiere al respaldo de una afirmación, no a que su conclusión parezca plausible. También es poco fiable una cifra real citada para un periodo de presentación de resultados equivocado, aunque la cifra exista. La falta de datos o el uso de datos desactualizados requieren una advertencia aparte: un sistema de IA no debe cubrir ese vacío con una conjetura expresada con seguridad.

Cómo se calcula

No existe una fórmula financiera estándar ni una puntuación universal para las alucinaciones de IA. En su lugar, una comprobación manual práctica puede medir la proporción de afirmaciones fácticas de una respuesta que siguen sin respaldo después de verificarlas:

Tasa de afirmaciones sin respaldo (%) = (U / N) × 100

• U es el número de afirmaciones fácticas verificadas para las que no se encuentra la prueba citada o esta no respalda la afirmación, medido en afirmaciones.
• N es el número total de afirmaciones fácticas verificadas, también medido en afirmaciones. La tasa no está definida cuando N = 0.

Esta es una métrica de verificación, no la probabilidad de que una respuesta de IA sea falsa. Antes de contar, define qué se considera una afirmación fáctica. Que un enlace no funcione no demuestra por sí solo que una afirmación sea falsa; significa que no se ha podido verificar con la prueba citada.

Ejemplo práctico

Supongamos que un resumen generado por IA de una acción hipotética estadounidense contiene cinco afirmaciones verificables. Un lector compara cada una con la documentación pertinente de la empresa o con los datos de mercado, utilizando el mismo periodo de presentación y las mismas unidades para las acciones.

1. La cifra de ingresos trimestrales de 100 millones de dólares estadounidenses coincide con la documentación presentada: respaldada.
2. La cifra de beneficios trimestrales de 20 millones de dólares estadounidenses coincide con la documentación presentada: respaldada.
3. La afirmación de que los ingresos aumentaron un 10 % utiliza los periodos de comparación correctos: respaldada.
4. No se encuentra en la documentación citada el dividendo de 5 millones de dólares estadounidenses mencionado: sin respaldo.
5. El aviso bursátil citado en la respuesta no respalda la supuesta suspensión de la cotización: sin respaldo.

En este caso, U = 2 afirmaciones y N = 5 afirmaciones, por lo que la tasa de afirmaciones sin respaldo es (2 / 5) × 100 = 40 %. Ese porcentaje solo describe este pequeño conjunto de afirmaciones verificadas. No estima la frecuencia general de las alucinaciones del sistema ni demuestra que ninguno de los dos hechos sin respaldo haya ocurrido o no en otro lugar.

Por qué importa antes de operar

El análisis preoperación depende tanto de los datos de entrada como del razonamiento. Una suspensión de cotización inventada podría distorsionar la evaluación de si es posible ejecutar una operación. Una cifra de volumen mal citada podría alterar la evaluación de la liquidez; una afirmación falsa sobre los resultados podría cambiar la forma de entender el riesgo asociado a un evento. Una explicación fluida no corrige un dato de entrada incorrecto.

Comprueba las afirmaciones importantes en una fuente adecuada: la documentación presentada por la empresa para los resultados publicados, los avisos del mercado para el estado de cotización y datos de mercado con fecha clara para precios o volumen. Verifica el ticker, la divisa, las unidades, la fecha y el periodo de presentación. Si no puedes verificar una afirmación, considérala no confirmada en lugar de convertirla en un hecho sobre el que operar.

Cómo lo utiliza PreTrAIde

PreTrAIde realiza análisis preoperación sobre una cesta de acciones creada por el usuario. Su capa cuantitativa genera estimaciones y puntuaciones deterministas y reproducibles; después, agentes de IA analizan cada acción y la cesta a partir de esas puntuaciones, noticias recientes y calificaciones de analistas. Sus salvaguardas corrigen resultados de IA que contradicen datos especificados: una acción suspendida siempre recibe un NO-GO, un GO con una probabilidad de éxito inferior al 50 % se rebaja y las probabilidades se limitan al intervalo del 5 % al 95 %. Las salvaguardas solo desplazan los veredictos en sentido conservador.

Estas comprobaciones abordan contradicciones específicas, pero no demuestran que todas las afirmaciones de la IA, noticias o fuentes sean exactas. El veredicto GO, NO-GO o MODIFY es una ayuda para la toma de decisiones, no una recomendación. Los usuarios cursan sus propias operaciones a través de su bróker.

Errores frecuentes

• Tomar una cifra precisa o una cita bien redactada como prueba sin abrir la fuente original.
• Confundir una afirmación sin respaldo con una afirmación cuya falsedad está demostrada: ambas requieren verificación, pero no son lo mismo.
• Comprobar una cifra sin verificar su fecha, divisa, unidad o periodo de presentación.
• Suponer que una salvaguarda aplicada a los veredictos verifica todas las frases de una explicación generada por IA.