Los robots de inteligencia artificial (IA) generativa cometen errores que muchas veces van más allá de simplemente proporcionar información falsa o sin ser de fuente confiable. Es decir, tienen una tendencia a “alucinar”, como lo llaman los especialistas. Lo cierto es que las alucinaciones de la IA es un fenómeno muy común.
Causas de las alucinaciones de la IA
Los modelos de IA no siempre garantizan veracidad de la información que proporcionan. Esto son las llamadas alucinaciones de la IA, o sea respuestas erróneas, imprecisas o incluso completamente inventadas. Se deben a que los modelos son entrenados con grandes (muy grandes) volúmenes de información. De allí aprenden patrones y asociaciones con esa información que puede aun ser insuficiente, obsoleta o inconsistente. Dado que no tienen ‘comprensión’, realmente no saben lo que están diciendo.
Impacto de las alucinaciones de la IA en el sector empresarial
Ante preguntas ambiguas o sin contexto suficiente, la capacidad de interpolación y extrapolación de la AI para responder entra en juego y hará generalizaciones o suposiciones incorrectas. Esto puede no ser una preocupación para quienes usan las herramientas como mera diversión. Sin embargo, puede generar grandes problemas para las empresas, donde las decisiones precisas son cruciales. Así, una herramienta creada para ayudar y facilitar de diversas maneras se convierte en un modelo perjudicial.
¿Se pueden reducir las alucinaciones de la IA?
Según los análisis de la startup Vectara, la tasa de alucinación de los chatbots oscila entre un 3% hasta un 27%. Asimismo, Velan reflexiona sobre si existe una “cura” y señala que hay algoritmos que evitan este tipo de errores al no estar conectados a Internet, ya que son entrenados dentro de fuentes de información cerradas, por lo cual son capacitados solo con datos del banco o fintech en cuestión.
¿Es posible un producto a gran escala sin alucinaciones?
La IA Generativa llegó para quedarse en la vida diaria de las personas y las compañías, tanto que en el mundo fintech ya fue valorada en 1,12 billones de dólares en 2023. Además, el rápido crecimiento de sus tasas sugiere que llegará a los 4,37 billones de dólares para 2027, según un reporte de Market.us. Es por esto por lo que el sector financiero se plantea cómo se puede sortear las alucinaciones de la IA en los productos.
El Futuro de las alucinaciones de la IA
En N5, creamos ‘Fin Skys’ (Financial Self-Contained Artificial Intelligence), las primeras generaciones de IAs hiper verticales para el sector financiero, que responden de manera correcta aproximadamente el 99% de las veces. Para conseguir esto implementamos un modelo distribuido con múltiples IA alimentadas con datos de cada institución trabajando en conjunto, validando input, proceso y output de cada consulta que realice el usuario el cual garantiza que nuestra IA responde con información precisa, y propia, totalmente aislada de información de terceros.
Así, las soluciones conocidas como AIfred, Pep y Singular, pueden sortear esta dificultad que preocupaba al sector financiero, al tiempo que con sus capacidades diferenciadas pueden garantizar que todas las funcionalidades sean atendidas plenamente, desde responder dudas y consultas hasta vender productos, cobrar deudas, asesorar sobre inversiones o planificación fiscal de forma proactiva. Esto es posible porque priorizaron una base sólida, segura y confiable para que la IA demuestre todo lo que tiene para ofrecerle al sector financiero
¿Una solución definitiva?
Al poder integrarse en cualquier sistema core, CRM y/o BPM de la institución, estos algoritmos poseen independencia de datos para máxima seguridad, lo que reduce notablemente la cantidad de alucinaciones. Enfocadas en asistir a la industria financiera, las Fin Skys buscan solucionar los desafíos únicos de esta industria.
Como toda herramienta en plena evolución y crecimiento, la IA también tendrá que enfrentarse a diferentes barreras y malestares propios. Afortunadamente, los expertos tecnológicos están atentos a sus cambios y listos para dar respuesta a cualquier obstáculo que aparezca en el camino.
