Los sistemas digitales potenciados ya cambiaron muchos aspectos de nuestros procesos, pero, a medida que pasamos de los sistemas programados a los sistemas entrenados, la evolución de la inteligencia conversacional está demostrando capacidades tan notables que sorprenden incluso a los más experimentados.
Más allá de las diversas posturas que adoptan los tecnooptimistas y los tecnopesimistas, lo cierto es que la llegada de la inteligencia artificial generativa está desplazando la potencia computacional de las máquinas desde la dimensión de la información hacia la del conocimiento.
Además de desafiar ciertas certezas que antes se consideraban exclusivamente humanas —como el lenguaje, el diálogo y el razonamiento—, esta tecnología nos enfrenta a dilemas operativos y éticos.
En una relación de causa-efecto, si un programa falla, es un error que se puede corregir; si un humano comete un error, es una oportunidad para aprender. Sin embargo, cuando la inteligencia artificial generativa “alucina”, el fenómeno es tan complejo que requiere una gestión dedicada para comprender sus causas y desarrollar estrategias que mitiguen su impacto.
Estas “alucinaciones” pueden llevar a la generación de información inexacta o engañosa, lo que subraya la necesidad de un control humano y de una validación constante de los resultados obtenidos.
La inteligencia artificial transforma los sistemas digitales potenciados
Este tema fue abordado en una conferencia magistral exclusiva durante el evento de premios Digital360 y CioSumm.it 2024, organizado en Lazise por Digital360 y Aused, bajo el título: “La posible misión del CIO: poner orden en el nuevo caos”.
Andrea Provini, CIO global de Bracco Imaging y director de TI de CDI, además de presidente de AUSED, se reunió con Luca Mari, profesor titular de Ciencias de la Medición en la Universidad Cattaneo-LIUC, tras leer su ensayo titulado “La inteligencia artificial de Dostoievski: reflexiones sobre el futuro, el conocimiento y la responsabilidad humana”.
“Los chatbots, o conversadores automáticos, aprenden rápido y de maneras que todavía son impredecibles”, explicó Mari. “Desde un punto de vista especulativo, la inteligencia artificial generativa nos enfrenta a la incertidumbre. ¿En qué nos van a ayudar y en qué nos van a reemplazar? No debemos olvidar que todo lo que ya no hacemos es algo menos que aprendemos a hacer. Entonces, ¿qué es lo más útil para aprender hoy? Seamos realistas: aún no tenemos una idea clara sobre la inteligencia artificial generativa. Lo que está sucediendo en torno a los chatbots comenzó hace muy poco y sigue cambiando demasiado rápido. Debemos experimentar este cambio de forma consciente y activa, en lugar de sentirnos abrumados o temerosos. Además, el miedo al cambio no es un buen compañero: aumenta los riesgos y nos hace perder oportunidades”.
Los CIO están llamados a actuar en la primera línea para gestionar estos cambios, clarificar las decisiones, implementar innovaciones y dirigir los proyectos. Siempre fueron responsables de supervisar la gestión de la información y la automatización en las empresas, resolviendo problemas y procesos. Pero con la inteligencia artificial generativa, la cuestión se vuelve más delicada. Desde la experimentación hasta la acción, los proyectos se diversificaron en el último año. Sin embargo, incluso con algunos resultados objetivos y mensurables, esta tecnología todavía carece de una gobernanza evolutiva y controlada.
Uno de los problemas principales es que, al igual que sucedió con la nube o las aplicaciones fuera del control de TI, la facilidad que ofrece la inteligencia artificial generativa (GenAI) puede llevar a empleados y colaboradores a usar estas herramientas sin supervisión del departamento de TI. ¿Qué habilidades tienen quienes están alejados de los conceptos tecnológicos pero usan sistemas digitales potenciados para tomar decisiones operativas, tácticas o estratégicas? ¿Cuáles son las consecuencias de esto? La responsabilidad de responder a estas preguntas recae, en primera instancia, en los CIO.
“Los sistemas digitales potenciados por GenAI facilitan la resolución de problemas porque, con unos pocos clics, nos ayudan a acercarnos cada vez más a la solución que buscamos”, señaló Mari. “Esta es, sin duda, una gran oportunidad para nosotros, los seres humanos. Hoy podemos interactuar con una entidad artificial cuyo comportamiento responde a procesos de entrenamiento. Pero, sin caer en chovinismo de especie, la inteligencia artificial tiene una gran diferencia con nosotros en términos de responsabilidad moral y motivación. Los chatbots no están en condiciones de asumir responsabilidades frente a nuestra sociedad. Si actúan correctamente, no sabemos cómo recompensarlos; si se equivocan, no sabemos cómo castigarlos. Literalmente, no son responsables; por eso, aunque los usemos para tomar decisiones e, incluso, deleguemos decisiones en ellos, la responsabilidad sigue siendo nuestra”.
Evolución de los sistemas digitales potenciados
Las empresas deben proyectar una visión que vaya más allá de las capacidades actuales de los chatbots. Estas herramientas, que hoy se limitan a gestionar texto sin interacción directa con el entorno, y se integran con el Internet de las Cosas (IoT), están destinadas a evolucionar hacia un “chatbot 5.0” con capacidad de generar conocimientos estadísticos y también cocreativos, con valor predictivo y prescriptivo.
Esta evolución llevará a la GenAI a operar de manera más activa, recolectando datos no solo de la web, sino también del mundo real. Y lo hará de forma continua y dinámica, siguiendo el modelo de los Gemelos Digitales para crear una tercera dimensión del conocimiento.
“La falta de conexión directa entre los chatbots y el entorno los hace parecer extraterrestres”, sostiene Mari. Actualmente, están solo parcialmente activos, pero pronto se convertirán en los operadores de sistemas tecnológicos potenciados. Adquiriendo información de la web e incluso del mundo empírico a través de sensores, cámaras, micrófonos y drones, podrán ser entrenados para trabajar de forma activa, interviniendo en su entorno, ya sea informativo o empírico.
Aun así, la responsabilidad por su comportamiento seguirá siendo nuestra. El chatbot es un asistente que puede actuar de forma muy sofisticada, pero necesitamos hacerle las preguntas correctas y entender bien las respuestas que nos da. En resumen, aunque el procesamiento esté a cargo de los sistemas digitales potenciados, la creación de entradas y la interpretación y uso de las salidas deben seguir siendo responsabilidad humana”.
La ingeniería rápida como habilidad esencial
Para los CIO, esta nueva transición tecnológica representa un desafío de gestión y responsabilidad. Si bien los chatbots avanzados podrán procesar información de forma autónoma, el verdadero reto es ayudar a las organizaciones a sistematizar adecuadamente la responsabilidad humana.
“En términos de entradas y salidas, es crucial aprender a hacerle a un chatbot las preguntas correctas de la manera adecuada. La ingeniería de preguntas es una habilidad esencial para resolver problemas. Pero, si no sabés cuál es el problema que querés resolver, ¿cómo esperás encontrar una solución? Más aún, si no sabés explicar tu problema al sistema digital avanzado, ¿cómo esperás que el chatbot encuentre la solución? La calidad de las respuestas que nos da un chatbot depende de la calidad de las preguntas que le hacemos. Y además, para confiar en esas respuestas, quienes usan GenAI deben aplicar su inteligencia experiencial, analítica y crítica.
Un aspecto que aún debe gestionarse es que, debido a su comportamiento no determinista (en el sentido de que una misma pregunta puede generar respuestas distintas), los chatbots pueden dar información inexacta, desactualizada o incorrecta. A diferencia de los sistemas de software tradicionales, los chatbots son mucho más flexibles y creativos, pero también menos inmunes a los errores”.
Una visión estratégica sobre los límites de los sistemas digitales potenciados
En el contexto de la implementación de chatbots y tecnologías de inteligencia artificial en las empresas, los CIO juegan un papel clave para garantizar que estas innovaciones se integren de manera segura y efectiva en los procesos de la organización.
Al mismo tiempo, deben trabajar en la gestión del cambio para brindar una formación adecuada a las personas. Aunque los chatbots pueden simular inteligencia humana y actuar como asesores virtuales, el punto crítico es que siguen siendo herramientas sin autonomía ni responsabilidad real.
Por lo tanto, los CIO deben desarrollar estrategias que no solo incorporen estas tecnologías, sino que lo hagan entendiendo claramente sus capacidades y limitaciones. Además de asegurarse de que las decisiones que se tomen con la ayuda de los chatbots estén basadas en datos precisos e interpretaciones adecuadas, deben prever métodos de supervisión humana en todos los proyectos relacionados con el uso de sistemas digitales potenciados. Esto requiere que los CIO fomenten una cultura organizacional que valore la ingeniería rápida y promueva un uso consciente de las tecnologías de inteligencia artificial.
“También creo que el tema de las indicaciones es polémico. Por un lado, es cierto que debemos aprender a interactuar con estas entidades que parecen ajenas. Por otro lado, estos avances son tan rápidos que algunas técnicas de ingeniería rápida que hace un año eran básicas hoy están desactualizadas”, concluye Mari.
Los chatbots actuales son entidades nuevas y esta innovación dificulta la identificación de riesgos y oportunidades. Aunque están entrenados con contenidos y lenguajes que forman parte de nuestra sociedad, los sistemas digitales potenciados generan razonamientos que no son iguales a los nuestros, porque estos sistemas no piensan, no entienden ni experimentan el mundo como nosotros. Sin embargo, sus conversaciones pueden alcanzar una calidad y profundidad sorprendentes, lo cual podría marcar una tercera revolución cultural (después de la cosmológica copernicana y la biológica darwiniana) que cuestionaría nuestra primacía cognitiva.
¿Cómo cambiarán los procesos de aprendizaje? ¿Qué nuevas habilidades se requerirán en el ámbito laboral? ¿Cómo se redefinirán los roles dentro de las organizaciones? ¿Cómo cambiarán sus estructuras? Podemos hacer suposiciones, pero debemos admitir que es temprano para formular previsiones confiables. Sin embargo, no es temprano para analizar y debatir los límites de los sistemas digitales potenciados. Creo que serán cada vez más autónomos, porque el mercado lo desea y porque en algunos casos es razonable que así sea, pero nunca podrán hacerse responsables de sus decisiones”.
El académico destaca tres aspectos que son plausiblemente estructurales y no solo contingentes, y que son importantes por sus consecuencias cognitivas y éticas. Los chatbots actuales, en cuanto a su comportamiento, son:
- Poco confiables en la información fáctica que reportan.
- Capaces de indicar sus fuentes de manera a menudo aproximada o, en raras ocasiones, de dar cuenta de cómo llegan los resultados que proponen.
- Entidades socialmente ajenas, por lo que no sabemos cómo atribuirles la responsabilidad por lo que producen.
Mari desea aclarar cómo los sistemas GenAI se están volviendo y pueden llegar a ser cada vez más confiables y explicables en cuanto a su comportamiento, pero seguirán siendo irresponsables.
Un aumento sostenible en el cableado
En el contexto de la implementación de proyectos de GenAI en sistemas digitales potenciados, los CIO deben evaluar cuidadosamente diversos aspectos para asegurar que se utilicen de manera funcional y efectiva en sus organizaciones. Esto incluye la validación rigurosa de los datos y las respuestas proporcionadas por estas entidades artificiales.
Por ejemplo, si se utilizan herramientas en lógica funcional para integrar habilidades numéricas y analíticas que los chatbots no poseen por sí mismos, o considerando que la memoria de un chatbot para el contenido de una conversación es relativamente limitada, es útil emplear técnicas distintas a la ingeniería rápida.
Al mismo tiempo, deben supervisarse cuestiones éticas como la privacidad y la propiedad de los datos, especialmente cuando se trata de información confidencial.
Gracias a una integración estratégica y responsable de esta nueva forma de inteligencia colaborativa, los CIO pueden aprovechar al máximo la nueva era de datos sintéticos, mejorar el apoyo a los usuarios y guiar a sus organizaciones hacia un futuro más innovador e informado.
Fuente: Zerounoweb.it, Network Digital360
