Las barreras de la IA son sistemas diseñados para asegurar que las herramientas de inteligencia artificial de una organización, especialmente los modelos lingüísticos grandes (LLM), funcionen conforme a los estándares, políticas y valores empresariales. Con la adopción cada vez más extendida de la IA generativa, estas barreras juegan un rol clave en el uso responsable de estas tecnologías. Su principal función es identificar y eliminar el contenido inexacto generado por los LLM, además de monitorear y filtrar las indicaciones que puedan representar un riesgo.
Este contenido problemático puede incluir vulnerabilidades de seguridad, alucinaciones, contenido tóxico o inapropiado e información incorrecta. Ahora bien, así como las barreras en las rutas no eliminan por completo el riesgo de accidentes, tampoco las barreras de la IA garantizan que los sistemas de inteligencia artificial sean totalmente seguros, justos, conformes y éticos.
Para obtener los mejores resultados, las empresas deberían implementar las barreras de la IA junto con otros controles procedimentales, como marcos confiables, software de monitoreo y cumplimiento, prácticas de prueba y evaluación, y un conjunto tecnológico adaptado para las operaciones de IA. Todo esto contribuye a ampliar la gobernanza de la IA en toda la organización.
La importancia de las barreras de la IA radica en su capacidad para crear un entorno propicio para la innovación y la transformación basada en la IA generativa, y asegurar al mismo tiempo que la tecnología pueda usarse de manera segura y responsable.
Principales tipos de barreras de la IA
Las barreras de la IA se dividen en distintas categorías, cada una diseñada para abordar riesgos específicos:
- Barreras de adecuación: verifican que el contenido generado por la IA no sea tóxico, dañino, sesgado ni basado en estereotipos. Además, filtran cualquier contenido inapropiado antes de que llegue al cliente.
- Barreras antialucinaciones: aseguran que el contenido generado por la IA no contenga información fácticamente errónea o engañosa.
- Barreras de cumplimiento normativo: validan que el contenido generado cumpla con los requisitos reglamentarios, ya sean generales o específicos del sector o caso de uso.
- Barreras de alineación: garantizan que el contenido generado esté en sintonía con las expectativas de los usuarios y no se desvíe de su propósito principal. Por ejemplo, estas barreras ayudan a mantener la coherencia de una marca.
- Barreras de validación: verifican que el contenido generado cumpla con criterios específicos, como la inclusión o exclusión de cierta información. Si el contenido no pasa esta validación, puede ser enviado a un ciclo de corrección para resolver el problema. La validación debe ser el último paso de una serie de actividades realizadas mediante estas barreras, y los casos más complejos o ambiguos deben ser examinados por un validador humano.
Para facilitar la implementación de estas barreras, se desarrollaron diversas herramientas. Por ejemplo, Hugging Face lanzó el Chatbot Guardrails Arena para probar los LLM y las barreras de privacidad, mientras que Nvidia creó NeMo Guardrails, un conjunto de herramientas de código abierto que permite añadir barreras programables a las aplicaciones basadas en LLM.
También existen herramientas propietarias, como OpenAI Moderation, que analiza el texto generado por los modelos de IA para detectar y filtrar contenido malicioso, inapropiado o inseguro según categorías predefinidas.
Microsoft, por su parte, desarrolló una barrera similar para monitorear el contenido generado por los chatbots integrados en Azure, su conjunto de servicios de inteligencia artificial.
Cómo funcionan las barreras de la IA
Las barreras de la inteligencia artificial (IA) se construyen mediante diversas técnicas, que van desde sistemas basados en reglas hasta modelos avanzados como los LLM (Large Language Models). La mayoría de estas barreras son completamente deterministas, lo que significa que siempre generan la misma salida para una misma entrada, sin margen para la aleatoriedad o la variabilidad. En términos generales, estas barreras supervisan el desempeño de los sistemas de IA al realizar tareas como la clasificación, la validación semántica, la detección de filtraciones de información sensible y la identificación de contenido malicioso.
Para cumplir estas funciones, las barreras de la IA se estructuran en cuatro componentes clave que trabajan de manera interconectada:
- Checker: escanea el contenido generado por la IA para detectar errores y señalar problemas, como lenguaje ofensivo o respuestas que no tienen sentido. Es la primera línea de defensa.
- Corrector: cuando el checker identifica un problema, este componente se encarga de afinar, corregir o mejorar los resultados de la IA. Esto incluye ajustar imprecisiones, eliminar contenido inapropiado y garantizar que la respuesta sea precisa y acorde al mensaje esperado.
- Rail: gestiona la interacción entre el checker y el corrector. Verifica el contenido y, si no cumple los estándares, activa al corrector para realizar los cambios necesarios. Este proceso se repite hasta que el contenido pasa todas las verificaciones o llega al límite de correcciones predefinido.
- Guardia: coordina a los otros tres componentes, al activar al checker y al corrector según sea necesario, supervisar los rails, consolidar los resultados y entregar las respuestas finales.
Al diseñar estas barreras, las organizaciones deben asegurarse de que sean compatibles con sus tecnologías existentes y adaptables a las necesidades específicas de cada caso de uso.
En los últimos tiempos, los agentes de IA también emergen como herramientas que actúan como barreras, ya que son capaces de monitorizar, ajustar y corregir de forma autónoma los resultados generados por la IA.
Ventajas de las barreras de la IA para las organizaciones
Ventajas de las barreras de la IA para las organizaciones
Las barreras de la IA no solo sirven para cumplir con requisitos éticos o regulatorios, sino que también representan una ventaja competitiva para las organizaciones. Por un lado, ayudan a las empresas a generar confianza con sus clientes y a evitar problemas legales costosos. Por otro, permiten usar la IA de forma responsable, lo que resulta atractivo para captar y retener a los mejores talentos.
Para maximizar el valor que generan estas herramientas, las organizaciones pueden integrar sus barreras de IA en plataformas empresariales más amplias. Un ejemplo es Iguazio, de McKinsey, que ofrece barreras diseñadas para entornos de producción. Estas barreras garantizan la gobernanza de la IA a gran escala y reducen riesgos relacionados con la privacidad de los datos, los sesgos, las alucinaciones de los modelos y las violaciones de propiedad intelectual.
El caso de ING
La empresa de servicios financieros ING es un ejemplo concreto de cómo las barreras de la IA pueden generar valor. ING desarrolló un chatbot de IA equipado con barreras para garantizar interacciones seguras y precisas con sus clientes. Estas barreras filtran información confidencial y evitan que se brinden consejos potencialmente riesgosos, además de garantizar el cumplimiento normativo.
Dado que este chatbot es una herramienta de asistencia al cliente, fue fundamental incorporarle barreras desde el principio. Esto permitió garantizar resultados seguros y, al mismo tiempo, cumplir con las regulaciones aplicables. Gracias a este enfoque, ING logró aprovechar las ventajas de la IA generativa en el servicio al cliente sin comprometer la seguridad ni la conformidad.
Implementación de barreras de la IA a escala
Para implementar de forma efectiva las barreras de la inteligencia artificial (IA) a gran escala, las organizaciones tienen algunos pasos iniciales clave que pueden seguir. Primero, es fundamental diseñar las barreras con equipos multidisciplinarios y trabajar en conjunto con todas las partes interesadas. Esto incluye a los equipos legales, para que las barreras se construyan en función de los riesgos reales y los efectos concretos que la IA podría generar.
En segundo lugar, hay que definir métricas claras para medir la calidad del contenido. Estas métricas tienen que estar alineadas con los resultados deseados y basadas en objetivos empresariales, normas y reglamentos específicos. Algunos factores importantes a tener en cuenta son la agresividad, los prejuicios y la coherencia con las directrices de la marca. Lo ideal es adoptar un enfoque modular, al crear componentes de barrera que se puedan reconfigurar según distintos casos de uso de la IA generativa, y que además sean fáciles de integrar y escalar dentro de los sistemas actuales de la empresa.
Al tener en cuenta que los sistemas de IA generativa tienen una naturaleza probabilística (es decir, que adaptan dinámicamente sus resultados según los insumos de los usuarios), es importante adoptar una estrategia dinámica. Las organizaciones deberían implementar barreras basadas en reglas con parámetros de referencia que puedan cambiar según distintas variables.
También es crucial apoyarse en los marcos regulatorios existentes. Usar las normativas legales y de cumplimiento actuales, junto con las mejores prácticas de la industria, ayuda a establecer los “objetivos” que las barreras deben alcanzar. Estas métricas también sirven para evaluar el rendimiento de los modelos.
Por último, hay que formar nuevos profesionales con habilidades específicas para este campo. Esto implica desarrollar roles dedicados a garantizar la transparencia, la gobernanza y la equidad de la IA. Incorporar procesos de documentación, responsabilidad y cumplimiento en la manera de trabajar con herramientas basadas en IA será clave para el éxito.
El futuro de las barreras de la IA: nuevos estándares y desafíos
El desarrollo acelerado de la inteligencia artificial hace más complejo el cumplimiento normativo para las empresas de todos los sectores que trabajan con esta tecnología. Las barreras de la IA pueden ser una herramienta valiosa para que las organizaciones anticipen riesgos y creen un espacio más seguro donde la innovación y la transformación puedan prosperar.
Por ejemplo, en el desarrollo de productos, donde las pruebas de seguridad activas son un paso crítico, las barreras de la IA pueden marcar la diferencia. Los procesos de desarrollo, que generalmente lideran los ingenieros o responsables de producto, deberían incorporar las perspectivas de especialistas en ética, líderes en cumplimiento y expertos en riesgos y operaciones. Aunque a primera vista estos pasos puedan parecer un freno para las actividades de una empresa, en realidad están diseñados para gestionar mejor las crisis relacionadas con la IA y, en el mejor de los casos, prevenirlas por completo.
Conclusiones
Con vistas al futuro, no solo podemos esperar nuevos tipos de sistemas de IA, sino también estándares más estrictos para su desarrollo y funcionamiento. Entre los desafíos que se vienen, será crucial encontrar el equilibrio entre innovación, seguridad y ética. También habrá que adaptarse a un panorama regulatorio en constante cambio y gestionar las expectativas del público sobre el uso responsable de la IA.
Para las organizaciones, será clave mantenerse ágiles y proactivas al implementar y actualizar sus barreras de IA. La idea es anticiparse a nuevas formas de riesgos y vulnerabilidades, a medida que la tecnología siga su evolución. Además, la colaboración entre la industria, el gobierno y el mundo académico será imprescindible para establecer mejores prácticas y estándares globales compartidos. Solo así se podrá garantizar un enfoque coherente y responsable en la implementación de la IA, sin importar el sector o la región.
