Volver
ITTI - Caso de éxito
Asistente conversacional con IA generativa para acceso seguro al conocimiento corporativo
Se implementó un asistente conversacional basado en IA generativa para facilitar el acceso seguro al conocimiento interno, mejorando la eficiencia operativa.
Colaboración:
Sobre el Cliente
ITI es una empresa tecnológica que desarrolla soluciones digitales orientadas a mejorar la gestión y acceso a la información dentro de las organizaciones.
A través de sus plataformas, permite centralizar datos y optimizar procesos internos, impulsando la transformación digital de sus clientes.
Necesidades
1
La organización contaba con múltiples fuentes de información, documentación y servicios distribuidos en distintos sistemas.
2
Esto generaba dificultades para acceder rápidamente al conocimiento interno, responder consultas de manera consistente y escalar el uso de inteligencia artificial sin comprometer la seguridad de la información.
3
Además, buscaban implementar capacidades de IA generativa sin necesidad de entrenar modelos con datos propios ni exponer información sensible.
¿Qué se hizo?
Arquitectura de IA generativa en AWS
Se diseñó e implementó una arquitectura de IA generativa sobre AWS que permite desplegar un asistente conversacional seguro, escalable e integrado con los sistemas del cliente.
Implementación de enfoque RAG
La solución utiliza un enfoque de Retrieval Augmented Generation (RAG), permitiendo que el modelo responda únicamente con información proveniente de fuentes verificadas.
Se estandarizó el despliegue mediante infraestructura como código:
Se incorporaron mecanismos de seguridad, filtrado de contenido y aislamiento de datos para garantizar la confidencialidad de la información.
Infraestructura como código e integración
Se estandarizó el despliegue mediante infraestructura como código, integrando múltiples servicios y consultas dentro de un único canal conversacional.
Resultados
Acceso eficiente al conocimiento
La implementación permitió desplegar un asistente conversacional capaz de responder consultas con información confiable y validada, mejorando significativamente el acceso al conocimiento interno.
Mejora en la calidad de respuestas
Se desarrolló una base de conocimiento con mecanismos de control de calidad que permiten medir la precisión de las respuestas, detectar posibles alucinaciones del modelo y validar las fuentes documentales utilizadas.
Operación continua y confiable
El proyecto se desarrolló mediante un squad mixto trabajando con ciclos cortos y revisiones continuas, asegurando que el conocimiento técnico quedara dentro del cliente.
Aceleración de procesos internos
A partir del primer caso implementado se generó una plantilla replicable y un proceso de despliegue automatizado que permite escalar la solución a distintos grupos con adaptaciones mínimas, acelerando el time-to-market de nuevos casos de uso de IA.
Pasamos de costruir modelos en meses a construir modelos en semanas, lo que permitio aumentar nuestro time to market de manera considerable. En toda la parte de procesamiento logramos bajar el 45% de nuestra facturación y luego mejoramos un 10x las infrencias gracias al autoescalado y la observabilidad nativa
Testimonio del cliente:
"Segun mi experiencia de trabajar con nublit su mayor aporte fue acompañarnos en este proceso de industralizacion en la practica de GEN IA. El resultado de todo lo que consturimos es una plataforma viva que nos permite escalar en productos y modelos"
