Desarrollo De Una Aplicación Chatbot Con El Uso De Llm Y Rag Para Una Tienda De Abastos

Abstract

Contexto: La gestión eficiente de la información en pequeñas tiendas de comestibles supone un reto considerable, especialmente en entornos donde los recursos son limitados. Propusimos desarrollar una aplicación conversacional que pudiera responder preguntas sobre productos, precios e inventario. Objetivo: Analizar el impacto operativo de un chatbot desarrollado para una tienda de comestibles y medir la calidad de las respuestas a las preguntas enviadas en lenguaje natural a la aplicación creada con modelos de lenguaje grande (LLM) y generación aumentada por recuperación (RAG) que obtiene información de una base de datos relacional. Método: Se creó una aplicación de chatbot utilizando una arquitectura de cinco componentes : interfaz web, API FastAPI, modelo LLM (Mistral-7B-Instruct-v0.2 con Ollama), generador SQL dinámico y aplicación RAG, todo ello integrado a través de SQLAlchemy 2.0.40 como ORM principal para la base de datos SQLite, con LangChain-HuggingFace 0.1.2 solo como sistema de respaldo para incrustaciones. Se conectó una base de datos SQLite (con soporte opcional para SQL Server) a la aplicación RAG para que el modelo pudiera proporcionar respuestas a consultas en lenguaje natural sobre los datos almacenados.