Aplicación de LLMOps para respaldar el análisis automático de CA

Abstract

Contexto. Muchas aplicaciones que siguen una arquitectura basada en servicios están reguladas por Acuerdos con el Cliente (AC) que definen las condiciones de uso, responsabilidades y limitaciones entre proveedores y clientes. Existen herramientas para el análisis automático de AC que utilizan Modelos de Lenguaje Grandes (MLG) para algunas operaciones de análisis. Sin embargo, estas herramientas no aprovechan el ciclo de Operaciones con Modelos de Lenguaje Grandes (OMLG) ni las mejores prácticas. Objetivo. Centrándose en la necesidad de automatizar el proceso de desarrollo y operacionalización de herramientas de análisis automático de AC, este artículo tiene como objetivo explorar las posibilidades y limitaciones que ofrece OMLG para este propósito. Método. Para cumplir con el objetivo propuesto, definimos una aplicación OMLG ideal para analizadores de AC. Además, se ha diseñado una implementación de referencia que incluye cada fase del ciclo OMLG. Resultados. Después de revisar las herramientas de análisis automático de AC e investigar las fases del ciclo OMLG, se ha llevado a cabo un análisis y discusión de las alternativas para aplicar OMLG a estas herramientas. Conclusiones. De las ocho etapas del ciclo OMLG, se puede concluir que algunas etapas son más relevantes que otras. Lo ideal sería que todo el proceso de LLMOps estuviera automatizado para que se pudiera incorporar un nuevo LLM en el futuro o activar una función avanzada de un LLM que ya esté en uso.