09.00h a 10.00h IA GENERATIVA: LLMs VS SLMs

Gran parte de las aplicaciones de IA generativa se basan en modelos de lenguaje de gran tamaño (LLM), como por ejemplo, las diferentes versiones del GPT de Open-AI. Entrenar modelos de esta naturaleza requiere inversiones millonarias que están al alcance de un reducido número de empresas o instituciones.

Los modelos de lenguaje reducidos, o Small Language Models (SLMs), requieren menos potencia computacional tanto para su entrenamiento como en su operativa y despliegue y, a pesar de presentar algunas limitaciones en la complejidad de las tareas que pueden realizar, en algunos casos de uso los SLMs se convierten en una alternativa a los LLMs.

En esta sesión veremos ejemplos reales o casos de uso de aplicaciones que ilustran la utilización de LLMs o SLMs y se analizan aspectos como la eficiencia, rendimiento, despliegue o capacidades de razonamiento a la hora de elegir una opción o la otra.

Participan:

Macr Ribalta, Investigador/Researcher Applied Artificial Intelligence (AAI) en Eurecat

Representante de IDEAI -UPC

www.telefonica.com

Es investigador en la unidad de Inteligencia Artificial Aplicada (AAI) de Eurecat. Es Ingeniero Informático por la Universitat de Lleida (UdL) y ha estudiado el Máster en Ingeniería Informática, especialidad en Big Data e Inteligencia Artificial, también por la Universitat de Lleida. Ha trabajado como científico de datos en grandes y variados proyectos tecnológicos con diferentes soluciones de inteligencia artificial, con 6 años de experiencia aplicando soluciones en la detección de anomalías y mantenimiento predictivo en el ámbito del agua.
Actualmente, está involucrado en proyectos de Machine Learning relacionados con Detección de Anomalías, Mantenimiento Predictivo y Gemelos Digitales dentro de todo el ciclo del agua.

Presentamos fRAGments, una arquitectura modular de recuperación-generación aumentada (RAG) que aprovecha los SLM para adaptar de manera flexible las bases de datos de texto locales en asistentes de texto implementados localmente. Esta arquitectura pretende superar dos grandes retos: permite la configuración automática de estos sistemas independientemente de los archivos locales almacenados y mitiga los inconvenientes asociados a los sistemas basados en la nube.

www.ideai.upc.edu | @KarinagibertK

www.caixabank.cat