.svg)
BYOLLM, o "trae tu propio LLM", es una arquitectura en la que el cliente suministra y controla los modelos de lenguaje de gran tamaño que utiliza una plataforma de IA, ya sea conectando sus propias claves de modelo o alojando los modelos en su propia infraestructura, en lugar de estar limitado al modelo elegido por el proveedor en su nube.
Tres presiones dieron origen a BYOLLM. Soberanía y cumplimiento: las organizaciones reguladas y gubernamentales a menudo no pueden enviar contenido a las API de IA de terceros; el modelo debe ejecutarse dentro de sus propios límites. Elección del modelo: las organizaciones estandarizan sus modelos por razones de costo, capacidad, cobertura de idiomas o políticas, y la IA bloqueada a una plataforma impide esto. Ventaja del ajuste fino: las empresas con modelos ajustados a su dominio quieren que sus plataformas los utilicen, no un sustituto genérico. BYOLLM responde a los tres puntos: la plataforma proporciona la infraestructura de IA, la ingesta, la indexación, los agentes y los permisos, mientras que el cliente decide qué cerebro se ejecuta en su interior y dónde.
Con BYOLLM, el etiquetado de IA, la búsqueda, el análisis de documentos y la creación de contenido generativo se ejecutan utilizando los modelos del cliente: ya sea mediante claves de API en la nube para equipos que se sienten cómodos con modelos alojados, o mediante modelos totalmente autohospedados en el hardware del propio cliente para despliegues soberanos y aislados (air-gapped) . El contenido generado sigue la misma lógica: cuando los usuarios crean texto, guiones, imágenes o videos a través de los agentes de la plataforma, son sus propios modelos los que realizan la creación, manteniendo tanto el contenido original como la generación dentro del entorno controlado.
ioMoVo está diseñado de forma nativa para BYOLLM: conecta tus propias claves de modelo u hospeda modelos dentro de tu entorno, incluso en sistemas totalmente aislados (air-gapped), y la búsqueda, el análisis y la generación de contenido mediante agentes de ioPilot se ejecutarán con los modelos que tú elijas. Consulta la página de ioPilot.
BYOK generalmente se refiere a claves de cifrado o claves de API de forma limitada; BYOLLM abarca toda la relación con el modelo, las claves, la elección del modelo y el autohospedaje. BYOLLM supera a BYOK en contextos de plataformas de IA.
Pone la calidad bajo tu control: tú eliges el modelo, incluidos aquellos ajustados a tu dominio que superan a la opción genérica de un proveedor al trabajar con tu contenido.