Integraciones de IA y LLM en producto
Integramos modelos de lenguaje (GPT, Claude, Gemini, Llama) y otros modelos generativos en producto real, no en demos. RAG sobre la base de conocimiento del cliente, agentes con function calling, evaluación sistemática, controles de coste y latencia, y patrones de UX que la gente entiende de verdad.
- Más de 30 integraciones en producción con OpenAI, Anthropic, Azure OpenAI y Vertex AI
- RAG enterprise con pgvector, Qdrant o Pinecone — sin demos que no escalan
- Function calling, tools y agentes con LangGraph, Mastra o implementaciones propias
- Evaluación con Ragas / LLM-as-judge y observabilidad de coste y latencia en producción
El abismo entre demo y producto en IA generativa
Cualquier ingeniero con dos horas puede montar una demo conectada a ChatGPT que parece mágica. Llevar esa demo a producto para 5.000 empleados internos o 500.000 clientes externos es otra liga. Allí aparecen los problemas reales: coste por usuario, latencia P95 inaceptable, alucinaciones, fugas de información confidencial, deriva del modelo en cada release del proveedor, fallos cuando el LLM está caído y ausencia total de evaluación cuantitativa.
Nuestra práctica de IA está construida exactamente sobre esos problemas. Cuando entramos en un proyecto, la primera pregunta no es '¿qué modelo usamos?' sino '¿cómo medimos si funciona?'. Sin métricas no hay producto — hay un PoC vistoso que terminará retirado en seis meses.
Retrieval-Augmented Generation para conocimiento interno
El patrón más común en empresa es RAG: dar al LLM acceso controlado a la base de conocimiento de la empresa (documentación, manuales, contratos, tickets históricos, base de datos) sin reentrenar el modelo. La calidad del RAG está casi siempre en el pipeline de ingestión, no en el LLM: chunking inteligente (recursivo, por estructura, por semántica), embeddings adecuados al dominio (multilingual, jurídico, médico), búsqueda híbrida BM25 + vectorial con reranker, y un control de citas obligatorio para auditoría.
El almacenamiento depende del volumen: pgvector dentro del PostgreSQL existente para empezar (hasta cientos de miles de chunks sin despeinarse), Qdrant o Weaviate para escala media, Pinecone o Vespa para escala muy alta. Lo decidimos con el cliente — y migramos cuando hace falta, sin atarse a una elección temprana.
Function calling y agentes con responsabilidad
Cuando el caso de uso requiere acción (consultar APIs internas, ejecutar consultas SQL leyendo solo lo permitido, agendar tareas, generar documentos firmables), pasamos de chat a agente. La arquitectura es siempre la misma: herramientas tipadas con esquemas JSON Schema o Zod, validación estricta de outputs del LLM, autorización por rol del usuario antes de ejecutar cada herramienta, y trazabilidad completa de cada paso del agente para auditoría posterior.
Usamos LangGraph o Mastra como capa de orquestación cuando el agente tiene más de tres pasos, y implementaciones propias livianas cuando bastan dos. Evitamos los frameworks 'agente automágico' que esconden la lógica detrás de prompts mágicos: en empresa, lo que no puedes auditar no llega a producción.
Métricas, evaluación continua y coste bajo control
Toda integración LLM que entregamos viene con su set de evaluación: dataset de preguntas representativas, criterios de calidad (faithfulness, answer relevancy, citation accuracy, latencia P50/P95, coste por interacción), pipeline de evaluación automatizada en CI con Ragas y LLM-as-judge calibrado, y dashboards públicos para el equipo de producto.
El coste se gestiona desde el día uno: caching agresivo de embeddings, cache semántico de respuestas frecuentes, ruteo de modelos por complejidad (Haiku/Mini para tareas triviales, Sonnet/4o para producción, Opus/o1 solo cuando se justifica), límites duros por usuario y por minuto, y observabilidad de coste por feature. No hay sorpresas en la factura.
Cuando el caso lo justifica entrenamos modelos propios — fine-tuning de modelos open (Llama, Mistral, Qwen) o ajustes ligeros vía LoRA — pero solo cuando ya hemos demostrado con modelos cerrados que el caso funciona y que el ahorro lo compensa.
Tecnologías y herramientas que usamos
No es un catálogo de logos: es la combinación concreta con la que entregamos producto. Elegimos por problema, no por moda.
Proveedores LLM
- > OpenAI
- > Anthropic Claude
- > Google Gemini / Vertex AI
- > Azure OpenAI
- > Llama / Mistral / Qwen self-hosted
Orquestación
- > LangGraph
- > Mastra
- > Vercel AI SDK
- > LiteLLM
- > Implementaciones propias
Búsqueda y vectores
- > pgvector
- > Qdrant
- > Weaviate
- > Pinecone
- > Meilisearch (híbrido)
Evaluación
- > Ragas
- > LLM-as-judge calibrado
- > Promptfoo
- > Langfuse
- > Datasets propios
Observabilidad y coste
- > Langfuse
- > OpenTelemetry
- > Helicone
- > Costes por feature
- > Rate-limit por usuario
Empresas que ya trabajan con nosotros en integraciones ia / llm
Una selección representativa del histórico vinculado a esta disciplina. La lista completa de clientes vive en /clientes.
Insparya
Asistente clínico interno con RAG médico
Kimitec
IA generativa aplicada a agro-tech
IAGT
Plataforma de inteligencia con LLMs
Humanox
Asistente interno con búsqueda semántica
Mercedes-Benz
Visión y NLP en sistemas industriales
Metroscopia
Analítica conversacional sobre encuestas
Preguntas frecuentes sobre integraciones ia / llm
Las dudas más concretas que nos plantean los CTOs y direcciones técnicas. Si la tuya no está, escríbenos directamente.
¿Qué modelo de LLM recomendáis?+
¿Cómo evitáis las alucinaciones del LLM?+
¿Mis datos confidenciales acaban entrenando el modelo del proveedor?+
¿Cuánto puede costar mantener una integración LLM en producción?+
¿Hacéis fine-tuning de modelos?+
¿Buscas una respuesta más general? Revisa también el FAQ completo o nuestra página de clientes.
Hablemos de la integración de IA que quieres llevar a producto
Asistente interno, copilot embebido en tu producto, automatización con agentes o evaluación de un caso de uso. Te respondemos en menos de 24 horas laborables con una primera lectura realista.
Respuesta estimada < 24h