Archivo de IAFicha 02Asistentes y voz
Jarvis IA v2
Asistente RAG avanzado — multi-modelo, voz, GPU
- Estado documentado
- Demo GPU pendiente de hosting
Versión avanzada con interfaz web tipo ChatGPT, sistema RAG sobre ChromaDB con embeddings BGE-M3, selección automática de modelo por dificultad de query, TTS/STT y monitoreo GPU en tiempo real.
- Acceso al código
- Repositorio público
- Ejecución
- GPU Local (16GB+ VRAM recomendado)
Qué resuelve
JarvisIAV2 es un asistente completo que corre en hardware local con GPU. Soporta múltiples LLMs (Qwen2.5-14B/32B, LLaMA 3.1 70B, DeepSeek 14B) con selección automática según complejidad de la consulta. El sistema RAG usa ChromaDB y embeddings BGE-M3 para recuperación semántica. Incluye interfaz web moderna con tema oscuro, historial de chat, indicadores de estado GPU, y capacidades de voz bidireccionalmente.
Capacidades documentadas
- RAG con ChromaDB y embeddings BGE-M3
- Selección automática de modelo por dificultad
- Interfaz web moderna tipo ChatGPT
- TTS y STT (voz bidireccional)
- Monitoreo GPU en tiempo real
- Carga/descarga dinámica de modelos sin reiniciar
- Soporte multi-modelo: Qwen, LLaMA, DeepSeek
- API REST para integración con otros sistemas
Cómo funciona
Pipeline RAG completo con selección inteligente de modelo, base de vectores ChromaDB, y servicio web FastAPI.
Síntesis editorial del proyecto · no representa un despliegue en vivo
Desplaza horizontalmente para leer todo el diagrama
Para ponerlo en marcha
Entorno requerido
RTX 3090/4090/5070 Ti | 16GB+ VRAM | 32GB+ RAM | CUDA 11.8+
Tecnologías
- Python 3.10+
- FastAPI
- ChromaDB
- BGE-M3 Embeddings
- Qwen2.5-14B/32B
- LLaMA 3.1 70B
- DeepSeek 14B
- CUDA 11.8+
- Docker