Puerta de enlace LLM independiente del motor en Rust. Compatibilidad completa con OpenAI y API de Anthropic en SGLang, vLLM, TRT-LLM, OpenAI, Gemini y más. Canal gRPC pionero en la industria, enrutamiento consciente de caché KV, historial de chat, almacenamiento en caché de tokenización, API de respuestas, incrustaciones, complementos WASM, MCP y autenticación de múltiples inquilinos.
Instalación
cargo install --git https://github.com/lightseekorg/smg
Casos de uso típicos
- Inspección de logs y métricas
- Debug asistido
- Despliegues controlados desde el chat
- Auditoría de configuración
Ficha técnica
- Categoría: Dev / DevOps
- Autor: lightseekorg
- Lenguaje: Rust
- Licencia: Apache-2.0
- Stars en GitHub: 239
- Transporte: stdio
- Requiere API key: No
- Clientes compatibles: Claude Desktop, Cursor, Cline, Continue
- Repositorio: https://github.com/lightseekorg/smg
Ficha generada automáticamente desde github_topic el 2026-05-10. La descripción puede contener traducción automática; verifica con el repositorio oficial antes de instalar.