Open Source AI Gateway
Gateway de IA de código aberto para gerir múltiplos fornecedores de LLM com funcionalidades integradas.
Open Source AI Gateway Introdução
O que é Open Source AI Gateway?
Um gateway de IA open-source concebido para gerir múltiplos fornecedores de LLM como OpenAI, Anthropic, Gemini, Ollama, Mistral e Cohere. Oferece análises integradas, guardrails, limitação de taxa, cache e controlos administrativos. Suporta interfaces HTTP e gRPC.
Como usar Open Source AI Gateway?
1. Configure o ficheiro Config.toml com as suas chaves API e definições de modelo.\n2. Execute o contentor Docker, montando o ficheiro Config.toml.\n3. Use comandos curl para fazer pedidos API ao gateway, especificando o fornecedor de LLM.
Por que escolher Open Source AI Gateway?
Deves escolher isto se quiseres um gateway de IA open-source que te dê flexibilidade e controlo sobre as tuas integrações de IA. É perfeito para programadores e entusiastas de tecnologia.
Open Source AI Gateway Recursos
AI API
- ✓Suporte Multi-Fornecedor
- ✓Interfaces HTTP e gRPC
- ✓Failover Inteligente
- ✓Cache Inteligente
- ✓Limitação de Taxa
- ✓Painel Administrativo
- ✓Guardrails de Conteúdo
- ✓Registo Empresarial
- ✓Injeção de Prompt do Sistema
FAQ
Preços
Informação de preços não disponível







