Que fornecedores de LLM são suportados?

O gateway suporta OpenAI, Anthropic, Gemini, Ollama, Mistral e Cohere.

Como configuro o gateway?

Configura o gateway usando um ficheiro Config.toml, especificando chaves API, definições de modelo e outras configurações.

Como inicio o gateway?

Inicia o gateway usando um comando Docker, montando o ficheiro Config.toml no contentor.

Open Source AI Gateway

Name: Open Source AI Gateway
Brand: Open
Availability: InStock

Sem classificação0 Guardado

Gateway de IA de código aberto para gerir múltiplos fornecedores de LLM com funcionalidades integradas.

WebsiteGratuitoAPI de IA Ferramentas para Desenvolvedores de IA Modelos de Linguagem de Grande Escala (LLMs)Modelos de IA de Código Aberto

Open Source AI Gateway Introdução

O que é Open Source AI Gateway?

Um gateway de IA open-source concebido para gerir múltiplos fornecedores de LLM como OpenAI, Anthropic, Gemini, Ollama, Mistral e Cohere. Oferece análises integradas, guardrails, limitação de taxa, cache e controlos administrativos. Suporta interfaces HTTP e gRPC.

Como usar Open Source AI Gateway?

1. Configure o ficheiro Config.toml com as suas chaves API e definições de modelo.\n2. Execute o contentor Docker, montando o ficheiro Config.toml.\n3. Use comandos curl para fazer pedidos API ao gateway, especificando o fornecedor de LLM.

Por que escolher Open Source AI Gateway?

Deves escolher isto se quiseres um gateway de IA open-source que te dê flexibilidade e controlo sobre as tuas integrações de IA. É perfeito para programadores e entusiastas de tecnologia.