Pular para o conteúdo

Together

Visao Geral

A Together e um provedor de inferencia que hospeda uma ampla variedade de modelos open-source incluindo Llama, Mixtral, Qwen e outros. O Floopy encaminha requisicoes para a API compativel com OpenAI da Together.

Modelos Suportados

ModeloJanela de ContextoNotas
meta-llama/Llama-3.3-70B-Instruct-Turbo128KLlama 3.3 70B Turbo
meta-llama/Llama-4-Maverick-17B-128E-Instruct-FP8128KLlama 4 Maverick
Qwen/Qwen3-235B-A22B128KQwen 3 235B MoE
mistralai/Mixtral-8x22B-Instruct-v0.164KMixtral 8x22B
deepseek-ai/DeepSeek-V3128KDeepSeek V3

Configuracao

  1. Va para Settings > Providers no dashboard.
  2. Clique em Add provider e selecione Together.
  3. Cole sua API key da Together e clique em Save.

Uso

import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.floopy.ai/v1",
apiKey: process.env.FLOOPY_API_KEY,
});
const response = await client.chat.completions.create({
model: "meta-llama/Llama-3.3-70B-Instruct-Turbo",
messages: [{ role: "user", content: "Explique computacao quantica." }],
});

Recursos Especificos

  • Grande catalogo de modelos — Acesso a Llama, Qwen, Mixtral, DeepSeek e muitos outros modelos open-source.
  • Variantes Turbo — Alguns modelos oferecem variantes Turbo otimizadas para inferencia mais rapida e menor custo.
  • Nomenclatura — Modelos usam o formato org/Nome-Modelo (ex.: meta-llama/Llama-3.3-70B-Instruct-Turbo).