SambaNova

Visao Geral

A SambaNova oferece inferencia de alta performance usando hardware customizado RDU (Reconfigurable Dataflow Unit), otimizado para servir modelos de linguagem grandes. O Floopy encaminha requisicoes para a API compativel com OpenAI da SambaNova.

Modelos Suportados

Configuracao

1. Va para Settings > Providers no dashboard.
2. Clique em Add provider e selecione SambaNova.
3. Cole sua API key da SambaNova e clique em Save.

Uso

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.floopy.ai/v1",
  apiKey: process.env.FLOOPY_API_KEY,
});

const response = await client.chat.completions.create({
  model: "Meta-Llama-3.3-70B-Instruct",
  messages: [{ role: "user", content: "Explique computacao quantica." }],
});

from openai import OpenAI

client = OpenAI(base_url="https://api.floopy.ai/v1", api_key=os.environ["FLOOPY_API_KEY"])

response = client.chat.completions.create(
    model="Meta-Llama-3.3-70B-Instruct",
    messages=[{"role": "user", "content": "Explique computacao quantica."}],
)

curl https://api.floopy.ai/v1/chat/completions \
  -H "Authorization: Bearer $FLOOPY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "Meta-Llama-3.3-70B-Instruct", "messages": [{"role": "user", "content": "Explique computacao quantica."}]}'

Recursos Especificos

• Aceleracao RDU — Hardware customizado da SambaNova entrega inferencia rapida para modelos grandes.
• Alto throughput — Otimizado para processamento em lote e cargas de trabalho de producao de alto volume.
• Nomenclatura — Modelos usam nomes em PascalCase (ex.: Meta-Llama-3.3-70B-Instruct).