Pular para o conteúdo

AI21

Visao Geral

A AI21 Labs desenvolve a familia de modelos Jamba, com uma arquitetura hibrida SSM-Transformer otimizada para contextos longos e cargas de trabalho empresariais. O Floopy encaminha requisicoes para a API compativel com OpenAI da AI21.

Modelos Suportados

ModeloJanela de ContextoNotas
jamba-1.5-large256KMaior modelo Jamba
jamba-1.5-mini256KJamba rapido e custo eficiente

Configuracao

  1. Va para Settings > Providers no dashboard.
  2. Clique em Add provider e selecione AI21.
  3. Cole sua API key da AI21 e clique em Save.

Uso

import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.floopy.ai/v1",
apiKey: process.env.FLOOPY_API_KEY,
});
const response = await client.chat.completions.create({
model: "jamba-1.5-large",
messages: [{ role: "user", content: "Explique computacao quantica." }],
});

Recursos Especificos

  • Janela de contexto de 256K — Modelos Jamba suportam contextos extremamente longos, ideal para processamento de documentos.
  • Arquitetura hibrida — Design SSM-Transformer oferece inferencia eficiente em sequencias longas.
  • Enterprise-grade — AI21 oferece forte suporte empresarial e garantias de privacidade de dados.