Documentação da API LLM sem censura para desenvolvedores

Configuração de autenticação da URL Base

Use a URL base fornecida para todas as solicitações. A autenticação requer o envio de uma chave de API no cabeçalho. Cadastre-se via Google ou e-mail para obter sua chave instantaneamente. A chave identifica sua conta para cobrança de uso. O crédito pré-pago em criptomoedas financia suas solicitações. Erros e recusas não consomem crédito.

[[]]

[[]]

Exemplo POST /v1/chat/completions

Envie mensagens para o endpoint de chat. O ID do modelo é "uncensored". Você pode ajustar parâmetros como temperature. A resposta contém o texto gerado. Use os SDKs oficiais para uma integração mais fácil. Altere a URL base para apontar para nosso serviço. Os headers devem incluir sua chave de API. O corpo da requisição define o histórico da conversa.

[[]]

[[]]

Respostas em streaming via SSE

Ative o streaming definindo o parâmetro stream. Você recebe chunks de texto conforme são gerados. Isso reduz a latência percebida para respostas longas. Analise o formato Server-Sent Events corretamente. O uso de tokens é relatado no último chunk. Este método funciona bem para exibições em tempo real. Fornece uma experiência de usuário mais suave em geral.

[[]]

[[]]

Chamada de função e modo JSON

Defina ferramentas para que o modelo chame. O modelo retorna argumentos estruturados para essas ferramentas. Você também pode impor uma saída JSON estrita. Defina o formato de resposta como json_object. Isso garante uma análise previsível para o seu aplicativo. Combine ferramentas com streaming para comportamento dinâmico. O modelo suporta saídas estruturadas e conversacionais.

[[]]

[[]]

Parâmetros: temperatura, top_p e stop

Controle a aleatoriedade com temperature e top_p. Valores mais altos tornam as respostas mais criativas. Valores mais baixos as tornam mais determinísticas. Use o parâmetro stop para interromper a geração. Isso ajuda a controlar o comprimento e o formato da resposta. Valores de seed permitem resultados reproduzíveis. Penalidades de presença e frequência ajustam a repetição de palavras. Ajuste essas configurações para se adequar ao seu caso de uso.

[[]]

[[]]

Limites, erros e janela de contexto

A janela de contexto suporta 100.000 tokens no total. A saída máxima é de 16.000 tokens por solicitação. Os limites de taxa permitem 300 solicitações por minuto. Solicitações simultâneas são limitadas a oito por chave. Um erro 401 indica uma chave de API inválida. Um erro 402 significa que você não tem crédito. Um erro 429 sinaliza que você está limitado por taxa. Os corpos das solicitações não devem exceder 8 MB.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)