Documentazione API LLM senza filtri per sviluppatori

Configurazione autenticazione URL Base

Utilizza l'URL base fornito per tutte le richieste. L'autenticazione richiede l'invio di una chiave API nell'intestazione. Iscriviti tramite Google o email per ottenere la tua chiave istantaneamente. La chiave identifica il tuo account per la fatturazione dell'utilizzo. Il credito crittografico prepagato finanzia le tue richieste. Errori e rifiuti non consumano credito.

[[]]

[[]]

Esempio POST /v1/chat/completions

Invia messaggi all'endpoint chat. L'ID del modello è "uncensored". Puoi regolare parametri come la temperatura. La risposta contiene il testo generato. Usa gli SDK ufficiali per un'integrazione più semplice. Cambia l'URL base per puntare al nostro servizio. Le intestazioni devono includere la tua chiave API. Il corpo della richiesta definisce la cronologia della conversazione.

[[]]

[[]]

Risposte in streaming tramite SSE

Abilita lo streaming impostando il parametro stream. Ricevi chunk di testo man mano che vengono generati. Questo riduce la latenza percepita per le risposte lunghe. Analizza correttamente il formato Server-Sent Events. L'utilizzo dei token viene segnalato nell'ultimo chunk. Questo metodo funziona bene per le visualizzazioni in tempo reale. Fornisce un'esperienza utente complessiva più fluida.

[[]]

[[]]

Function calling e modalità JSON

Definisci gli strumenti perché il modello li chiami. Il modello restituisce argomenti strutturati per questi strumenti. Puoi anche imporre un output JSON rigoroso. Imposta il formato di risposta su json_object. Questo garantisce un'analisi prevedibile per la tua applicazione. Combina gli strumenti con lo streaming per un comportamento dinamico. Il modello supporta output sia strutturati che conversazionali.

[[]]

[[]]

Parametri: temperatura, top_p e stop

Controlla la casualità con temperature e top_p. Valori più alti rendono le risposte più creative. Valori più bassi le rendono più deterministiche. Usa il parametro stop per interrompere la generazione. Questo aiuta a controllare la lunghezza e il formato della risposta. I valori di seed permettono risultati riproducibili. Le penalità di presenza e frequenza regolano la ripetizione delle parole. Regola queste impostazioni in base al tuo caso d'uso.

[[]]

[[]]

Limiti, errori e finestra di contesto

La finestra di contesto supporta un totale di 100.000 token. L'output massimo è di 16.000 token per richiesta. I limiti di frequenza consentono 300 richieste al minuto. Le richieste concorrenti sono limitate a otto per chiave. Un errore 401 indica una API key non valida. Un errore 402 significa che non hai credito. Un errore 429 segnala che sei soggetto a limiti di frequenza. I corpi delle richieste non devono superare gli 8 MB.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)