Uncensored-LLM-API-Dokumentation für Entwickler

Basis-URL und Authentifizierungseinrichtung

Verwenden Sie die angegebene Basis-URL für alle Anfragen. Zur Authentifizierung wird ein API-Schlüssel im Header übermittelt. Melden Sie sich über Google oder E-Mail an, um Ihren Schlüssel sofort zu erhalten. Der Schlüssel identifiziert Ihr Konto für die Abrechnung der Nutzung. Prepaid-Guthaben in Kryptowährung finanziert Ihre Anfragen. Fehler und Ablehnungen verbrauchen kein Guthaben.

[[]]

[[]]

POST /v1/chat/completions Beispiel

Senden Sie Nachrichten an den Chat-Endpunkt. Die Modell-ID ist "uncensored". Sie können Parameter wie Temperatur anpassen. Die Antwort enthält den generierten Text. Verwenden Sie die offiziellen SDKs für eine einfachere Integration. Ändern Sie die Basis-URL, um auf unseren Dienst zu verweisen. Die Header müssen Ihren API-Schlüssel enthalten. Der Anforderungstext definiert den Gesprächsverlauf.

[[]]

[[]]

Streaming-Antworten über SSE

Aktivieren Sie Streaming, indem Sie den Parameter „stream“ setzen. Sie erhalten Text-Chunks, sobald sie generiert werden. Dies reduziert die wahrgenommene Latenz bei langen Antworten. Analysieren Sie das Server-Sent Events-Format korrekt. Die Token-Nutzung wird im letzten Chunk gemeldet. Diese Methode eignet sich gut für Echtzeitanzeigen. Sie bietet insgesamt eine bessere Benutzererfahrung.

[[]]

[[]]

Function Calling und JSON-Modus

Definieren Sie Tools, die das Modell aufrufen kann. Das Modell gibt strukturierte Argumente für diese Tools zurück. Sie können auch eine strenge JSON-Ausgabe erzwingen. Legen Sie das Antwortformat auf json_object fest. Dies gewährleistet eine vorhersehbare Analyse für Ihre Anwendung. Kombinieren Sie Tools mit Streaming für dynamisches Verhalten. Das Modell unterstützt sowohl strukturierte als auch konversationelle Ausgaben.

[[]]

[[]]

Parameter: Temperatur, Top-p und Stop

Steuern Sie die Zufälligkeit mit Temperatur und top_p. Höhere Werte machen Antworten kreativer. Niedrigere Werte machen sie deterministischer. Verwenden Sie den stop-Parameter, um die Generierung zu stoppen. Dies hilft, die Antwortlänge und das Format zu steuern. Seed-Werte ermöglichen reproduzierbare Ergebnisse. Präsenz- und Häufigkeitsstrafen passen die Wortwiederholung an. Passen Sie diese Einstellungen an Ihren Anwendungsfall an.

[[]]

[[]]

Limits, Fehler und Kontextfenster

Das Kontextfenster unterstützt insgesamt 100.000 Tokens. Die maximale Ausgabe beträgt 16.000 Tokens pro Anfrage. Rate Limits erlauben 300 Anfragen pro Minute. Gleichzeitige Anfragen sind auf acht pro Schlüssel begrenzt. Ein 401-Fehler zeigt einen ungültigen API-Schlüssel an. Ein 402-Fehler bedeutet, dass Sie kein Guthaben haben. Ein 429-Fehler signalisiert, dass Sie rate-limited sind. Anforderungstexte dürfen 8 MB nicht überschreiten.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)