Uncensored llm api documentatie voor ontwikkelaars

Basis-URL en authenticatiesetup

Gebruik de meegeleverde basis-URL voor alle verzoeken. Authenticatie vereist een API-sleutel die in de header wordt verzonden. Meld je aan via Google of e-mail om je sleutel direct te ontvangen. De sleutel identificeert je account voor facturatie van gebruik. Voorgeladen crypto-krediet betaalt je verzoeken. Fouten en weigeringen verbruiken geen krediet.

[[]]

[[]]

Voorbeeld POST /v1/chat/completions

Stuur berichten naar het chat-eindpunt. De model id is "uncensored". U kunt parameters zoals temperature aanpassen. De respons bevat de gegenereerde tekst. Gebruik de officiële SDK's voor eenvoudigere integratie. Wijzig de base URL om naar onze service te verwijzen. Headers moeten uw API-sleutel bevatten. Het request body definieert de gespreksgeschiedenis.

[[]]

[[]]

Streamingresponsen via SSE

Schakel streaming in door de stream-parameter in te stellen op true. Je ontvangt tekstchunks zodra deze worden gegenereerd. Dit vermindert de waargenomen latentie voor lange antwoorden. Parseer het Server-Sent Events-formaat correct. Tokengebruik wordt gerapporteerd in de laatste chunk. Deze methode werkt goed voor real-time weergaven. Het biedt overall een soepelere gebruikerservaring.

[[]]

[[]]

Function calling en JSON-modus

Definieer tools die het model kan aanroepen. Het model retourneert gestructureerde argumenten voor deze tools. Je kunt ook strikte JSON-output afdwingen. Stel het response-formaat in op json_object. Dit zorgt voor voorspelbare parsing voor je applicatie. Combineer tools met streaming voor dynamisch gedrag. Het model ondersteunt zowel gestructureerde als conversationele outputs.

[[]]

[[]]

Parameters: temperatuur, top_p en stop

Reguleer willekeurigheid met temperatuur en top_p. Hogere waarden maken antwoorden creatiever. Lagere waarden maken ze deterministischer. Gebruik de stop-parameter om de generatie te stoppen. Dit helpt de lengte en het formaat van het antwoord te controleren. Seed-waarden zorgen voor reproduceerbare resultaten. Aanwezigheids- en frequentiestrafpen passen woordherhaling aan. Pas deze instellingen aan om ze te laten passen bij je use case.

[[]]

[[]]

Limieten, fouten en contextvenster

Het contextvenster ondersteunt in totaal 100.000 tokens. Maximaal 16.000 tokens per verzoek. Rate limits staan 300 verzoeken per minuut toe. Gelijktijdige verzoeken zijn beperkt tot acht per sleutel. Een 401-fout geeft een ongeldige API-sleutel aan. Een 402-fout betekent dat u geen krediet heeft. Een 429-fout geeft aan dat u rate limited bent. Verzoeklichamen mogen 8 MB niet overschrijden.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)