Uncensored llm api dokumentáció fejlesztőknek

Base URL és hitelesítési beállítás

Használja a megadott base URL-t az összes kéréshez. A hitelesítéshez API-kulcsra van szükség, amelyet fejlécben kell megadni. Regisztráljon Google-fiókkal vagy e-mail címmel a kulcs azonnali megszerzéséhez. A kulcs azonosítja fiókját a felhasználás számlázása érdekében. A előre fizetett kriptovaluta-kredit finanszírozza a kéréseket. A hibák és elutasítások nem fogyasztanak kreditet.

[[]]

[[]]

POST /v1/chat/completions példa

Küldjön üzeneteket a chat végpontra. A modell azonosítója "uncensored". A hőmérsékletet és egyéb paramétereket állíthatja. A válasz tartalmazza a generált szöveget. Használja a hivatalos SDK-kat a könnyebb integrációhoz. Módosítsa az alap URL-t, hogy a szolgáltatásunkra mutasson. A fejléceknek tartalmazniuk kell az API-kulcsot. A kérés törzse definiálja a beszélgetés előzményeit.

[[]]

[[]]

SSE-n keresztüli streamelő válaszok

Állítsa be a stream paramétert a streamelés engedélyezéséhez. Szövegtöredékeket kap a generálás során. Ez csökkenti az érzékelt késést hosszú válaszok esetén. Helyesen elemezze a Server-Sent Events formátumot. A tokenfelhasználás a végleges töredékben kerül jelentésre. Ez a módszer jól működik valós idejű megjelenítésekhez. Általában simább felhasználói élményt biztosít.

[[]]

[[]]

Function calling és JSON mód

Határozzon meg eszközöket a modell számára történő meghívásra. A modell strukturált argumentumokat ad vissza ezekhez az eszközökhöz. Szigorú JSON kimenetet is kikényszeríthet. Állítsa be a response format értéket json_object-re. Ez kiszámítható parzolást biztosít az alkalmazás számára. Kombinálja az eszközöket a streameléssel a dinamikus viselkedés érdekében. A modell támogatja a szerkezetes és a beszélgetési kimeneteket is.

[[]]

[[]]

Paraméterek: Hőmérséklet, top_p és stop

Véletlenszerűség szabályozása temperature és top_p paraméterekkel. A magasabb értékek kreatívabb válaszokat eredményeznek. Az alacsonyabb értékek determinisztikusabbá teszik őket. Használja a stop paramétert a generálás megállításához. Ez segít szabályozni a válasz hosszát és formátumát. A seed értékek reprodukálható eredményeket tesznek lehetővé. A presence és frequency penaltyk szabályozzák a szóismétlést. Állítsa be ezeket a beállításokat az Ön esetéhez.

[[]]

[[]]

Korlátok, hibák és kontextus ablak

A kontextusablak 100 000 tokent tesz lehetővé. A maximális kimenet 16 000 token kérésenként. A sebességkorlátok percenként 300 kérést tesznek lehetővé. A párhuzamos kérések kulcsonként nyolcra vannak korlátozva. A 401-es hiba érvénytelen API-kulcsot jelez. A 402-es hiba azt jelenti, hogy nincs hitel. A 429-es hiba azt jelzi, hogy sebességkorlátozás alatt állsz. A kérések törzse nem haladhatja meg a 8 MB-ot.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)