Dokumentasi api llm Uncensored untuk pembangun

Persediaan pengesahan URL Asas

Gunakan URL asas yang disediakan untuk semua permintaan. Pengesahan memerlukan kunci API dihantar dalam header. Daftar melalui Google atau e-mel untuk mendapatkan kunci anda serta-merta. Kunci ini mengenal pasti akaun anda untuk pengebilan penggunaan. Kredit kripto pra-dibayar membiayai permintaan anda. Ralat dan penolakan tidak menggunakan kredit.

[[]]

[[]]

Contoh POST /v1/chat/completions

Hantar mesej ke hujung titik semakan. ID model ialah "uncensored". Anda boleh menyesuaikan parameter seperti suhu. Respons mengandungi teks yang dijana. Gunakan SDK rasmi untuk integrasi yang lebih mudah. Tukar URL asas untuk menunjuk ke perkhidmatan kami. Header mesti termasuk kunci API anda. Badan permintaan menentukan sejarah perbualan.

[[]]

[[]]

Respons aliran melalui SSE

Aktifkan penstriman dengan menetapkan parameter. Anda menerima pecahan teks seperti yang dijana. Ini mengurangkan latensi yang dirasakan untuk respons yang panjang. Uraikan format Server-Sent Events dengan betul. Penggunaan token dilaporkan dalam pecahan terakhir. Kaedah ini berfungsi dengan baik untuk paparan masa nyata. Ia memberikan pengalaman pengguna yang lebih lancar secara keseluruhan.

[[]]

[[]]

Pemanggilan fungsi dan mod JSON

Takrifkan alat untuk model dipanggil. Model mengembalikan hujah terstruktur untuk alat ini. Anda juga boleh memaksa output JSON yang ketat. Tetapkan format respons kepada json_object. Ini memastikan penguraian yang boleh diramal untuk aplikasi anda. Gabungkan alat dengan penstriman untuk tingkah laku dinamik. Model menyokong output terstruktur dan perbualan.

[[]]

[[]]

Parameter: suhu, top_p, dan stop

Kawal rawak dengan suhu dan top_p. Nilai yang lebih tinggi menjadikan respons lebih kreatif. Nilai yang lebih rendah menjadikannya lebih deterministik. Gunakan parameter stop untuk menghentikan penjanaan. Ini membantu mengawal panjang dan format respons. Nilai benih membolehkan hasil yang boleh diulang. Penalti kehadiran dan kekerapan menyesuaikan pengulangan perkataan. Laraskan tetapan ini untuk menyesuaikan kes penggunaan anda.

[[]]

[[]]

Had, ralat, dan tetingkap konteks

Jendela konteks menyokong jumlah 100,000 token. Output maksimum ialah 16,000 token setiap permintaan. Had kadar membolehkan 300 permintaan setiap minit. Permintaan serakat dibatasi kepada lapan per kunci. Ralat 401 menunjukkan kunci API tidak sah. Ralat 402 bermaksud anda tiada kredit. Ralat 429 menandakan anda dihadkan kadar. Badan permintaan tidak boleh melebihi 8 MB.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)