Dokumentasi api llm uncensored untuk pengembang

Pengaturan autentikasi URL dasar

Gunakan URL dasar yang disediakan untuk semua permintaan. Autentikasi memerlukan kunci API yang dikirim dalam header. Daftar melalui Google atau email untuk mendapatkan kunci Anda secara instan. Kunci ini mengidentifikasi akun Anda untuk penagihan penggunaan. Kredit kripto prabayar membiayai permintaan Anda. Error dan penolakan tidak mengonsumsi kredit.

[[]]

[[]]

Contoh POST /v1/chat/completions

Kirim pesan ke endpoint obrolan. ID modelnya adalah "uncensored". Anda dapat menyesuaikan parameter seperti suhu. Respons berisi teks yang dihasilkan. Gunakan SDK resmi untuk integrasi yang lebih mudah. Ubah URL dasar untuk menunjuk ke layanan kami. Header harus menyertakan kunci API Anda. Badan permintaan menentukan riwayat percakapan.

[[]]

[[]]

Respons streaming melalui SSE

Aktifkan streaming dengan mengatur parameter stream. Anda menerima potongan teks saat dihasilkan. Ini mengurangi latensi yang dirasakan untuk respons panjang. Urai format Server-Sent Events dengan benar. Penggunaan token dilaporkan dalam potongan terakhir. Metode ini bekerja dengan baik untuk tampilan real-time. Ini memberikan pengalaman pengguna yang lebih mulus secara keseluruhan.

[[]]

[[]]

Pemanggilan fungsi dan mode JSON

Tentukan alat untuk dipanggil model. Model mengembalikan argumen terstruktur untuk alat-alat ini. Anda juga dapat memaksakan output JSON yang ketat. Atur format respons menjadi json_object. Ini memastikan parsing yang dapat diprediksi untuk aplikasi Anda. Gabungkan alat dengan streaming untuk perilaku dinamis. Model mendukung output terstruktur dan konversasional.

[[]]

[[]]

Parameter: suhu, top_p, dan stop

Kendalikan acak dengan suhu dan top_p. Nilai yang lebih tinggi membuat respons lebih kreatif. Nilai yang lebih rendah membuatnya lebih deterministik. Gunakan parameter stop untuk menghentikan generasi. Ini membantu mengontrol panjang dan format respons. Nilai seed memungkinkan hasil yang dapat direproduksi. Penalti kehadiran dan frekuensi menyesuaikan pengulangan kata. Sesuaikan pengaturan ini agar sesuai dengan kasus penggunaan Anda.

[[]]

[[]]

Batas, error, dan jendela konteks

Jendela konteks mendukung total 100.000 token. Output maksimum adalah 16.000 token per permintaan. Batas laju mengizinkan 300 permintaan per menit. Permintaan simultan dibatasi hingga delapan per kunci. Error 401 menunjukkan kunci API tidak valid. Error 402 berarti Anda tidak memiliki kredit. Error 429 menandakan Anda dibatasi lajunya. Body permintaan tidak boleh melebihi 8 MB.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)