مستندات API LLM بدون فیلتر برای توسعه‌دهندگان

تنظیم احراز هویت URL پایه

از URL پایه برای تمام درخواست‌ها استفاده کنید. احراز هویت نیازمند ارسال کلید API در هدر است. از طریق گوگل یا ایمیل ثبت‌نام کنید تا کلید خود را به‌طور فوری دریافت کنید. این کلید حساب شما را برای محاسبه هزینه‌های مصرف شناسایی می‌کند. اعتبار پیش‌پرداخت شده با ارزهای دیجیتال، درخواست‌های شما را تأمین می‌کند. خطاها و رد شدن درخواست‌ها اعتبار مصرف نمی‌کنند.

[[]]

[[]]

نمونه POST /v1/chat/completions

پیام‌ها را به نقطه پایانی چت ارسال کنید. شناسه مدل "uncensored" است. می‌توانید پارامترهایی مانند temperature را تنظیم کنید. پاسخ شامل متن تولیدشده است. از SDKهای رسمی برای یکپارچه‌سازی آسان‌تر استفاده کنید. URL پایه را تغییر دهید تا به سرویس ما اشاره کند. هدرها باید کلید API شما را شامل شوند. بدنه درخواست تاریخچه مکالمه را تعریف می‌کند.

[[]]

[[]]

پاسخ‌های استریم‌شده از طریق SSE

با تنظیم پارامتر جریان‌یابی، قابلیت جریان‌یابی را فعال کنید. قطعات متن را همان‌طور که تولید می‌شوند دریافت می‌کنید. این کار تأخیر ادراک‌شده را برای پاسخ‌های طولانی کاهش می‌دهد. فرمت رویدادهای ارسالی سرور (SSE) را به درستی تجزیه کنید. مصرف توکن در آخرین قطعه گزارش می‌شود. این روش برای نمایش‌های بلادرنگ خوب کار می‌کند. این کار به طور کلی تجربه کاربری روان‌تری ارائه می‌دهد.

[[]]

[[]]

فراخوانی تابع و حالت JSON

ابزارهایی را برای فراخوانی توسط مدل تعریف کنید. مدل آرگومان‌های ساختاریافته‌ای برای این ابزارها برمی‌گرداند. همچنین می‌توانید خروجی JSON دقیق را اعمال کنید. فرمت پاسخ را روی json_object تنظیم کنید. این کار تجزیه قابل پیش‌بینی را برای برنامه شما تضمین می‌کند. ابزارها را با حالت پخش ترکیب کنید تا رفتار پویا ایجاد کنید. مدل از خروجی‌های ساختاریافته و گفتگویی پشتیبانی می‌کند.

[[]]

[[]]

پارامترها: temperature، top_p و stop

تصادفی بودن را با temperature و top_p کنترل کنید. مقادیر بالاتر پاسخ‌ها را خلاقانه‌تر می‌کنند. مقادیر پایین‌تر آن‌ها را قطعیت‌پذیرتر می‌کنند. از پارامتر stop برای توقف تولید استفاده کنید. این به کنترل طول و قالب پاسخ کمک می‌کند. مقادیر seed نتایج قابل تکرار را امکان‌پذیر می‌سازند. جریمه‌های حضور و تکرار تکرار کلمات را تنظیم می‌کنند. این تنظیمات را متناسب با مورد استفاده خود تنظیم کنید.

[[]]

[[]]

Limits, errors, and context window

پنجره زمینه (Context Window) در مجموع ۱۰۰,۰۰۰ توکن پشتیبانی می‌کند. حداکثر خروجی ۱۶,۰۰۰ توکن در هر درخواست است. محدودیت نرخ اجازه ۳۰۰ درخواست در دقیقه را می‌دهد. درخواست‌های همزمان به هشت به ازای هر کلید محدود شده‌اند. خطای 401 نشان‌دهنده کلید API نامعتبر است. خطای 402 به معنای عدم وجود اعتبار است. خطای 429 نشان می‌دهد که محدودیت نرخ را عبور کرده‌اید. بدنه درخواست‌ها نباید از ۸ مگابایت تجاوز کند.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

پایتون

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

جریان‌سازی

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)