Uncensored llm api डेवलपर्स के लिए दस्तावेज़ीकरण

बेस URL और प्रमाणीकरण सेटअप

सभी अनुरोधों के लिए प्रदान किए गए बेस URL का उपयोग करें। प्रमाणीकरण में हेडर में भेजी गई API कुंजी की आवश्यकता होती है। अपनी कुंजी तुरंत प्राप्त करने के लिए Google या ईमेल के माध्यम से साइन अप करें। कुंजी आपके खाते के उपयोग बिलिंग की पहचान करती है। पूर्वभुगतान क्रिप्टो क्रेडिट आपके अनुरोधों को फंड करता है। त्रुटियां और अस्वीकृतियां क्रेडिट नहीं खर्च करतीं।

[[]]

[[]]

POST /v1/chat/completions उदाहरण

चैट एंडपॉइंट पर संदेश भेजें। मॉडल id "अनसेंसर्ड" है। आप तापमान जैसे पैरामीटर समायोजित कर सकते हैं। प्रतिक्रिया में जनरेटेड टेक्स्ट होता है। आसान एकीकरण के लिए आधिकारिक SDK का उपयोग करें। बेस यूआरएल को हमारे सेवा की ओर इशारा करने के लिए बदलें। हेडर में आपकी API कुली शामिल होनी चाहिए। अनुरोध बॉडी बातचीत के इतिहास को परिभाषित करती है।

[[]]

[[]]

SSE के माध्यम से स्ट्रीमिंग प्रतिक्रियाएं

स्ट्रीमिंग को सक्षम करने के लिए stream पैरामीटर सेट करें। आप जनरेट होते हुए टेक्स्ट के चंक्स प्राप्त करते हैं। यह लंबी प्रतिक्रियाओं के लिए दृष्टिगोचर विलंबता को कम करता है। Server-Sent Events फॉर्मेट को सही ढंग से पार्स करें। टोकन उपयोग अंतिम चंक में रिपोर्ट किया जाता है। यह विधि रियल-टाइम प्रदर्शन के लिए अच्छी तरह काम करती है। यह समग्र रूप से एक सुचारु उपयोगकर्ता अनुभव प्रदान करती है।

[[]]

[[]]

फंक्शन कॉलिंग और JSON मोड

मॉडल को कॉल करने के लिए टूल्स परिभाषित करें। मॉडल इन टूल्स के लिए संरचित तर्क लौटाता है। आप कठोर JSON आउटपुट को भी लागू कर सकते हैं। response format को json_object पर सेट करें। यह आपके अनुप्रयोग के लिए भविष्यसूचक पार्सिंग सुनिश्चित करता है। गतिशील व्यवहार के लिए टूल्स को स्ट्रीमिंग के साथ संयोजित करें। मॉडल संरचित और संवादात्मक दोनों आउटपुट का समर्थन करता है।

[[]]

[[]]

पैरामीटर: तापमान, top_p, और स्टॉप

तापमान और top_p का उपयोग करके यादृच्छिकता को नियंत्रित करें। उच्चतर मान प्रतिक्रियाओं को अधिक रचनात्मक बनाते हैं। निम्नतर मान उन्हें अधिक निर्धारणात्मक बनाते हैं। जनरेशन रोकने के लिए stop पैरामीटर का उपयोग करें। यह प्रतिक्रिया की लंबाई और प्रारूप को नियंत्रित करने में मदद करता है। seed मान पुनरुत्पादक परिणामों की अनुमति देते हैं। presence और frequency पेनल्टी शब्द दोहराव को समायोजित करती हैं। अपने उपयोग मामले के अनुरूप इन सेटिंगिंग को समायोजित करें।

[[]]

[[]]

सीमाएं, त्रुटियां, और संदर्भ विंडो

संदर्भ विंडो कुल 100,000 टोकन तक समर्थित है। अधिकतम आउटपुट प्रति अनुरोध 16,000 टोकन है। दर सीमाएं प्रति मिनट 300 अनुरोधों की अनुमति देती हैं। समवर्ती अनुरोध प्रति कुंजी आठ तक सीमित हैं। 401 त्रुटि एक अमान्य API कुंजी का संकेत देती है। 402 त्रुटि का अर्थ है कि आपके पास क्रेडिट नहीं है। 429 त्रुटि संकेत देती है कि आप दर सीमा में हैं। अनुरोध बॉडी 8 MB से अधिक नहीं होनी चाहिए।

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)