תיעוד API LLM ללא סינון למפתחים

הגדרת אימות כתובת URL בסיסית

השתמשו בכתובת הבסיס לכל הבקשות. האימות דורש מפתח API שמועבר ב-Header. הירשמו באמצעות Google או אימייל כדי לקבל את המפתח שלכם מיד. המפתח מזהה את החשבון שלכם לחיוב שימוש. אשראי קריפטו מקדים מממן את הבקשות שלכם. שגיאות ודחייות לא צורכות אשראי.

[[]]

[[]]

דוגמה ל-POST /v1/chat/completions

Send messages to the chat endpoint. The model id is "uncensored". You can adjust parameters like temperature. The response contains the generated text. Use the official SDKs for easier integration. Change the base URL to point to our service. Headers must include your API key. The request body defines the conversation history.

[[]]

[[]]

תגובות בזרם באמצעות SSE

אפשרו זרמת נתונים על ידי הגדרת הפרמטר stream. אתם מקבלים נתונים חלקיים של טקסט כפי שהם נוצרים. פעולה זו מפחיתה את זמן ההמתנה התפוס עבור תגובות ארוכות. נתחו את פורמט אירועים שנשלפים מהשרת (SSE) בצורה נכונה. שימוש באסימונים מדווח בנתון החלקי האחרון. שיטה זו עובדת היטב לתצוגות בזמן אמת. היא מספקת חוויית משתמש חלקה יותר באופן כללי.

[[]]

[[]]

קריאת פונקציות ומצב JSON

הגדירו כלים שהמודל יוכל לקרוא להם. המודל מחזיר ארגומנטים מבניים לכלים אלו. אתם יכולים גם להטיל פלט JSON קפדני. הגדירו את פורמט התגובה ל-json_object. זה מבטיח ניתוח צפוי לאפליקציה שלכם. שלבו כלים עם זרימה (streaming) להתנהגות דינמית. המודל תומך הן בפלטים מבניים והן בפלטים שיחתיים.

[[]]

[[]]

פרמטרים: טמפרטורה, top_p, ו-stop

שלוו אקראיות באמצעות טמפרטורה ו-top_p. ערכים גבוהים יותר הופכים את התגובות ליצירתיות יותר. ערכים נמוכים יותר הופכים אותן לדטרמיניסטיות יותר. השתמשו בפרמטר ה-stop כדי לעצור יצירה. זה עוזר לשלוט באורך התגובה ובפורמט. ערכי Seed מאפשרים תוצאות ניתנות לשחזור. עונשי נוכחות ותדירות מתאימים את חזרת המילים. התאימו הגדרות אלו למקרה השימוש שלכם.

[[]]

[[]]

מגבלות, שגיאות וחלון ההקשר

חלון ההקשר תומך ב-100,000 טוקנים בסך הכל. הפלט המקסימלי הוא 16,000 טוקנים לכל בקשה. מגבלות הקצב מאפשרות 300 בקשות לדקה. בקשות מקבעות מוגבלות לשמונה לכל מפתח. שגיאת 401 מציינת מפתח API לא חוקי. שגיאת 402 אומרת שאין לך אשראי. שגיאת 429 מציינת שאתה מוגבל בקצב. גופי הבקשות לא יעלו על 8 MB.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)