Documentație API LLM nelimitat pentru dezvoltatori

Configurare URL de bază și autentificare

Folosește URL-ul de bază pentru toate cererile. Autentificarea necesită trimiterea unei chei API în antet. Înregistrează-te prin Google sau email pentru a obține cheia instantaneu. Cheia îți identifică contul pentru facturarea utilizării. Creditele preplătite în criptomonede îți finanțează cererile. Erorile și refuzurile nu consumă credit.

[[]]

[[]]

Exemplu POST /v1/chat/completions

Trimite mesaje la endpoint-ul de chat. ID-ul modelului este "uncensored". Poți ajusta parametri precum temperature. Răspunsul conține textul generat. Folosește SDK-urile oficiale pentru o integrare mai ușoară. Modifică URL-ul de bază pentru a indica către serviciul nostru. Antetele trebuie să includă cheia ta API. Corpul cererii definește istoricul conversației.

[[]]

[[]]

Răspunsuri în flux prin SSE

Activați streaming-ul setând parametrul stream. Primești fragmente de text pe măsură ce sunt generate. Acest lucru reduce latența percepută pentru răspunsurile lungi. Analizează corect formatul Server-Sent Events. Utilizarea tokenilor este raportată în ultimul fragment. Această metodă funcționează bine pentru afișările în timp real. Oferă o experiență globală mai fluidă utilizatorului.

[[]]

[[]]

Function calling și modul JSON

Definește instrumente pe care modelul să le apeleze. Modelul returnează argumente structurate pentru aceste instrumente. Poți, de asemenea, să impui o ieșire JSON strictă. Setează formatul de răspuns la json_object. Acest lucru asigură o analizare predictibilă pentru aplicația ta. Combină instrumentele cu streaming-ul pentru un comportament dinamic. Modelul suportă atât ieșiri structurate, cât și conversaționale.

[[]]

[[]]

Parametri: temperatură, top_p și stop

Controlează aleatorietatea cu temperature și top_p. Valorile mai mari fac răspunsurile mai creative. Valorile mai mici le fac mai deterministe. Folosește parametrul stop pentru a opri generarea. Acest lucru ajută la controlarea lungimii și formatului răspunsului. Valorile seed permit rezultate reproductibile. Penalizările de prezență și frecvență ajustează repetarea cuvintelor. Ajustează aceste setări pentru a se potrivi cu cazul tău de utilizare.

[[]]

[[]]

Limitări, erori și fereastră de context

Fereastra de context suportă un total de 100.000 de tokeni. Outputul maxim este de 16.000 de tokeni per cerere. Limitele de rată permit 300 de cereri pe minut. Cererile concurente sunt limitate la opt per cheie. O eroare 401 indică o cheie API invalidă. O eroare 402 înseamnă că nu aveți credit. O eroare 429 semnalează că sunteți limitat de rată. Corpurile cererilor nu trebuie să depășească 8 MB.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)