Obegränsad LLM-API-dokumentation för utvecklare

Bas URL och autentisering setup

Använd den angivna bas-URL:en för alla förfrågningar. Autentisering kräver ett API-nyckel som skickas i header. Registrera dig via Google eller e-post för att få din nyckel omedelbart. Nyckeln identifierar ditt konto för användningsfakturering. Förbetalt kryptokredit fyller på dina förfrågningar. Fel och avslag konsumerar inte kredit.

[[]]

[[]]

POST /v1/chat/completions exempel

Skicka meddelanden till chattslutpunkten. Modell-ID:t är "uncensored". Du kan justera parametrar som temperatur. Svaret innehåller den genererade texten. Använd officiella SDK:er för enklare integration. Ändra bas-URL:en för att peka på vår tjänst. Headers måste inkludera ditt API-nyckel. Request-bodyn definierar samtalshistoriken.

[[]]

[[]]

Streaming-responder via SSE

Aktivera strömning genom att ställa in stream-parametern. Du tar emot textbitar när de genereras. Detta minskar den upplevda latensen för långa svar. Analysera formatet för Server-Sent Events korrekt. Tokenanvändning rapporteras i den sista biten. Denna metod fungerar bra för realtidsvisningar. Den ger en smidigare användarupplevelse överlag.

[[]]

[[]]

Function calling och JSON-läge

Definiera verktyg som modellen kan anropa. Modellen returnerar strukturerade argument för dessa verktyg. Du kan också tvinga fram strikt JSON-utdata. Ställ in response format till json_object. Detta säkerställer förutsägbar parsning för din applikation. Kombinera verktyg med streaming för dynamiskt beteende. Modellen stöder både strukturerade och konversationella utdata.

[[]]

[[]]

Parametrar: temperatur, top_p och stop

Styr slumpmässigheten med temperatur och top_p. Högre värden gör svaren mer kreativa. Lägre värden gör dem mer deterministiska. Använd stop-parametern för att avbryta genereringen. Detta hjälper till att kontrollera svarets längd och format. Seed-värden möjliggör reproducerbara resultat. Närvaro- och frekvensstraff justerar ordupprepning. Justera dessa inställningar efter ditt användningsfall.

[[]]

[[]]

Gränser, fel och kontextfönster

Kontextrutan stöder totalt 100 000 tokens. Maximal utmatning är 16 000 tokens per begäran. Hastighetsbegränsningar tillåter 300 begäran per minut. Samtidiga begäran är begränsade till åtta per nyckel. Ett 401-fel indikerar en ogiltig API-nyckel. Ett 402-fel betyder att du har ingen kredit. Ett 429-fel signalerar att du är hastighetsbegränsad. Begäranens kropp får inte överstiga 8 MB.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strömning

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)