Uncensored geliştiriciler için LLM API dokümantasyonu

Temel URL ve kimlik doğrulama kurulumu

Tüm istekler için sağlanan temel URL'yi kullanın. Kimlik doğrulama, başlıkta gönderilen bir API anahtarı gerektirir. Anahtarınızı anında almak için Google veya e-posta ile kaydolun. Anahtar, kullanım faturalandırması için hesabınızı tanımlar. Ön ödemeli kripto kredisi isteklerinizi finanse eder. Hatalar ve reddetmeler krediyi tüketmez.

[[]]

[[]]

POST /v1/chat/completions örneği

Sohbet uç noktasına mesaj gönderin. Model kimliği "uncensored"dir. temperature gibi parametreleri ayarlayabilirsiniz. Yanıt oluşturulan metni içerir. Daha kolay entegrasyon için resmi SDK'ları kullanın. Temel URL'yi hizmetimize işaret edecek şekilde değiştirin. Başlıklar API anahtarınızı içermelidir. İstek gövdesi konuşma geçmişini tanımlar.

[[]]

[[]]

SSE aracılığıyla akış yanıtları

Akış özelliğini etkinleştirmek için stream parametresini ayarlayın. Oluşturuldukları anda metin parçaları alırsınız. Bu, uzun yanıtlar için algılanan gecikmeyi azaltır. Sunucu Gönderilen Olaylar formatını doğru ayrıştırın. Token kullanımı son parçada bildirilir. Bu yöntem gerçek zamanlı gösterimler için iyi çalışır. Genel olarak daha akıcı bir kullanıcı deneyimi sağlar.

[[]]

[[]]

Fonksiyon çağırma ve JSON modu

Modelin çağırması için araçlar tanımlayın. Model, bu araçlar için yapılandırılmış argümanlar döndürür. Ayrıca sıkı JSON çıktısını da zorlayabilirsiniz. Yanıt formatını json_object olarak ayarlayın. Bu, uygulamanız için öngörülebilir ayrışmayı sağlar. Dinamik davranış için araçları akış (streaming) ile birleştirin. Model hem yapılandırılmış hem de konuşma tabanlı çıktıları destekler.

[[]]

[[]]

Parametreler: sıcaklık, top_p ve stop

Rastgeleliği temperature ve top_p ile kontrol edin. Daha yüksek değerler yanıtları daha yaratıcı yapar. Daha düşük değerler onları daha deterministik yapar. Üretimi durdurmak için stop parametresini kullanın. Bu, yanıt uzunluğunu ve biçimini kontrol etmeye yardımcı olur. Seed değerleri tekrarlanabilir sonuçlar sağlar. Varlık ve sıklık cezaları kelime tekrarını ayarlar. Kullanım durumunuza uymak için bu ayarları düzenleyin.

[[]]

[[]]

Limitler, hatalar ve bağlam penceresi

Bağlam penceresi toplamda 100.000 jetonu destekler. Maksimum çıktı, istek başına 16.000 tokendir. Hız sınırları dakikada 300 isteklere izin verir. Eşzamanlı istekler anahtar başına sekizle sınırlandırılmıştır. 401 hatası geçersiz bir API anahtarı olduğunu gösterir. 402 hatası krediniz olmadığını belirtir. 429 hatası hız sınırına takıldığınızı işaret eder. İstek gövdeleri 8 MB'ı aşmamalıdır.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akış

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)