Tài liệu API llm không kiểm duyệt cho nhà phát triển

Thiết lập Base URL và xác thực

Sử dụng URL gốc cho tất cả các yêu cầu. Xác thực yêu cầu khóa API được gửi trong tiêu đề. Đăng ký qua Google hoặc email để nhận khóa của bạn ngay lập tức. Khóa này xác định tài khoản của bạn để tính phí sử dụng. Tín dụng crypto trả trước tài trợ cho các yêu cầu của bạn. Lỗi và từ chối không tiêu thụ tín dụng.

[[]]

[[]]

Ví dụ POST /v1/chat/completions

Gửi tin nhắn đến endpoint chat. Model id là "uncensored". Bạn có thể điều chỉnh các tham số như temperature. Phản hồi chứa văn bản được tạo. Sử dụng các SDK chính thức để tích hợp dễ dàng hơn. Thay đổi base URL để trỏ đến dịch vụ của chúng tôi. Headers phải bao gồm API key của bạn. Thân yêu cầu xác định lịch sử hội thoại.

[[]]

[[]]

Các phản hồi dạng stream thông qua SSE

Bật chế độ stream bằng cách đặt tham số stream. Bạn nhận được các chunk văn bản khi chúng được tạo. Điều này giảm độ trễ cảm nhận đối với các phản hồi dài. Phân tích định dạng Server-Sent Events một cách chính xác. Việc sử dụng token được báo cáo trong chunk cuối cùng. Phương pháp này hoạt động tốt cho các hiển thị theo thời gian thực. Nó mang lại trải nghiệm người dùng mượt mà hơn tổng thể.

[[]]

[[]]

Gọi hàm và chế độ JSON

Định nghĩa các công cụ cho mô hình gọi. Mô hình trả về các đối số có cấu trúc cho các công cụ này. Bạn cũng có thể áp dụng đầu ra JSON nghiêm ngặt. Đặt định dạng phản hồi thành json_object. Điều này đảm bảo việc phân tích dự đoán cho ứng dụng của bạn. Kết hợp các công cụ với streaming để có hành vi động. Mô hình hỗ trợ cả đầu ra có cấu trúc và trò chuyện.

[[]]

[[]]

Tham số: nhiệt độ, top_p và stop

Kiểm soát độ ngẫu nhiên với temperature và top_p. Giá trị cao hơn làm cho các phản hồi sáng tạo hơn. Giá trị thấp hơn làm cho chúng mang tính xác định hơn. Sử dụng tham số stop để dừng quá trình sinh văn bản. Điều này giúp kiểm soát độ dài và định dạng của phản hồi. Các giá trị seed cho phép kết quả có thể tái lập. Các hình phạt về sự hiện diện và tần suất (presence and frequency penalties) điều chỉnh sự lặp lại của từ ngữ. Điều chỉnh các cài đặt này để phù hợp với trường hợp sử dụng của bạn.

[[]]

[[]]

Giới hạn, lỗi và cửa sổ ngữ cảnh

Cửa sổ ngữ cảnh hỗ trợ tổng cộng 100.000 token. Lượng output tối đa là 16.000 token mỗi yêu cầu. Giới hạn tốc độ cho phép 300 yêu cầu mỗi phút. Các yêu cầu đồng thời được giới hạn ở tám mỗi key. Lỗi 401 cho biết API key không hợp lệ. Lỗi 402 có nghĩa là bạn không có credit. Lỗi 429 báo hiệu rằng bạn bị giới hạn tốc độ. Thân yêu cầu không được vượt quá 8 MB.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)