Uncensored LLM API 개발자 문서

Base URL 및 인증 설정

모든 요청에 제공된 베이스 URL을 사용하세요. 인증은 헤더에 전송된 API 키가 필요합니다. Google 또는 이메일을 통해 가입하여 즉시 키를 받으세요. 이 키는 사용량 과금을 위해 계정을 식별합니다. 선불 크립토 크레딧이 요청에 자금을 지원합니다. 오류 및 거절은 크레딧을 소모하지 않습니다.

[[]]

[[]]

POST /v1/chat/completions 예시

채팅 엔드포인트로 메시지를 전송하세요. 모델 ID는 "uncensored"입니다. temperature과 같은 매개변수를 조정할 수 있습니다. 응답에는 생성된 텍스트가 포함됩니다. 더 쉬운 통합을 위해 공식 SDK를 사용하세요. base URL을 우리 서비스로 변경하세요. 헤더에는 API 키가 포함되어야 합니다. 요청 본문은 대화 기록을 정의합니다.

[[]]

[[]]

SSE를 통한 스트리밍 응답

stream 파라미터를 설정하여 스트리밍을 활성화하세요. 생성되는 대로 텍스트 청크를 받습니다. 이는 긴 응답의 지각된 지연 시간을 줄입니다. Server-Sent Events 형식을 올바르게 구문 분석하세요. 토큰 사용량은 마지막 청크에 보고됩니다. 이 방식은 실시간 표시에 잘 작동합니다. 전반적으로 더 부드러운 사용자 경험을 제공합니다.

[[]]

[[]]

함수 호출 및 JSON 모드

모델이 호출할 도구를 정의하세요. 모델은 이러한 도구에 대한 구조화된 인수를 반환합니다. 엄격한 JSON 출력을 강제할 수도 있습니다. 응답 형식을 json_object로 설정하세요. 이는 애플리케이션을 위한 예측 가능한 구문 분석을 보장합니다. 스트리밍과 도구를 결합하여 동적 동작을 구현하세요. 모델은 구조화된 출력과 대화식 출력을 모두 지원합니다.

[[]]

[[]]

파라미터: temperature, top_p 및 stop

temperature와 top_p로 무작위성을 제어하세요. 높은 값은 응답을 더 창의적으로 만듭니다. 낮은 값은 더 결정론적으로 만듭니다. stop 매개변수를 사용하여 생성을 중단하세요. 이는 응답 길이와 형식을 제어하는 데 도움이 됩니다. seed 값은 재현 가능한 결과를 제공합니다. presence 및 frequency penalty는 단어 반복을 조정합니다. 사용 사례에 맞게 이러한 설정을 조정하세요.

[[]]

[[]]

제한 사항, 오류 및 컨텍스트 윈도우

컨텍스트 창은 총 100,000개의 토큰을 지원합니다. 최대 출력은 요청당 16,000개 토큰입니다. 속도 제한은 분당 300개의 요청을 허용합니다. 키당 동시 요청은 8개로 제한됩니다. 401 오류는 유효하지 않은 API 키를 나타냅니다. 402 오류는 크레딧이 없음을 의미합니다. 429 오류는 속도 제한에 도달했음을 신호합니다. 요청 본문은 8 MB를 초과할 수 없습니다.

[[]]

[[]]

cURL

Copycurl https://api.uncensoredlocalllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the area of a circle with radius 5"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)