Hướng dẫn nhanh API tương thích OpenAI

Base URL và xác thực

Bắt đầu bằng cách trỏ client của bạn đến openai compatible endpoint. Đặt base_url biến để https://api.openaipriceapi.com/v1 và cung cấp khóa của bạn trong tiêu đề xác thực. Bạn nhận được một khóa hoạt động cho mỗi tài khoản và không cần số điện thoại khi đăng ký. URL cơ sở hoạt động với các SDK chính thức, vì vậy bạn chỉ cần thay đổi URL và khóa để chuyển từ các nhà cung cấp khác. Máy chủ của chúng tôi openai price api tính phí cho các token hợp lệ, lỗi không tốn phí và tín dụng không bao giờ hết hạn. Giữ khóa của bạn an toàn vì đó là thông tin xác thực duy nhất cần thiết cho mọi yêu cầu.

Yêu cầu chat completion đầu tiên

Gửi một yêu cầu POST tiêu chuẩn đến endpoint hoàn tất hội thoại. Truyền định danh mô hình là "uncensored" và bao gồm các lệnh nhắc hệ thống và người dùng của bạn. API trả về phản hồi văn bản ở định dạng đã chọn, thường là JSON hoặc văn bản thuần. Bạn có thể điều chỉnh các tham số như nhiệt độ và top_p để kiểm soát sự sáng tạo. Thân yêu cầu phải dưới 8 MB để đảm bảo xử lý mượt mà. Sử dụng lệnh curl bên dưới để xác minh kết nối và nhận phản hồi đầu tiên của bạn.

Tích hợp Python SDK

Sử dụng thư viện Python chính thức để tương tác với dịch vụ của chúng tôi. Cấu hình client với base URL và API key của bạn. SDK tự động xử lý tokenization và các yêu cầu HTTP. Bạn có thể gửi nhiều tin nhắn trong một ngữ cảnh hội thoại duy nhất. Model hỗ trợ cửa sổ ngữ cảnh 100,000 token cho các tài liệu dài. Streaming cũng có sẵn thông qua client Python. Sử dụng đoạn mã bên dưới để khởi tạo client và gửi một tin nhắn.

Sử dụng SDK Node

Tích hợp với Node.js bằng gói npm tiêu chuẩn. Đặt các biến môi trường hoặc truyền chúng trực tiếp vào hàm tạo client. SDK Node mô phỏng giao diện Python để đảm bảo tính nhất quán. Bạn có thể xử lý lỗi một cách duyên dáng và phân tích đối tượng phản hồi. Gọi hàm và chế độ JSON được hỗ trợ ngay từ đầu. Cách tiếp cận này hoạt động tốt cho các ứng dụng phía máy chủ cần tạo văn bản đáng tin cậy. Đoạn mã sau đây cho thấy thiết lập cơ bản cho môi trường Node của bạn.

Xử lý phản hồi phát trực tiếp

Bật chế độ streaming để nhận các token ngay khi chúng được tạo. Điều này giảm độ trễ cảm nhận cho các phản hồi dài. Chunk cuối cùng chứa tổng số token sử dụng để tính toán hóa đơn chính xác. Bạn có thể phân tích luồng để cập nhật giao diện người dùng theo thời gian thực. API sử dụng Server-Sent Events cho giao thức này. Phương pháp này lý tưởng cho giao diện trò chuyện và các bản demo trực tiếp. Sử dụng ví dụ bên dưới để triển khai máy khách streaming xử lý các token một cách hiệu quả.

Giới hạn, lỗi và cửa sổ ngữ cảnh

Theo dõi giới hạn yêu cầu của bạn để tránh gián đoạn. API cho phép 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Lỗi 401 có nghĩa là khóa của bạn không hợp lệ, trong khi 402 cho biết không còn tín dụng. Phản hồi 429 báo hiệu việc giới hạn tốc độ; hãy đợi và thử lại. Cửa sổ ngữ cảnh là 100,000 token cho cả đầu vào và đầu ra kết hợp. Đầu ra tối đa là 16,000 token trừ khi bạn đặt giới hạn thấp hơn. Các lỗi và từ chối đều miễn phí, vì vậy bạn chỉ trả tiền cho các token thành công. Mô hình tính phí minh bạch này đảm bảo bạn biết chính xác mình đã chi bao nhiêu.

cURL

Copycurl https://api.openaipriceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set timezone to UTC for log parsing"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipriceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipriceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)