Permulaan pantas API serasi OpenAI

URL Asas dan pengesahan

Mula-mula, arahkan klien anda ke openai compatible endpoint. Tetapkan base_url pemboleh ubah ke https://api.openaipriceapi.com/v1 dan berikan kunci anda dalam header pengesahan. Anda mendapat satu kunci aktif per akaun dan tiada nombor telefon diperlukan semasa pendaftaran. URL asas berfungsi dengan SDK rasmi, jadi anda hanya perlu menukar URL dan kunci untuk beralih dari penyedia lain. Our openai price api caj untuk token sah, ralat kos sifar, dan kredit tidak luput. Simpan kunci anda dengan selamat kerana ia satu-satunya kelayakan yang diperlukan untuk semua permintaan.

Permintaan penyelesaian chat pertama

Permintaan POST standard ke endpoint penyelesaian chat. Lalui pengenal model sebagai "uncensored" dan sertakan prompt sistem dan pengguna anda. API mengembalikan respons teks dalam format yang dipilih, biasanya JSON atau teks biasa. Anda boleh menyesuaikan parameter seperti suhu dan top_p untuk mengawal kreativiti. Badan permintaan mesti kekal di bawah 8 MB untuk memastikan pemprosesan lancar. Gunakan arahan curl di bawah untuk mengesahkan sambungan dan mendapatkan respons pertama anda.

Python SDK integration

Gunakan perpustakaan Python rasmi untuk berinteraksi dengan perkhidmatan kami. Konfigurasikan klien dengan URL asas dan kunci API anda. SDK mengendalikan tokenisasi dan permintaan HTTP secara automatik. Anda boleh menghantar berbilang mesej dalam konteks perbualan tunggal. Model menyokong tetingkap konteks 100,000 token untuk dokumen panjang. Aliran juga tersedia melalui klien Python. Gunakan petikan kod di bawah untuk memulakan klien dan menghantar mesej.

Penggunaan SDK Node

Integrasi dengan Node.js menggunakan pakej npm standard. Tetapkan pembolehubah persekitaran atau luluskan terus kepada konstruktor klien. SDK Node meniru antara muka Python untuk konsistensi. Anda boleh menangani ralat dengan baik dan menguraikan objek respons. Panggilan fungsi dan mod JSON disokong secara luar kotak. Pendekatan ini berfungsi dengan baik untuk aplikasi sisi pelayan yang memerlukan penjanaan teks yang boleh dipercayai. Snipet berikut menunjukkan persediaan asas untuk persekitaran Node anda.

Mengendalikan respons aliran

Aktifkan penstriman untuk menerima token sejajar dengan penjanaan. Ini mengurangkan latensi yang dirasakan untuk respons panjang. Segmen akhir mengandungi jumlah penggunaan token untuk pengebilan yang tepat. Anda boleh menafsirkan aliran untuk mengemas kini antara muka pengguna secara masa nyata. API menggunakan Peristiwa Dihantar Pelayan untuk protokol ini. Kaedah ini sangat sesuai untuk antara muka sembang dan demonstrasi langsung. Gunakan contoh di bawah untuk melaksanakan klien penstriman yang memproses token dengan cekap.

Had, ralat, dan tetingkap konteks

Pantau had permintaan anda untuk mengelakkan gangguan. API ini membenarkan 300 permintaan setiap minit dan 8 permintaan serentak setiap kunci. Ralat 401 bermaksud kunci anda tidak sah, manakala 402 menunjukkan tiada kredit. Respon 429 menandakan had kadar; tunggu dan cuba lagi. Tetingkap konteks ialah 100,000 token untuk input dan output digabungkan. Output maksimum ialah 16,000 token melainkan anda menetapkan had yang lebih rendah. Ralat dan penolakan adalah percuma, jadi anda hanya membayar untuk token berjaya. Model pengebilan telus ini memastikan anda mengetahui tepat berapa banyak yang dibelanjakan.

cURL

Copycurl https://api.openaipriceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set timezone to UTC for log parsing"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipriceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipriceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)