OpenAI-kompatibilis API gyors kezdés

Base URL és hitelesítés

Kezdje azzal, hogy az ügyfélklienst a openai compatible endpoint. Állítsa be a base_url változót https://api.openaipriceapi.com/v1 és adja meg a kulcsot az Authorization fejlécbe. Fiontonként egy aktív kulcsot kap, és a regisztráció során nem szükséges telefonszám megadása. Az alap URL működik a hivatalos SDK-kkal, így csak az URL-t és a kulcsot kell megváltoztatnia a másik szolgáltatóhoz való váltáskor. A mi openai price api érvényes tokenek után számít fel díjat, a hibák költsége nulla, és a hitel nem jár le. Tartsa biztonságban a kulcsát, mert ez az egyetlen hitelesítő adat az összes kéréshez.

Első chat completion kérés

Küldjön egy szabványos POST kérést a chat completions végpontra. Adja meg a modellazonosítót "uncensored" értékre, és tartalmazza a rendszer- és felhasználói promptokat. Az API szövegválaszt ad vissza a választott formátumban, általában JSON vagy sima szöveg formátumban. A paramétereket, például a temperature és top_p értékeket állíthatja a kreativitás szabályozására. A kérés törzse 8 MB alatt kell maradjon a zökkenőmentes feldolgozás érdekében. Használja az alábbi curl parancsot a kapcsolódás ellenőrzésére és az első válasz megszerzésére.

Python SDK integráció

Használja a hivatalos Python könyvtárat a szolgáltatásunk kezeléséhez. Konfigurálja a klienst a base URL-vel és az API kulcsával. A SDK automatikusan kezeli a tokenizálást és az HTTP kéréseket. Egyetlen beszélgetési kontextusban több üzenetet is küldhet. A modell 100,000 tokenes kontextusablakot támogat a hosszú dokumentumokhoz. A streamelés is elérhető a Python kliensen keresztül. Használja az alábbi kódrészletet a kliens inicializálásához és egy üzenet küldéséhez.

Node SDK használat

Integráljon Node.js-be a szabványos npm csomaggal. Állítsa be a környezeti változókat, vagy adja át őket közvetlenül a kliens konstruktorának. A Node SDK tükrözi a Python felületet a konzisztencia érdekében. Kezelheti a hibákat gracefully, és feldolgozhatja a válasz objektumot. A function calling és a JSON mód alapértelmezetten támogatott. Ez a megközelítés jól működik olyan szerveroldali alkalmazásokhoz, amelyek megbízható szöveggenerálást igényelnek. A következő snippet bemutatja az alapvető beállítást a Node környezetéhez.

Streamelt válaszok kezelése

A tokenok streamelése lehetővé teszi, hogy azokat azonnal fogadjuk, amint azok generálódnak. Ez csökkenti az észlelt késést hosszú kimenetek esetén. Az utolsó csomag tartalmazza a teljes tokenfelhasználást a pontos számlázás érdekében. Elemezheti a streamet a felhasználói felület valós idejű frissítéséhez. Az API a Server-Sent Events protokollt használja erre. Ez a módszer ideális chat felületekhez és élő bemutatókhoz. Használja az alábbi példát egy streamelő kliens implementálásához, amely hatékonyan dolgozza fel a tokeneket.

Korlátok, hibák és kontextus ablak

Kövesse a kérelemkorlátokat a megszakítások elkerülése érdekében. Az API percenként 300 kérelmet és kulcsonként 8 párhuzamos kérelmet engedélyez. A 401-es hiba azt jelenti, hogy a kulcs érvénytelen, a 402 pedig azt, hogy nincs credit. A 429-es válasz az átfolyási korlátot jelzi; várjon, és próbálja újra. A kontextusablak 100,000 tokenből áll bemenet és kimenet együtt. A maximális kimenet 16,000 token, hacsak nem állít be alacsonyabb limitet. A hibák és elutasítások ingyenesek, így csak a sikeres tokenekért fizet. Ez a transzparens számlázási modell biztosítja, hogy pontosan tudja, mennyit költ.

cURL

Copycurl https://api.openaipriceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set timezone to UTC for log parsing"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipriceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipriceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)