Rychlý start s API kompatibilním s OpenAI

Základní URL a ověření

Začněte tím, že nasměrujete svého klienta na naši openai compatible endpoint. Nastavte base_url proměnnou na https://api.openaipriceapi.com/v1 a zadejte svůj klíč do hlavičky autorizace. Na účet máte jeden aktivní klíč a při registraci není vyžadováno telefonní číslo. Základní URL funguje s oficiálními SDK, takže pro přechod od jiných poskytovatelů stačí změnit URL a klíč. Naše openai price api účtuje za platné tokeny, chyby stojí nulu a kredit nevyprší. Uchovávejte svůj klíč v bezpečí, protože je jediným pověřením potřebným pro všechny požadavky.

První dokončení chatu

Odeslejte standardní POST požadavek na koncový bod chat completions. Předávejte identifikátor modelu jako "uncensored" a zahrňte své systémové a uživatelské podněty. API vrátí textovou odpověď ve zvoleném formátu, obvykle JSON nebo prostý text. Parametry jako teplota a top_p můžete upravit pro ovládání kreativity. Tělo požadavku musí být menší než 8 MB, aby bylo zajištěno plynulé zpracování. Použijte níže uvedený příkaz curl pro ověření připojení a získání první odpovědi.

Integrace Python SDK

Použijte oficiální Python knihovnu pro interakci s naší službou. Nakonfigurujte klienta s vaší základní URL a API klíčem. SDK automaticky řeší tokenizaci a HTTP požadavky. Do jednoho kontextu konverzace můžete odeslat více zpráv. Model podporuje kontextové okno o velikosti 100,000 tokenů pro dlouhé dokumenty. Streamování je také k dispozici prostřednictvím Python klienta. Pomocí níže uvedeného úryvku kódu inicializujte klienta a odešlete zprávu.

Využití SDK pro Node

Integrujte do Node.js pomocí standardního balíčku npm. Nastavte proměnné prostředí nebo je předáte přímo do konstruktoru klienta. Node SDK zrcadlí rozhraní Pythonu pro konzistenci. Chyby můžete elegantně zpracovat a parsovat objekt odpovědi. Volání funkcí a režim JSON jsou podporovány přímo. Tento přístup dobře funguje pro aplikace na straně serveru potřebující spolehlivou generaci textu. Následující ukázka ukazuje základní nastavení pro vaše prostředí Node.js.

Zvládání streamovaných odpovědí

Povolte streamování pro příjem tokenů v okamžiku jejich generování. To snižuje vnímanou latenci u dlouhých výstupů. Poslední fragment obsahuje celkové využití tokenů pro přesné fakturace. Stream můžete parsovat pro aktualizaci uživatelského rozhraní v reálném čase. API pro tento protokol používá Server-Sent Events. Tato metoda je ideální pro chatová rozhraní a živá demo. Pomocí příkladu níže implementujte streamovacího klienta, který efektivně zpracovává tokeny.

Limity, chyby a kontextové okno

Sledujte své limity požadavků, abyste předešli přerušení služby. API umožňuje 300 požadavků za minutu a 8 souběžných požadavků na klíč. Chyba 401 znamená, že váš klíč je neplatný, zatímco 402 indikuje nedostatek kreditu. Odpověď 429 signalizuje omezení rychlosti; počkejte a zkuste to znovu. Okno kontextu má 100 000 tokenů pro vstup i výstup dohromady. Maximální výstup je 16 000 tokenů, pokud nezadáte nižší limit. Chyby a odmítnutí jsou zdarma, takže platíte pouze za úspěšné tokeny. Tento transparentní model fakturace zajišťuje, že přesně víte, kolate utratíte.

cURL

Copycurl https://api.openaipriceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set timezone to UTC for log parsing"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipriceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipriceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)