OpenAI-uyumlu api hızlı başlangıç

Perus-URL ja todennus

Aloita osoittamalla asiakasohjelma osoitteeseemme openai compatible endpoint. Aseta base_url muuttujaa https://api.openaipriceapi.com/v1 ja anna avaimesi valtuutusotsakkeeseen. Saat yhden aktiivisen avaimen tilille ja rekisteröityessäsi puhelinnumeroa ei vaadita. Perus-URL toimii virallisten SDK-kirjastojen kanssa, joten vaihdat vain URL-osoitetta ja avainta siirtyessäsi muilta tarjoajilta. Meidän openai price api maksaa kelvollisista tokenneista, virheet maksavat nolla ja luottokrediitti vanhenee. Säilytä avaimesi turvassa, koska se on ainoa tarvittava todennus kaikille pyynnöille.

Ensimmäinen chat-completion-pyyntö

Lähetä vakio POST-pyyntö chat-completions-päätepisteeseen. Anna mallitunnisteena "uncensored" ja sisällytä järjestelmä- ja käyttäjäviestit. API palauttaa tekstivastauksen valitussa muodossa, yleensä JSON- tai pelkkä teksti. Voit säätää parametreja kuten temperature ja top_p hallitaksesi luovuutta. Pyyntöruumiin tulee pysyä alle 8 MB:n kokoinen varmistamaan sujuva käsittely. Käytä alla olevaa curl-komentoa varmistaaksesi yhteyden ja saadaksesi ensimmäisen vastauksesi.

Python SDK -integraatio

Käytä virallista Python-kirjastoa vuorovaikutukseen palvelumme kanssa. Määritä asiakasohjelma base URL:llasi ja API-avaallasi. SDK käsittelee automaattisesti tokenisoinnin ja HTTP-pyynnöt. Voit lähettää useita viestejä yhdessä keskusteluyhteydessä. Malli tukee 100,000 tokenin kontekstiikkunaa pitkille dokumenteille. Streamaus on myös saatavilla Python-asiakasohjelman kautta. Käytä alla olevaa koodinpätkää alustaaksesi asiakasohjelman ja lähettääksesi viestin.

Node SDK -käyttö

Integroi Node.js:ään käyttämällä standardia npm-pakettia. Aseta ympäristömuuttujat tai välitä ne suoraan asiakasrakentajalle. Node SDK jäljittelee Python-liittymää johdonmukaisuuden vuoksi. Voit käsitellä virheet joustavasti ja jäsentää vastausobjektin. Funktiokutsut ja JSON-tila tuetaan suoraan. Tämä lähestymistapa sopii hyvin palvelimen puoleisille sovelluksille, jotka tarvitsevat luotettavaa tekstin tuotantoa. Seuraava koodinpätkä näyttää perusasetukset Node-ympäristöllesi.

Striimitettyjen vastausten käsittely

Ota käyttöön streamaus, jotta saat tokenit vastaanotettua niiden luomisen aikana. Tämä vähentää koettua viivettä pitkissä vastauksissa. Viimeinen palautus sisältää kokonaistokenkäytön tarkkaa laskutusta varten. Voit purkaa streamia päivittääksesi käyttöliittymää reaaliajassa. API käyttää Server-Sent Eventsia tähän protokollaan. Tämä menetelmä on ihanteellinen keskusteluliittymiin ja live-demonstrointeihin. Käytä alla olevaa esimerkkiä streamausasiakkaan toteuttamiseen, joka käsittelee tokenit tehokkaasti.

Rajoitukset, virheet ja kontekstiikkuna

Seuraa pyyntörajojasi välttääksesi keskeytyksiä. API sallii 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä per avain. Virhekoodi 401 tarkoittaa, että avain on virheellinen, kun taas 402 viittaa siihen, että rahaa ei ole. Vastauskoodi 429 merkitsee nopeusrajoitusta; odota ja yritä uudelleen. Kontesttilaakson koko on 100,000 tokenia syötteelle ja tulokselle yhteensä. Maksimi tulospituus on 16,000 tokenia, ellei aseta alempaa rajaa. Virheet ja hylkäykset ovat ilmaisia, joten maksat vain onnistuneista tokenista. Tämä läpinäkyvä laskutusmalli varmistaa, että tiedät tarkalleen, mitä käytöstäsi tulee.

cURL

Copycurl https://api.openaipriceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set timezone to UTC for log parsing"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipriceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipriceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)