Szybki start z API kompatybilnym z OpenAI

Bazowy URL i autoryzacja

Zacznij od wskazania klienta na nasz openai compatible endpoint. Ustaw base_url zmienną do https://api.openaipriceapi.com/v1 i podaj swój klucz w nagłówku autoryzacji. Masz jeden aktywny klucz na konto, a podczas rejestracji nie jest wymagany numer telefonu. Podstawowy adres URL działa z oficjalnymi SDK, więc wystarczy zmienić adres URL i klucz, aby przełączyć się z innych dostawców. Nasze openai price api obciążenia za poprawne tokeny, błędy kosztują zero, a kredyt nie wygasa. Chroń swój klucz, ponieważ jest to jedyne poświadczenie wymagane do wszystkich żądań.

Pierwsze żądanie completion czatu

Wyślij standardowe żądanie POST do endpointu chat completions. Przekaż identyfikator modelu jako "uncensored" i dołącz swoje prompty systemowe i użytkownika. API zwraca odpowiedź tekstową w wybranym formacie, zazwyczaj JSON lub tekst zwykły. Możesz dostosować parametry takie jak temperatura i top_p, aby kontrolować kreatywność. Ciało żądania musi mieścić się w limicie 8 MB, aby zapewnić płynne przetwarzanie. Użyj poniższego polecenia curl, aby zweryfikować łączność i uzyskać swoją pierwszą odpowiedź.

Integracja Python SDK

Korzystaj z oficjalnej biblioteki Pythona, aby komunikować się z naszą usługą. Skonfiguruj klienta, podając base URL i klucz API. SDK automatycznie obsługuje tokenizację i żądania HTTP. Możesz wysyłać wiele wiadomości w ramach jednej kontekstu rozmowy. Model obsługuje okno kontekstu o rozmiarze 100,000 tokenów dla długich dokumentów. Dostępne jest również strumieniowanie za pomocą klienta Pythona. Użyj poniższego fragmentu kodu, aby zainicjować klienta i wysłać wiadomość.

Użycie SDK Node

Zintegruj się z Node.js, korzystając ze standardowego pakietu npm. Ustaw zmienne środowiskowe lub przekaż je bezpośrednio do konstruktora klienta. SDK Node odzwierciedla interfejs Pythona dla spójności. Możesz obsługiwać błędy w sposób elegancki i parsować obiekt odpowiedzi. Wywoływanie funkcji i tryb JSON są obsługiwane od razu. To podejście dobrze sprawdza się w aplikacjach po stronie serwera wymagających niezawonnej generacji tekstu. Poniższy fragment kodu pokazuje podstawowe ustawienie dla Twojego środowiska Node.

Obsługa odpowiedzi strumieniowych

Włącz strumieniowanie, aby otrzymywać tokeny w miarę ich generowania. Zmniejsza to postrzeganą opóźnienie dla długich odpowiedzi. Ostatni fragment zawiera całkowite zużycie tokenów do dokładnej rozliczenia. Możesz parsować strumień, aby aktualizować interfejs użytkownika w czasie rzeczywistym. API używa zdarzeń wysyłanych serwerowo dla tego protokołu. Ta metoda jest idealna dla interfejsów czatu i pokazów na żywo. Użyj poniższego przykładu, aby zaimplementować klienta strumieniowego, który efektywnie przetwarza tokeny.

Limity, błędy i okno kontekstu

Monitoruj swoje limity zapytań, aby uniknąć przerw. API pozwala na 300 zapytań na minutę i 8 równoległych zapytań na klucz. Błąd 401 oznacza, że Twój klucz jest nieprawidłowy, podczas gdy 402 wskazuje na brak środków. Odpowiedź 429 sygnalizuje przekroczenie limitu szybkości; odczekaj i spróbuj ponownie. Okno kontekstowe wynosi 100,000 tokenów dla sumy danych wejściowych i wyjściowych. Maksymalna ilość danych wyjściowych to 16,000 tokenów, chyba że ustawisz niższy limit. Błędy i odrzucenia są darmowe, więc płacisz tylko za poprawnie wygenerowane tokeny. Ten przejrzysty model rozliczeń zapewnia, że dokładnie wiesz, ile wydajesz.

cURL

Copycurl https://api.openaipriceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set timezone to UTC for log parsing"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipriceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipriceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)