Швидкий старт зі сумісним з OpenAI API

Базова URL-адреса та аутентифікація

Почніть з того, щоб вказати клієнту на нашу openai compatible endpoint. Встановіть base_url змінну на https://api.openaipriceapi.com/v1 та надайте свій ключ у заголовку авторизації. Ви отримуєте один активний ключ на акаунт, і під час реєстрації не потрібно вказувати номер телефону. Базовий URL сумісний з офіційними SDK, тому вам потрібно лише змінити URL та ключ, щоб перейти від інших постачальників. Наші openai price api збитки за дійсні токени, помилки коштують нуль, і кредит ніколи не закінчується. Зберігайте свій ключ у безпеці, тому що це єдиний обліковий запис, необхідний для всіх запитів.

Перший запит завершення діалогу

Надішліть стандартний POST-запит до кінцевого пункту chat completions. Передайте ідентифікатор моделі як "uncensored" та включіть ваші системні та користувацькі промпти. API повертає текстову відповідь у вибраному форматі, зазвичай JSON або звичайний текст. Ви можете налаштувати параметри, такі як temperature та top_p, щоб контролювати креативність. Тіло запиту має бути менше 8 МБ для забезпечення плавної обробки. Використовуйте наведену нижче команду curl для перевірки з’єднання та отримання першої відповіді.

Інтеграція Python SDK

Використовуйте офіційну бібліотеку Python для взаємодії з нашим сервісом. Налаштуйте клієнт з вашим базовим URL та API-ключем. SDK автоматично обробляє токенизацію та HTTP-запити. Ви можете надсилати кілька повідомлень в одному контексті розмови. Модель підтримує вікно контексту в 100,000 токенів для довгих документів. Доступний також потоковий режим через Python клієнт. Використовуйте наведений нижче фрагмент коду для ініціалізації клієнта та надсилання повідомлення.

Використання Node SDK

Інтегруйте з Node.js, використовуючи стандартний пакет npm. Встановіть змінні середовища або передайте їх безпосередньо в конструктор клієнта. Node SDK відображає інтерфейс Python для узгодженості. Ви можете акуратно обробляти помилки та парсити об'єкт відповіді. Виклик функцій та режим JSON підтримуються з коробки. Цей підхід добре працює для серверних додатків, яким потрібне надійне генерування тексту. Наведений нижче фрагмент показує базову конфігурацію для вашого середовища Node.

Обробка потокових відповідей

Увімкніть потокову передачу, щоб отримувати токени по мірі їх генерації. Це зменшує сприйняту затримку для довгих відповідей. Останній фрагмент містить загальне використання токенів для точної оплати. Ви можете аналізувати потік, щоб оновлювати інтерфейс у реальному часі. API використовує події, що надсилаються сервером (SSE) для цього протоколу. Цей метод ідеально підходить для чат-інтерфейсів та живих демонстрацій. Використовуйте наведений нижче приклад, щоб реалізувати клієнта потокової передачі, який ефективно обробляє токени.

Ліміти, помилки та контекстне вікно

Моніторьте ліміти запитів, щоб уникнути переривань. API дозволяє 300 запитів на хвилину та 8 одночасних запитів на ключ. Помилка 401 означає, що ваш ключ недійсний, а 402 — що немає коштів. Відповідь 429 сигналізує про перевищення ліміту швидкості; зачекайте та повторіть спробу. Контекстне вікно становить 100,000 токенів для вхідних і вихідних даних разом. Максимальний обсяг виходу — 16,000 токенів, якщо ви не встановили нижчий ліміт. Помилки та відмови є безкоштовними, тому ви платите лише за успішні токени. Ця прозора модель розрахунків гарантує, що ви точно знаєте, скільки витрачаєте.

cURL

Copycurl https://api.openaipriceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set timezone to UTC for log parsing"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipriceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipriceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)