Быстрый старт с API, совместимым с OpenAI

Базовый URL и аутентификация

Начните с указания клиента на наш openai compatible endpoint. Установите base_url переменная на https://api.openaipriceapi.com/v1 и укажите ключ в заголовке авторизации. На один аккаунт приходится один активный ключ, и при регистрации не требуется номер телефона. Базовый URL совместим с официальными SDK, поэтому для перехода от других провайдеров достаточно изменить URL и ключ. Наш openai price api взимает плату за валидные токены, ошибки обходятся бесплатно, а кредит не истекает. Храните свой ключ в безопасности, так как это единственное удостоверение, необходимое для всех запросов.

Первый запрос на completion чата

Отправьте стандартный POST-запрос в конечный пункт chat completions. Передайте идентификатор модели как "uncensored" и включите ваши системные и пользовательские подсказки. API возвращает текстовый ответ в выбранном формате, обычно JSON или обычный текст. Вы можете настроить параметры, такие как temperature и top_p, чтобы контролировать креативность. Тело запроса должно оставаться в пределах 8 МБ для обеспечения плавной обработки. Используйте приведенную ниже команду curl для проверки подключения и получения первого ответа.

Интеграция Python SDK

Используйте официальную библиотеку Python для взаимодействия с нашим сервисом. Настройте клиент с вашим базовым URL и API-ключом. SDK автоматически обрабатывает токенизацию и HTTP-запросы. Вы можете отправлять несколько сообщений в рамках одного контекста разговора. Модель поддерживает контекстное окно в 100,000 токенов для длинных документов. Потоковая передача также доступна через Python-клиент. Используйте приведённый ниже фрагмент кода для инициализации клиента и отправки сообщения.

Использование Node SDK

Интегрируйтесь с Node.js, используя стандартный пакет npm. Установите переменные окружения или передайте их напрямую в конструктор клиента. SDK Node зеркалит интерфейс Python для согласованности. Вы можете корректно обрабатывать ошибки и разбирать объект ответа. Вызов функций и режим JSON поддерживаются из коробки. Этот подход хорошо работает для серверных приложений, нуждающихся в надежной генерации текста. Следующий фрагмент показывает базовую настройку для вашей среды Node.

Обработка потоковых ответов

Включите потоковую передачу, чтобы получать токены по мере их генерации. Это снижает воспринимаемую задержку для длинных выводов. Последний чанк содержит общее использование токенов для точного выставления счетов. Вы можете анализировать поток для обновления пользовательского интерфейса в реальном времени. API использует события, отправляемые сервером (SSE) для этого протокола. Этот метод идеален для интерфейсов чата и живых демонстраций. Используйте пример ниже для реализации клиента потоковой передачи, который эффективно обрабатывает токены.

Лимиты, ошибки и контекстное окно

Следите за лимитами запросов, чтобы избежать сбоев. API позволяет выполнять 300 запросов в минуту и 8 одновременных запросов на ключ. Ошибка 401 означает, что ваш ключ недействителен, а 402 указывает на отсутствие средств. Ответ 429 сигнализирует о превышении лимита скорости; подождите и повторите попытку. Размер контекстного окна составляет 100,000 токенов для входных и выходных данных в совокупности. Максимальный объем вывода — 16,000 токенов, если вы не установите меньшее ограничение. Ошибки и отказы бесплатны, поэтому вы платите только за успешные токены. Эта прозрачная модель биллинга гарантирует, что вы точно знаете, сколько тратите.

cURL

Copycurl https://api.openaipriceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set timezone to UTC for log parsing"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipriceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipriceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)