Швидкий старт: Інтегруйте необмежений API

Передумови: SDK та змінні середовища

Почніть із встановлення бажаного SDK та встановлення облікових даних у змінних середовища. Наш сервіс використовує стандартні кінцеві точки, сумісні з OpenAI, тому існуючі клієнтські бібліотеки працюють без змін. Вам потрібен лише API-ключ з нашої панелі керування та базова URL-адреса для ваших запитів. Для базової інтеграції не потрібні складні обгортки або спеціальні заголовки.

Copycurl https://api.claudecostpermilliontokens.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current cost per million tokens for the Pro model?"}]
  }'

Переконайтеся, що ваші змінні середовища правильно експортовані перед запуском ваших скриптів. Цей підхід забезпечує безпеку вашої автентифікації та портативність коду в різних середовищах розгортання.

Ініціалізація клієнта з базовою URL-адресою

Налаштуйте бібліотеку клієнта, щоб вказувати на наш базовий URL замість типового ендпоінту постачальника. Використовуйте наданий базовий URL та свій ключ API для ініціалізації з'єднання. Ця проста зміна спрямовує весь трафік на нашу модель без цензури, зберігаючи сумісність зі стандартними методами SDK.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudecostpermilliontokens.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Перевірте з'єднання, перелічивши доступні моделі. Цей крок підтверджує, що ваш клієнт правильно маршрутизований до нашої інфраструктури, перш ніж ви надішлете будь-які фактичні запити або дані.

Надсилання вашого першого запиту на завершення чату

Надішліть стандартний запит на завершення чату за допомогою ідентифікатора моделі uncensored. Ця модель обробляє текстовий вхід і вихід без відмов для законного використання дорослого контенту. Ви можете передавати повідомлення, встановлювати температуру та визначати інші параметри так само, як і для будь-якого іншого OpenAI-сумісного ендпоінту.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudecostpermilliontokens.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Перевірте відповідь на наявність згенерованого тексту та використання токенів. Це підтверджує, що ваша інтеграція працює правильно і що модель реагує на ваші промпти очікуваним чином.

Обробка потокових відповідей та токенів

Увімкніть потокову передачу, встановивши параметр stream у true у своєму запиті. API повертає чанки тексту, як тільки вони генеруються, дозволяючи відображати вивід у реальному часі. Кожен чанк включає дані про використання токенів у фінальному чанку, що допомагає точно відстежувати споживання.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Обробляйте кожен фрагмент ефективно, щоб підтримувати низьку затримку. Цей метод ідеально підходить для додатків, де важливий миттєвий зворотний зв'язок, наприклад, у чат-інтерфейсах або інструментах генерації коду в реальному часі.

Використання виклику функцій та режиму JSON

Використовуйте виклик функцій та режим JSON для структурованих відповідей. Встановіть формат відповіді на JSON, щоб забезпечити послідовне парсингування у вашому додатку. Ви також можете визначити інструменти та вказати вибір інструментів, щоб керувати поведінкою моделі.

Параметри temperature, top_p та стоп-слова дозволяють точно налаштувати стиль відповіді. Використовуйте ці функції, щоб безперешкодно інтегрувати модель у ваш існуючий робочий процес.

Керування автентифікацією та лімітами

Ваш API-ключ автентифікує всі запити, помилки типу 401 вказують на недійсний ключ, а 402 сигналізує про недостатній баланс. Ліміти швидкості обмежують вас до 300 запитів на хвилину та 8 одночасних запитів на ключ. Вікно контексту підтримує до 100,000 токенів, з максимальною довжиною відповіді 16,000 токенів на запит.

Стежте за використанням, щоб уникнути переривань. Помилки під час обробки безкоштовні, тому ви можете повторювати запити, не турбуючись про споживання токенів. Зберігайте свій ключ у безпеці та замініть його, якщо потрібно, через панель моніторингу.