Panduan Cepat: integrasi api tanpa sensor

Prasyarat: SDK dan variabel lingkungan

Mulai dengan menginstal SDK pilihan Anda dan mengatur kredensial Anda dalam variabel lingkungan. Layanan kami menggunakan endpoint yang kompatibel dengan OpenAI standar, sehingga library klien yang ada berfungsi tanpa modifikasi. Anda hanya memerlukan kunci API dari dasbor kami dan URL dasar untuk permintaan Anda. Tidak diperlukan wrapper kompleks atau header kustom untuk integrasi dasar.

Copycurl https://api.claudecostpermilliontokens.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current cost per million tokens for the Pro model?"}]
  }'

Pastikan variabel lingkungan Anda diekspor dengan benar sebelum menjalankan skrip Anda. Pendekatan ini menjaga autentikasi Anda tetap aman dan kode Anda portabel di berbagai lingkungan deployment.

Inisialisasi klien dengan URL dasar

Konfigurasikan pustaka klien Anda untuk mengarah ke URL dasar kami alih-alih endpoint penyedia default. Gunakan URL dasar yang disediakan dan kunci API Anda untuk menginisialisasi koneksi. Perubahan sederhana ini mengarahkan semua lalu lintas ke model uncensored kami sambil mempertahankan kompatibilitas dengan metode SDK standar.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudecostpermilliontokens.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Verifikasi koneksi dengan mencantumkan model yang tersedia. Langkah ini mengonfirmasi bahwa klien Anda terhubung dengan benar ke infrastruktur kami sebelum Anda mengirim prompt atau data apa pun.

Mengirimkan permintaan penyelesaian chat pertama Anda

Kirim permintaan penyelesaian chat standar menggunakan ID model uncensored. Model ini menangani input dan output teks tanpa penolakan konten untuk penggunaan dewasa yang sah. Anda dapat meneruskan pesan, mengatur suhu, dan menentukan parameter lain sebagaimana Anda lakukan dengan endpoint OpenAI-compatible lainnya.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudecostpermilliontokens.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Periksa respons untuk teks yang dihasilkan dan penggunaan token. Ini mengonfirmasi bahwa integrasi Anda berfungsi dengan benar dan bahwa model merespons prompt Anda sesuai harapan.

Menangani respons streaming dan token

Aktifkan streaming dengan mengatur parameter stream menjadi true dalam permintaan Anda. API mengembalikan potongan teks saat teks tersebut dihasilkan, memungkinkan Anda menampilkan output secara real-time. Setiap potongan mencakup data penggunaan token pada potongan terakhir, membantu Anda melacak konsumsi secara akurat.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Proses setiap potongan secara efisien untuk mempertahankan latensi rendah. Metode ini ideal untuk aplikasi di mana umpan balik segera sangat penting, seperti antarmuka obrolan atau alat generasi kode waktu nyata.

Menggunakan pemanggilan fungsi dan mode JSON

Manfaatkan pemanggilan fungsi dan mode JSON untuk output terstruktur. Atur format respons menjadi JSON untuk memastikan parsing yang konsisten di aplikasi Anda. Anda juga dapat menentukan alat dan menentukan pilihan alat untuk mengarahkan perilaku output model.

Parameter seperti temperature, top_p, dan urutan henti (stop sequences) memungkinkan penyesuaian gaya respons. Gunakan fitur ini untuk mengintegrasikan model secara mulus ke dalam alur kerja yang sudah ada.

Mengelola autentikasi dan batas

Kunci API Anda mengautentikasi semua permintaan, dengan error seperti 401 yang menunjukkan kunci tidak valid dan 402 yang menandakan kredit tidak cukup. Batas rate membatasi Anda pada 300 permintaan per menit dan 8 permintaan simultan per kunci. Context window mendukung hingga 100,000 token, dengan output maksimal 16,000 token per permintaan.

Pantau penggunaan Anda untuk menghindari gangguan. Kesalahan selama pemrosesan gratis, jadi Anda dapat mencoba permintaan lagi tanpa khawatir tentang konsumsi token. Jaga kunci Anda tetap aman dan ganti jika diperlukan melalui dasbor.