Pengenalan: integrasi API tanpa sensor

Prasyarat: SDK dan pembolehubah persekitaran

Mula dengan memasang SDK pilihan anda dan menetapkan kelayakan anda dalam pembolehubah persekitaran. Perkhidmatan kami menggunakan hujung sambungan serasi OpenAI piawai, jadi pustaka klien sedia ada berfungsi tanpa pengubahsuaian. Anda hanya memerlukan kunci API dari papan pemuka kami dan URL asas untuk permintaan anda. Tiada pembungkus kompleks atau pengepala tersuai diperlukan untuk integrasi asas.

Copycurl https://api.claudecostpermilliontokens.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current cost per million tokens for the Pro model?"}]
  }'

Pastu pemboleh ubah persekitaran anda dieksport dengan betul sebelum menjalankan skrip anda. Pendekatan ini mengekalkan keselamatan pengesahan anda dan kod anda boleh dibawa merentas persekitaran penyampaian yang berbeza.

Memasukkan klien dengan URL asas

Konfigurasikan perpustakaan klien anda untuk mengarah ke URL asas kami bukannya endpoint penyedia lalai. Gunakan URL asas yang disediakan dan kunci API anda untuk memulakan sambungan. Perubahan mudah ini mengarahkan semua trafik ke model uncensored kami sambil mengekalkan keserasian dengan kaedah SDK piawai.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudecostpermilliontokens.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Sahkan sambungan dengan menyenaraikan model tersedia. Langkah ini mengesahkan bahawa klien anda disalurkan dengan betul ke infrastruktur kami sebelum anda menghantar sebarang prompt atau data sebenar.

Menghantar permintaan penyiapan sembang pertama anda

Hantar permintaan penyelesaian semakan piawai menggunakan pengenal pasti model uncensored. Model ini mengendalikan input dan output teks tanpa penolakan kandungan untuk penggunaan dewasa yang sah. Anda boleh menghantar mesej, menetapkan suhu, dan menentukan parameter lain sama seperti anda akan lakukan dengan hujung sambungan serasi OpenAI lain.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudecostpermilliontokens.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Periksa respons untuk teks yang dijana dan penggunaan token. Ini mengesahkan bahawa integrasi anda berfungsi dengan betul dan bahawa model bertindak balas seperti yang dijangka terhadap prompt anda.

Mengendalikan respons aliran dan token

Aktifkan penstriman dengan menetapkan parameter stream kepada true dalam permintaan anda. API mengembalikan pecahan teks apabila ia dijana, membolehkan anda memaparkan output secara masa nyata. Setiap pecahan termasuk data penggunaan token dalam pecahan akhir, membantu anda menjejak penggunaan dengan tepat.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Proses setiap potongan dengan cekap untuk mengekalkan latensi rendah. Kaedah ini sesuai untuk aplikasi di mana maklum balas segera adalah penting, seperti antara muka sembang atau alat penjanaan kod masa nyata.

Penggunaan pemanggilan fungsi dan mod JSON

Manfaatkan pemanggilan fungsi dan mod JSON untuk output berstruktur. Tetapkan format respons kepada JSON untuk memastikan penguraian yang konsisten dalam aplikasi anda. Anda juga boleh menentukan alat dan menentukan pilihan alat untuk membimbing tingkah laku output model.

Parameter seperti suhu, top_p, dan jujukan henti membolehkan penalaan halus gaya respons. Gunakan ciri-ciri ini untuk mengintegrasikan model dengan lancar ke dalam aliran kerja sedia ada anda.

Menguruskan pengesahan dan had

Kunci API anda mengesahkan semua permintaan, dengan ralat seperti 401 menunjukkan kunci tidak sah dan 402 menandakan kredit tidak mencukupi. Had kadar membataskan anda pada 300 permintaan setiap minit dan 8 permintaan serentak setiap kunci. Jendela konteks menyokong sehingga 100,000 token, dengan output maksimum 16,000 token setiap permintaan.

Pantau penggunaan anda untuk mengelakkan gangguan. Ralat semasa pemprosesan adalah percuma, jadi anda boleh mencuba semula permintaan tanpa risau tentang penggunaan token. Kekalkan kunci anda dengan selamat dan gantikan jika perlu melalui papan pemuka.