เริ่มต้นใช้งาน: ผสานรวม API แบบไม่เซ็นเซอร์

ข้อกำหนดเบื้องต้น: SDK และตัวแปรสภาพแวดล้อม

เริ่มต้นด้วยการติดตั้ง SDK ที่คุณต้องการและตั้งค่าข้อมูลประจำตัวของคุณในตัวแปรสภาพแวดล้อม บริการของเราใช้จุดปลายที่เข้ากันได้กับ OpenAI มาตรฐาน ดังนั้นไลบรารีไคลเอนต์ที่มีอยู่จึงทำงานได้โดยไม่ต้องแก้ไข คุณต้องมีเพียงคีย์ API จากแดชบอร์ดของเราและ URL พื้นฐานสำหรับคำขอของคุณ ไม่จำเป็นต้องมีตัวห่อที่ซับซ้อนหรือส่วนหัวแบบกำหนดเองสำหรับการผสานรวมพื้นฐาน

Copycurl https://api.claudecostpermilliontokens.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current cost per million tokens for the Pro model?"}]
  }'

ตรวจสอบให้แน่ใจว่าตัวแปรสภาพแวดล้อมของคุณถูก export อย่างถูกต้องก่อนเรียกใช้สคริปต์ของคุณ วิธีการนี้ช่วยรักษาความปลอดภัยของการตรวจสอบสิทธิ์และทำให้โค้ดของคุณสามารถพกพาได้ across สภาพแวดล้อมการปรับใช้ที่แตกต่างกัน

การสร้างไคลเอนต์ด้วย URL พื้นฐาน

กำหนดค่าไลบรารี client ของคุณให้ชี้ไปยัง URL พื้นฐานของเราแทน endpoint ผู้ให้บริการเริ่มต้น ใช้ URL พื้นฐานที่ระบุและ API key ของคุณเพื่อเริ่มต้นการเชื่อมต่อ การเปลี่ยนแปลงง่ายๆ นี้จะกำหนดทิศทางการจราจรทั้งหมดไปยังโมเดล uncensored ของเราในขณะที่รักษาความเข้ากันได้กับวิธีการ SDK มาตรฐาน

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudecostpermilliontokens.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ตรวจสอบการเชื่อมต่อโดยการแสดงรายการโมเดลที่พร้อมใช้งาน ขั้นตอนนี้ยืนยันว่าไคลเอนต์ของคุณถูกเปลี่ยนเส้นทางไปยังโครงสร้างพื้นฐานของเราอย่างถูกต้องก่อนที่คุณจะส่งพรอมต์หรือข้อมูลใดๆ

การส่ง chat completion request ครั้งแรกของคุณ

ส่งคำขอ chat completion มาตรฐานโดยใช้รหัสโมเดล uncensored. โมเดลนี้จัดการข้อความขาเข้าและขาออกโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องกฎหมาย คุณสามารถส่งข้อความ กำหนดอุณหภูมิ และกำหนดพารามิเตอร์อื่นๆ ได้เหมือนกับจุดเชื่อมต่อที่เข้ากันได้กับ OpenAI ทั่วไป

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudecostpermilliontokens.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ตรวจสอบ response สำหรับข้อความที่สร้างและการใช้งาน token สิ่งนี้ยืนยันว่าการผสานรวมของคุณทำงานได้อย่างถูกต้องและโมเดลกำลังตอบสนองต่อข้อความที่ป้อนของคุณตามที่คาดไว้

การจัดการการตอบกลับแบบสตรีมและโทเค็น

เปิดใช้งานการสตรีมโดยการตั้งค่าพารามิเตอร์ stream เป็น true ในคำขอของคุณ API จะส่งชิ้นส่วนข้อความเมื่อถูกสร้าง ทำให้คุณสามารถแสดงผลลัพธ์แบบเรียลไทม์ได้ แต่ละชิ้นส่วนรวมถึงข้อมูลการใช้โทเค็นในชิ้นส่วนสุดท้าย ช่วยให้คุณติดตามการใช้งานได้อย่างแม่นยำ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ประมวลผลแต่ละช่วงอย่างมีประสิทธิภาพเพื่อรักษาความล่าช้าต่ำ วิธีนี้เหมาะสำหรับแอปพลิเคชันที่ต้องการการตอบกลับทันที เช่น อินเทอร์เฟซแชทหรือเครื่องมือสร้างโค้ดแบบเรียลไทม์

การใช้ function calling และโหมด JSON

利用函数调用和 JSON 模式获取结构化输出。将响应格式设置为 JSON，以确保在您的应用程序中进行一致的解析。您还可以定义工具并指定工具选择，以引导模型的输出行为。

พารามิเตอร์อย่าง temperature, top_p และลำดับหยุดช่วยปรับแต่งสไตล์การตอบกลับได้ ใช้ฟีเจอร์เหล่านี้เพื่อผสานรวมโมเดลเข้ากับเวิร์กโฟลว์ที่มีอยู่ของคุณได้อย่างราบรื่น

จัดการการตรวจสอบสิทธิ์และขีดจำกัด

คีย์ API ของคุณใช้ยืนยันการขอข้อมูลทั้งหมด โดยข้อผิดพลาดเช่น 401 บ่งชี้ว่าคีย์ไม่ถูกต้อง และ 402 บ่งชี้ว่าเครดิตไม่เพียงพอ ขีดจำกัดอัตราการใช้งานจำกัดคุณไว้ที่ 300 คำขอต่อนาที และ 8 คำขอพร้อมกันต่อคีย์ หน้าต่างบริบทรองรับได้สูงสุด 100,000 โทเค็น พร้อมผลลัพธ์สูงสุด 16,000 โทเค็นต่อคำขอ

ติดตามการใช้งานของคุณเพื่อหลีกเลี่ยงการหยุดชะงัก ข้อผิดพลาดระหว่างกระบวนการประมวลผลไม่มีค่าใช้จ่าย ดังนั้นคุณสามารถลองส่งคำขอใหม่ได้โดยไม่ต้องกังวลเกี่ยวกับการใช้โทเค็น รักษาความปลอดภัยของคีย์ของคุณและเปลี่ยนคีย์หากจำเป็นผ่านแดชบอร์ด