Hướng dẫn nhanh: tích hợp api không kiểm duyệt

Điều kiện tiên quyết: SDK và biến môi trường

Bắt đầu bằng cách cài đặt SDK mà bạn yêu thích và đặt thông tin xác thực của bạn trong các biến môi trường. Dịch vụ của chúng tôi sử dụng các điểm cuối tương thích OpenAI tiêu chuẩn, vì vậy các thư viện khách hàng hiện có hoạt động mà không cần sửa đổi. Bạn chỉ cần một khóa API từ bảng điều khiển của chúng tôi và URL cơ sở cho các yêu cầu của bạn. Không cần trình bao bọc phức tạp hoặc tiêu đề tùy chỉnh cho tích hợp cơ bản.

Copycurl https://api.claudecostpermilliontokens.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current cost per million tokens for the Pro model?"}]
  }'

Đảm bảo các biến môi trường của bạn được xuất đúng cách trước khi chạy các tập lệnh của bạn. Cách tiếp cận này giữ cho xác thực của bạn được bảo mật và mã của bạn có thể di chuyển được giữa các môi trường triển khai khác nhau.

Khởi tạo khách hàng với URL cơ sở

Cấu hình thư viện client của bạn để trỏ đến URL gốc của chúng tôi thay vì điểm cuối nhà cung cấp mặc định. Sử dụng URL gốc được cung cấp và khóa API của bạn để khởi tạo kết nối. Thay đổi đơn giản này định hướng tất cả lưu lượng truy cập đến mô hình không kiểm duyệt của chúng tôi trong khi vẫn duy trì khả năng tương thích với các phương pháp SDK tiêu chuẩn.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudecostpermilliontokens.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Xác minh kết nối bằng cách liệt kê các mô hình có sẵn. Bước này xác nhận rằng máy khách của bạn được định tuyến đúng cách đến cơ sở hạ tầng của chúng tôi trước khi bạn gửi bất kỳ prompt hoặc dữ liệu thực tế nào.

Gửi yêu cầu hoàn thành trò chuyện đầu tiên của bạn

Gửi yêu cầu hoàn thành trò chuyện tiêu chuẩn bằng định danh mô hình uncensored. Mô hình này xử lý đầu vào và đầu ra văn bản mà không từ chối nội dung cho mục đích người lớn hợp pháp. Bạn có thể truyền tin nhắn, đặt nhiệt độ và xác định các tham số khác giống như bạn vẫn làm với bất kỳ điểm cuối tương thích OpenAI nào khác.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudecostpermilliontokens.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Kiểm tra phản hồi để xem văn bản được tạo và mức sử dụng token. Điều này xác nhận rằng việc tích hợp của bạn đang hoạt động đúng cách và mô hình đang phản hồi như mong đợi đối với các lệnh prompt của bạn.

Xử lý phản hồi phát trực tiếp và token

Bật chế độ phát trực tiếp bằng cách đặt tham số stream thành true trong yêu cầu của bạn. API trả về các chunk văn bản khi chúng được tạo, cho phép bạn hiển thị đầu ra theo thời gian thực. Mỗi chunk bao gồm dữ liệu sử dụng token trong chunk cuối cùng, giúp bạn theo dõi mức tiêu thụ một cách chính xác.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý từng đoạn một cách hiệu quả để duy trì độ trễ thấp. Phương pháp này lý tưởng cho các ứng dụng nơi phản hồi ngay lập tức là rất quan trọng, chẳng hạn như giao diện trò chuyện hoặc các công cụ tạo mã thời gian thực.

Sử dụng gọi hàm và chế độ JSON

Tận dụng gọi hàm và chế độ JSON để có đầu ra có cấu trúc. Đặt định dạng phản hồi thành JSON để đảm bảo phân tích nhất quán trong ứng dụng của bạn. Bạn cũng có thể xác định các công cụ và chỉ định lựa chọn công cụ để hướng hành vi đầu ra của mô hình.

Các tham số như nhiệt độ, top_p và các chuỗi dừng cho phép tinh chỉnh phong cách phản hồi. Sử dụng các tính năng này để tích hợp mô hình một cách liền mạch vào quy trình làm việc hiện có của bạn.

Quản lý xác thực và giới hạn

Khóa API của bạn xác thực mọi yêu cầu, với các lỗi như 401 cho biết khóa không hợp lệ và 402 báo hiệu không đủ tín dụng. Giới hạn tốc độ giới hạn bạn ở 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Cửa sổ ngữ cảnh hỗ trợ tối đa 100,000 token, với tối đa 16,000 token đầu ra mỗi yêu cầu.

Theo dõi mức sử dụng để tránh gián đoạn. Lỗi trong quá trình xử lý là miễn phí, vì vậy bạn có thể thử lại các yêu cầu mà không phải lo lắng về mức tiêu thụ token. Giữ khóa của bạn an toàn và thay thế nó nếu cần thông qua bảng điều khiển.