क्विकस्टार्ट: अनसेंसर्ड api इंटीग्रेट करें

आवश्यकताएँ: SDK और पर्यावरण चर

अपनी पसंदीदा SDK इंस्टॉल करें और अपने क्रेडेंशियल्स को एनवायरनमेंट वेरिएबल्स में सेट करें। हमारी सेवा मानक OpenAI-संगत एंडपॉइंट का उपयोग करती है, इसलिए मौजूदा क्लाइंट लाइब्रेरी बिना संशोधन के काम करती हैं। आपको हमारे डैशबोर्ड से एक API कुंजी और अपने अनुरोधों के लिए बेस यूआरएल की आवश्यकता है। बुनियादी एकीकरण के लिए जटिल वापर या कस्टम हेडर की आवश्यकता नहीं है।

Copycurl https://api.claudecostpermilliontokens.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current cost per million tokens for the Pro model?"}]
  }'

सुनिश्चित करें कि आपका एन्वायरिमेंट वेरिएबल्स सही ढंग से एक्सपोर्ट किए गए हों। यह दृष्टिकोण आपके प्रमाणीकरण को सुरक्षित रखता है और आपके कोड को अलग-अलग डिप्लॉयमेंट एन्वायरिमेंट्स के बीच पोर्टेबल बनाता है।

बेस यूआरएल के साथ क्लाइंट इंस्टैंशिएट करना

अपने क्लाइंट लाइब्रेरी को कॉन्फ़िगर करें ताकि वह डिफ़ॉल्ट प्रदाता एंडपॉइंट के बजाय हमारे base URL की ओर इशारा करे। कनेक्शन को इनिशियलाइज़ करने के लिए प्रदान किए गए base URL और अपने API key का उपयोग करें। यह सरल बदलाव सभी ट्रैफ़िक को हमारे uncensored मॉडल की ओर निर्देशित करता है, जबकि मानक SDK विधियों के साथ संगतता बनाए रखता है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudecostpermilliontokens.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

उपलब्ध मॉडल की सूची बनाकर कनेक्शन की जांच करें। यह चरण पुष्टि करता है कि आपका क्लाइंट सही ढंग से हमारी इंफ्रास्ट्रक्चर तक रूट किया गया है, इससे पहले कि आप कोई वास्तविक प्रॉम्प्ट या डेटा भेजें।

अपनी पहली चैट कंप्लीशन रिक्वेस्ट भेजना

मॉडल ID का उपयोग करके एक मानक चैट पूर्णता अनुरोध भेजें uncensored. यह मॉडल कानूनी वयक्त उपयोग के लिए सामग्री रिफ्यूजल के बिना टेक्स्ट इनपुट और आउटपुट संभालता है। आप संदेश पास कर सकते हैं, तापमान सेट कर सकते हैं और अन्य पैरामीटर परिभाषित कर सकते हैं, बिल्कुल वैसे ही जैसे आप किसी अन्य OpenAI-कम्पैटिबल एंडपॉइंट के साथ करते हैं।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudecostpermilliontokens.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

जनरेटेड टेक्स्ट और टोकन उपयोग के लिए प्रतिक्रिया जांचें। यह पुष्टि करता है कि आपकी इंटीग्रेशन सही ढंग से काम कर रही है और मॉडल आपके प्रॉम्प्ट की उम्मीद के अनुसार प्रतिक्रिया दे रहा है।

स्ट्रीमिंग रिस्पॉन्सेस और टोकन्स हैंडल करना

अपने अनुरोध में stream पैरामीटर को true सेट करके स्ट्रीमिंग सक्षम करें। API जनरेट होते ही पाठ के चंक लौटाता है, जिससे आप रियल-टाइम में आउटपुट प्रदर्शित कर सकते हैं। प्रत्येक चंक में टोकन उपयोग डेटा होता है, जो अंतिम चंक में होता है, जिससे आप खपत को सटीक रूप से ट्रैक कर सकते हैं।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

कम विलंबता बनाए रखने के लिए प्रत्येक चंक को कुशलता से प्रक्रिया करें। यह विधि उन एप्लिकेशन के लिए आदर्श है जहाँ तत्कल प्रतिक्रिया महत्वपूर्ण है, जैसे चैट इंटरफेस या रियल-टाइम कोड जनरेशन टूल।

फंक्शन कॉलिंग और JSON मोड का उपयोग

संरचित आउटपुट के लिए फंक्शन कॉलिंग और JSON मोड का लाभ उठाएं। अपने एप्लिकेशन में निरंतर पार्सिंग सुनिश्चित करने के लिए प्रतिक्रिया प्रारूप को JSON पर सेट करें। आप टूल्स को भी परिभाषित कर सकते हैं और मॉडल के आउटपुट व्यवहार को निर्देशित करने के लिए टूल चॉइस निर्दिष्ट कर सकते हैं।

तापमान, top_p और स्टॉप सीक्वेंस जैसे पैरामीटर प्रतिक्रिया शैली को फाइन-ट्यून करने की अनुमति देते हैं। मौजूदा वर्कफ़्लो में मॉडल को सहज रूप से एकीकृत करने के लिए इन सुविधाओं का उपयोग करें।

प्रमाणीकरण और सीमाओं का प्रबंधन

आपका API key सभी अनुरोधों को प्रमाणीकृत करता है, जहां 401 जैसे त्रुटि संकेत अमान्य कुंजी को दर्शाते हैं और 402 अपर्याप्त क्रेडिट का संकेत देता है। रेट लिमिट्स आपको प्रति मिनट 300 अनुरोधों और प्रति कुंजी 8 समवर्ती अनुरोधों तक सीमित करती हैं। कॉन्टेक्स्ट विंडो 100,000 टोकन तक समर्थित है, और प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है।

विघटन से बचने के लिए अपने उपयोग की निगरानी करें। प्रसंस्करण के दौरान त्रुटियाँ मुफ्त हैं, इसलिए आप बिना टोकन खपत की चिंता किए अनुरोधों को पुनः भेज सकते हैं। अपनी कुंजी को सुरक्षित रखें और यदि आवश्यक हो तो डैशबोर्ड के माध्यम से उसे बदलें।