Rychlý start: integrace API Uncensored

Požadavky: SDK a proměnné prostředí

Začněte instalací vašeho preferovaného SDK a nastavením vašich přihlašovacích údajů v proměnných prostředí. Naše služba používá standardní koncové body kompatibilní s OpenAI, takže existující klientské knihovny fungují bez úprav. Potřebujete pouze API klíč z našeho panelu a základní URL pro vaše požadavky. Pro základní integraci nejsou vyžadovány složité obaly ani vlastní hlavičky.

Copycurl https://api.claudecostpermilliontokens.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current cost per million tokens for the Pro model?"}]
  }'

Ujistěte se, že vaše environmentální proměnné jsou správně exportovány před spuštěním skriptů. Tento přístup udržuje vaše ověření bezpečné a váš kód přenositelný napříč různými nasazovacími prostředími.

Inicializace klienta se základní URL

Nastavte svou knihovnu klienta tak, aby směřovala na naši základní URL adresu místo výchozího endpointu poskytovatele. Použijte poskytnutou základní URL adresu a svůj API klíč k inicializaci připojení. Tato jednoduchá změna přesměruje veškerý provoz na náš model bez omezení, zatímco zachovává kompatibilitu se standardními metodami SDK.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudecostpermilliontokens.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ověřte připojení výpisem dostupných modelů. Tento krok potvrzuje, že váš klient je správně směrován k naší infrastruktuře, než odešdete jakékoliv skutečné podněty nebo data.

Odeslání vašeho prvního požadavku na dokončení chatu

Odešlete standardní požadavek na dokončení chatu pomocí ID modelu uncensored. Tento model zpracovává textový vstup a výstup bez vyhazování obsahu pro legální použití pro dospělé. Můžete předat zprávy, nastavit teplotu a definovat další parametry stejně, jako byste to dělali s jakýmkoli jiným endpointem kompatibilním s OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudecostpermilliontokens.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Zkontrolujte odpověď na generovaný text a využití tokenů. To potvrzuje, že vaše integrace funguje správně a že model reaguje očekávaně na vaše dotazy.

Zvládání streamovaných odpovědí a tokenů

Povolte streamování nastavením parametru stream na true v požadavku. API vrací chunky textu, jak jsou generovány, což umožňuje zobrazovat výstup v reálném čase. Každý chunk zahrnuje data o využití tokenů v posledním chunku, což vám pomáhá přesně sledovat spotřebu.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Zpracovávejte každou částu efektivně, abyste udrželi nízkou latenci. Tato metoda je ideální pro aplikace, kde je zásadní okamžitá odezva, jako jsou rozhraní chatů nebo nástroje pro generování kódu v reálném čase.

Použití volání funkcí a režimu JSON

Využijte volání funkcí a režim JSON pro strukturované výstupy. Nastavte formát odpovědi na JSON, aby bylo zajištěno konzistentní parsování ve vaší aplikaci. Můžete také definovat nástroje a určit možnosti nástrojů k řízení chování výstupu modelu.

Parametry jako teplota, top_p a sekvence stop umožňují jemné doladění stylu odpovědi. Použijte tyto funkce k bezproblémové integraci modelu do vašeho stávajícího pracovního postupu.

Správa ověřování a limitů

Váš klíč API autentizuje všechny požadavky, kde chyby jako 401 označují neplatný klíč a 402 signalizují nedostatečný kredit. Limity rychlosti vás omezují na 300 požadavků za minutu a 8 souběžných požadavků na klíč. Okno kontextu podporuje až 100,000 tokenů, s maximálním výstupem 16,000 tokenů na požadavek.

Sledujte své využití, abyste předešli přerušení. Chyby během zpracování jsou zdarma, takže můžete požadavky opakovat bez obav ze spotřeby tokenů. Udržujte svůj klíč v bezpečí a v případě potřeby ho nahraďte přes dashboard.