Gyors bevezetés: integrálja az uncensored api-t

Előfeltételek: SDK és környezeti változók

Kezdje a preferált SDK telepítésével, és állítsa be a hitelesítő adatait környezeti változókban. Szolgáltatásunk szabványos OpenAI-kompatibilis végpontokat használ, így a meglévő ügyfélkönyvtárak módosítás nélkül működnek. Csak egy API-kulcsra van szüksége a műszerfalról és az alap URL-re a kérésekhez. Nem szükségesek komplex burkolók vagy egyedi fejlécek az alapvető integrációhoz.

Copycurl https://api.claudecostpermilliontokens.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current cost per million tokens for the Pro model?"}]
  }'

Győződjön meg arról, hogy a környezeti változókat helyesen exportálja a szkriptek futtatása előtt. Ez a megközelítés biztonságossá teszi a hitelesítést, és hordozhatóvá teszi a kódot különböző telepítési környezetek között.

A kliens inicializálása base URL-lel

Konfigurálja az ügyféli könyvtárat az alap URL-re való irányítással a alapértelmezett szolgáltató végpontja helyett. Használja a megadott alap URL-t és API kulcsát a kapcsolat inicializálásához. Ez az egyszerű módosítás minden forgalmat az uncensored modellünkre irányít, miközben megőrzi a kompatibilitást a szabványos SDK módszerekkel.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudecostpermilliontokens.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ellenőrizze a kapcsolatot az elérhető modellek listázásával. Ez a lépés megerősíti, hogy az ügyfélprogramja helyesen van-e irányítva a infrastruktúránkhoz, mielőtt bármilyen valós promptot vagy adatot küldene.

Az első chat befejezési kérés küldése

Küldjön egy szabványos chat completion kérést a modell azonosítót uncensored. Ez a modell szövegbevitelt és -kimenetet kezel elutasítások nélkül jogszerű felnőtt felhasználás esetén. Adhat meg üzeneteket, beállíthatja a hőmérsékletet, és meghatározhat egyéb paramétereket, pontosan úgy, ahogy egy másik OpenAI-kompatibilis végponton tenné.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudecostpermilliontokens.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Nézd meg a választ a generált szövegre és a token felhasználásra. Ez megerősíti, hogy az integráció helyesen működik, és hogy a modell a várt módon reagál a kéréseidre.

Streamelt válaszok és tokenek kezelése

A streamelés engedélyezéséhez állítsa a stream paramétert true értékre a kérésben. Az API szövegdarabokat ad vissza generáláskor, lehetővé téve a kimenet valós idejű megjelenítését. Minden darab token-felhasználási adatot tartalmaz a végső darabban, segítve a pontos fogyasztáskövetést.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Feldolgozza hatékonyan minden darabot az alacsony késleltetés érdekében. Ez a módszer ideális az olyan alkalmazásokhoz, ahol az azonnali visszajelzés kritikus, például chat felületek vagy valós idejű kódgeneráló eszközök.

Function calling és JSON mód használata

Hasznosíts a függvényhívást és a JSON módot a strukturált kimenetekhez. Állítsd a válaszformátumot JSON-ra, hogy biztosítsd a konzisztens parsolást az alkalmazásodban. Meghatározhatod az eszközöket és megadhatod az eszközválasztásokat is, hogy irányítsd a modell kimeneti viselkedését.

A hőmérséklet, top_p és stop szekvenciák paraméterek lehetővé teszik a válasz stílusának finomhangolását. Használja ezeket a funkciókat a modell zökkenőmentes integrálásához meglévő munkafolyamataiba.

Hitelesítés és korlátok kezelése

Az API-kulcsod hitelesíti az összes kérést, a 401-es hiba érvénytelen kulcsot, a 402-es pedig elégtelen egyenleget jelez. A sebességkorlát percenként 300 kérésre, kulcsonként pedig 8 párhuzamos kérésre korlátoz. A kontextusablak 100,000 token támogatását nyújtja, a kérésenkénti max. kimenet pedig 16,000 token.

Kövesse a felhasználást a megszakítások elkerülése érdekében. A feldolgozás közbeni hibák ingyenesek, így újrapróbálkozhat a kérésekkel anélkül, hogy aggódnia kellene a tokenfogyasztás miatt. Tartsa biztonságban a kulcsát, és cserélje ki, ha szükséges, az irányítópulton keresztül.