Pika-aloitus: integroi uncensored api

Edellytykset: SDK ja ympäristömuuttujat

Aloita asentamalla haluamasi SDK ja asettamalla kirjautumistietosi ympäristömuuttujiin. Palvelumme käyttää standardia OpenAI-yhteensopivia päätepisteitä, joten olemassa olevat asiakasohjelmistokirjastot toimivat ilman muutoksia. Tarvitset vain API-avaimen työtilastasi ja perusosoitteen pyyntöjäsi varten. Perusintegraatioon ei tarvita monimutkaisia kääreitä tai mukautettuja otsikoita.

Copycurl https://api.claudecostpermilliontokens.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current cost per million tokens for the Pro model?"}]
  }'

Varmista, että ympäristömuuttujat on viety oikein ennen skriptien suorittamista. Tämä tapa pitää autentikointisi turvallisena ja koodisi siirrettävänä eri käyttöönottoympäristöissä.

Asiakasohjelmiston alustaminen base URL -arvolla

Määritä asiakasohjelmistokirjastosi osoittamaan base URLiimme oletuspalveluntarjoajan sijaan. Käytä annettua base URLia ja API-avaintasi yhteyden alustamiseen. Tämä yksinkertainen muutos ohjaa kaikki liikenteet sensuroimattomaan malliimme säilyttäen yhteensopivuuden standardien SDK-menetelmien kanssa.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudecostpermilliontokens.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Varmista yhteys luettelemalla saatavilla olevat mallit. Tämä vaihe varmistaa, että asiakasohjelmasi on reititetty oikein infrastruktuuriimme ennen minkään todellisen promptin tai datan lähettämistä.

Lähettämällä ensimmäinen chat-completion-pyyntö

Lähetä tavallinen chat-valmiuspyyntö käyttäen mallin tunnistetta uncensored. Tämä malli käsittelee tekstisyötteen ja -tulosteen ilman sisältöhylkäyksiä laillisessa aikuis käytössä. Voit välittää viestejä, asettaa lämpötilan ja määrittää muita parametreja aivan kuten mikä tahansa muu OpenAI-yhteensopiva päätepiste.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudecostpermilliontokens.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tarkista vastauksesta luotun tekstin ja token-käytön. Tämä vahvistaa, että integrointisi toimii oikein ja että malli vastaa odotusten mukaisesti syötteihisi.

Striimitettyjen vastausten ja tokenien käsittely

Ota käyttöön streamaus asettamalla stream-parametri arvoksi true pyynnössä. API palauttaa tekstilohkoja niiden tuotannon aikana, mikä mahdollistaa tulosten näyttämisen reaaliajassa. Jokainen lohko sisältää tokenkäyttötiedot viimeisessä lohkossa, mikä auttaa seuraamaan kulutusta tarkasti.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Käsittele jokainen osa tehokkaasti ylläpitääksesi matalaa viivettä. Tämä menetelmä on ihanteellinen sovelluksille, joissa välitön palaute on ratkaisevaa, kuten chat-liittymissä tai reaaliaikaisessa koodintuotannossa.

Funktio-kutsujen ja JSON-tilan käyttäminen

Hyödynnä funktiokutsuja ja JSON-tilaa rakenteellisten tulosten luomiseen. Aseta vastausmuoto JSON-muotoon varmistaaksesi johdonmukaisen jäsentämisen sovelluksessasi. Voit myös määrittää työkaluja ja määrittää työkaluvalintoja mallin tuotantokäyttäytymän ohjaamiseksi.

Parametrit kuten lämpötila, top_p ja stop-jakautumat mahdollistavat vastauksen tyylin hienosäädön. Käytä näitä ominaisuuksia mallin saumattomaan integrointiin olemassa olevaan työvirtaan.

Autentikoinnin ja rajoitusten hallinta

API-avaimesi todentaa kaikki pyynnöt, ja virheet kuten 401 viittaavat virheelliseen avaimeseen sekä 402 riittämättömiin varoihin. Nopeusrajoitukset rajoittavat sinut 300 pyyntöön minuutissa ja 8 samanaikaiseen pyyntöön avainta kohden. Kontekstiikkuna tukee jopa 100 000 tokenia, ja maksimituotos on 16 000 tokenia pyyntöä kohden.

Seuraa käyttöä välttääksesi keskeytyksiä. Prosessoinnin aikana tapahtuvat virheet ovat ilmaisia, joten voit yrittää pyyntöjä uudelleen huolehtimatta token-kulutuksesta. Pidä avaimesi turvassa ja vaihda se tarvittaessa ohjauspaneelin kautta.