Avvio rapido: integra l'api senza filtri

Prerequisiti: SDK e variabili d'ambiente

Inizia installando il tuo SDK preferito e impostando le tue credenziali nelle variabili di ambiente. Il nostro servizio utilizza endpoint standard compatibili con OpenAI, quindi le librerie client esistenti funzionano senza modifiche. Hai bisogno solo di una chiave API dal nostro dashboard e dell'URL di base per le tue richieste. Non sono necessari wrapper complessi o intestazioni personalizzate per l'integrazione di base.

Copycurl https://api.claudecostpermilliontokens.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current cost per million tokens for the Pro model?"}]
  }'

Assicurati che le tue variabili di ambiente siano esportate correttamente prima di eseguire gli script. Questo approccio mantiene sicura l'autenticazione e rende il tuo codice portabile tra diversi ambienti di distribuzione.

Istanziare il client con l'URL di base

Configura la tua libreria client per puntare al nostro URL base invece dell'endpoint del provider predefinito. Usa l'URL base fornito e la tua chiave API per inizializzare la connessione. Questa semplice modifica indirizza tutto il traffico verso il nostro modello non censurato mantenendo la compatibilità con i metodi SDK standard.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudecostpermilliontokens.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Verifica la connessione elencando i modelli disponibili. Questo passaggio conferma che il tuo client è correttamente instradato verso la nostra infrastruttura prima di inviare qualsiasi prompt o dato effettivo.

Invio della tua prima richiesta di completamento chat

Invia una richiesta standard di completamento chat utilizzando l'ID del modello uncensored. Questo modello gestisce input e output testuali senza rifiuti di contenuti per uso adulto lecito. Puoi passare messaggi, impostare la temperatura e definire altri parametri esattamente come faresti con qualsiasi altro endpoint compatibile con OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudecostpermilliontokens.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Controlla la risposta per il testo generato e l'utilizzo dei token. Questo conferma che la tua integrazione sta funzionando correttamente e che il modello risponde come previsto ai tuoi prompt.

Gestione delle risposte in streaming e dei token

Abilita lo streaming impostando il parametro stream su true nella tua richiesta. L'API restituisce chunk di testo man mano che vengono generati, consentendoti di visualizzare l'output in tempo reale. Ogni chunk include dati sull'utilizzo dei token nell'ultimo chunk, aiutandoti a tracciare il consumo in modo accurato.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Elabora ogni chunk in modo efficiente per mantenere una bassa latenza. Questo metodo è ideale per applicazioni in cui il feedback immediato è cruciale, come interfacce chat o strumenti di generazione di codice in tempo reale.

Utilizzo del function calling e della modalità JSON

Sfrutta il function calling e la modalità JSON per output strutturati. Imposta il formato della risposta su JSON per garantire un parsing coerente nella tua applicazione. Puoi anche definire strumenti e specificare le scelte degli strumenti per guidare il comportamento di output del modello.

Parametri come temperatura, top_p e sequenze di stop permettono di affinare lo stile della risposta. Usa queste funzionalità per integrare il modello in modo fluido nel tuo flusso di lavoro esistente.

Gestione dell'autenticazione e dei limiti

La tua chiave API autentica tutte le richieste, con errori come 401 che indicano una chiave non valida e 402 che segnalano crediti insufficienti. I limiti di frequenza ti limitano a 300 richieste al minuto e 8 richieste concorrenti per chiave. La finestra di contesto supporta fino a 100,000 token, con un output massimo di 16,000 token per richiesta.

Monitora il tuo utilizzo per evitare interruzioni. Gli errori durante l'elaborazione sono gratuiti, quindi puoi ritentare le richieste senza preoccuparti del consumo di token. Mantieni la tua chiave sicura e sostituiscila se necessario tramite la dashboard.