Rychlý start: Připojení kódu k našemu API bez omezení

Autentizace a základní URL

Začněte vygenerováním svého API klíče na ovládacím panelu pomocí Google nebo e-mailu. Poté směřujte klienta svého SDK na naši konkrétní základní URL, abyste mohli zahájit volání. Toto nastavení zajistí, že vaše požadavky okamžitě dosáhnou správného nekenzurovaného modelu.

https://api.cheapestllmapiprovider.com/v1

Předávejte svůj klíč v Authorization hlavička s Bearer schéma. Uchovávejte tento klíč v bezpečí, protože poskytuje přístup k vašemu předplacenému kreditu. Jeden klíč na účet zjednodušuje sledování vašeho používání napříč různými projekty.

Odesílání požadavků na /v1/chat/completions

Pošlete svůj první požadavek na generování textu na endpoint chat completions s jednoduchým JSON payload. Musíte zahrnout ID modelu uncensored k přístupu k našemu konkrétnímu velkému jazykovému modelu. Tento endpoint přijímá standardní parametry pro teplotu, top-p a sekvence zastavení.

Použijte následující příkaz curl k ověření připojení a získání odpovědi.

Copycurl https://api.cheapestllmapiprovider.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list 5 benefits of pay as you go pricing"}]
  }'

Můžete upravit max_tokens parametr pro řízení délky výstupu, mějte na paměti tvrdý limit 16 000 tokenů na požadavek. Odpovědi jsou vraceny ve standardním formátu JSON kompatibilním s existujícími nástroji.

Integrace Python SDK

Inicializujte klienta OpenAI pomocí vaší základní URL a API klíče pro použití známých metod Pythonu. Tento přístup umožňuje znovu použít existující kódové báze bez větších úprav. Nastavte base_url explicitně pro směrování provozu na naše servery.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.cheapestllmapiprovider.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK automaticky zpracovává serializaci a opakování. Můžete předat seznam zpráv pro simulaci historie konverzace. Tato metoda bezproblémově funguje s naším kontextovým oknem o velikosti 100k pro dlouhé dokumenty.

Integrace SDK pro Node

Nastavte Node.js klienta podobně přepsáním výchozí základní URL. To vám umožní integrovat náš model uncensored do existujících aplikací Node. Předáte svůj API klíč jako proměnnou prostředí pro bezpečnost.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.cheapestllmapiprovider.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Klient podporuje jak vzor založený na promise, tak async/await. Odpovědi můžete streamovat přímo do konzole nebo do souboru. Tato flexibilita usnadňuje tvorbu rozhraní pro chat v reálném čase nebo skriptů pro dávkové zpracování.

Streamované odpovědi

Povolte streamování nastavením stream: true v parametrech požadavku. Toto dodává tokeny, jak jsou generovány, což snižuje vnímanou latenci pro koncové uživatele. Poslední část obsahuje celkovou spotřebu tokenů pro přesnou fakturaci.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Zpracujte události proudu pro postupnou aktualizaci UI. Tato funkce je zásadní pro aplikace vyžadující okamžitou zpětnou vazbu. Chyby během streamování stále poskytují data o využití v poslední části.

Limity, chyby a kontext

Sledujte své limity požadavků, abyste předešli přerušení služby. Můžete odeslat 300 požadavků za minutu a 8 souběžných požadavků na klíč. Maximální velikost těla požadavku je 8 MB. Pokud tyto limity překročíte, obdržíte stavový kód 429.

Chyba 401 znamená neplatný API klíč. Chyba 402 znamená, že je vyčerpán váš předplacený kredit. Doplněním kryptoměn obnovíte službu okamžitě. Model podporuje kontextové okno o 100 000 tocenech pro složité úkoly.