Základní URL a ověření
Naše API je na https://api.huggingfacellmapi.com/v1. Ověřujete platnost pomocí Bearer tokenu zaslaného v Authorization hlavička. Vygenerujte si klíč okamžitě přes Získat API klíč stránku pomocí Google nebo e-mailu. Tento klíč udržujte v bezpečí; každý, kdo ho má, může utratit vaše předplacené kredity. Pokud ho ztratíte, vygenerujte nový, který nahradí starý aktivní klíč. K zahájení není vyžadováno telefonní číslo.
První požadavek pomocí cURL
Pošlete syrový JSON payload pro okamžité otestování endpointu. Použijte ID modelu uncensored k obejití standardních filtrů. Následující příkaz cURL demonstruje základní požadavek na generování textu.
curl https://api.huggingfacellmapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Summarize the release notes for version three point zero five"}]
}'Toto vrací JSON objekt obsahující vygenerovaný text. Zkontrolujte choices pole pro skutečný obsah. Pokud obdržíte chybu 401, ověřte, zda je váš klíč správný a aktivní.
Integrace Python SDK
Použijte oficiální openai Knihovna Python pro čistý rozhraní. Nastavte klienta na naši základní URL a zadejte svůj API klíč. Tento přístup automaticky řeší opakované pokusy a parsování JSON.
from openai import OpenAI
client = OpenAI(base_url="https://api.huggingfacellmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Nainstalujte balíček pomocí pip. Poté můžete volat endpoint pro chatové dokončení stejně jako u OpenAI. Objekt odpovědi vám poskytuje přístup k využití tokenů a důvodům ukončení.
Nastavení klienta Node.js
Vývojáři JavaScriptu mohou použít openai Balíček Node. Nakonfigurujte klienta s naší konkrétní základní URL. To zajišťuje, že všechny požadavky budou směrovány přes naše servery bez omezení.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.huggingfacellmapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Spusťte tento úryvek ve svém Node prostředí. Demonstruje jednoduchý synchronní volání. Tento kód můžete snadno integrovat do tras Express nebo serverless funkcí.
Streamované odpovědi
Povolte streamování nastavením stream: true. Server odesílá Server-Sent Events (SSE) obsahující částečné tokeny. To snižuje vnímanou latenci pro koncové uživatele.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Parsovejte každý kus, jak přichází. Poslední kus obsahuje celkové využití tokenů pro požadavek. To je užitečné pro vytváření chatových rozhraní, která vypisují odpovědi v reálném čase.
Limity, chyby a kontext
Okno kontextu má 100 000 tokenů pro prompt i dokončení dohromady. Můžete požadovat až 16 000 výstupních tokenů. Chyby jako 401 znamenají neplatný klíč, zatímco 402 znamená nedostatečný kredit. Limity rychlosti vás omezí na 300 požadavků za minutu. Požadavky přesahující velikost 8 MB budou zamítnuty. Chyby během zpracování nespotřebují vaše kredity.