Epäsuodattamaton LLM API -dokumentaatio

Perus-URL ja todennus

API:n osoite on https://api.huggingfacellmapi.com/v1. Autentikoit käyttämällä Bearer-tokenia, joka lähetetään Authorization header. Luo avain välittömästi Hanki API-avain sivu käyttäen Googlea tai sähköpostia. Säilytä tämä avain turvallisesti; kuka tahansa sen omistaja voi kuluttaa esimaksulliset krediittisi. Jos menetät sen, luo uusi avain korvaamaan vanha aktiivinen avain. Puhelinnumeroa ei vaadita aloittamiseen.

Ensimmäinen pyyntö cURL:lla

Lähetä raaka JSON -syöte testataksesi päätepisteen välittömästi. Käytä mallitunnistetta uncensored ohittaaksesi standardit suodattimet. Seuraava cURL-komento demonstroi perustekstintuotantopyyntöä.

Copycurl https://api.huggingfacellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize the release notes for version three point zero five"}]
  }'

Tämä palauttaa JSON-objektin, joka sisältää luodun tekstin. Tarkista choices taulukko todelliselle sisällölle. Jos saat 401-virheen, varmista, että avaimesi on oikein ja aktiivinen.

Python SDK -integraatio

Käytä virallista openai Python-kirjasto siistiä käyttöliittymää varten. Ohjaa asiakasohjelma perus-URL-osoitteeseemme ja aseta API-avaimesi. Tämä menetelmä käsittelee uudelleenkäynnistykset ja JSON-jäsennyksen automaattisesti.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.huggingfacellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Asenna paketti pip:n avulla. Voit sitten kutsua chat-completions-päätepistettä aivan kuten OpenAI:n kanssa. Vastausolio antaa sinulle pääsyn token-käyttöön ja lopetussyihin.

Node.js-asiakkaan määritys

JavaScript-kehittäjät voivat käyttää openai Node-paketti. Määritä asiakas tiettyllä base URL:llämme. Tämä varmistaa, että kaikki pyynnöt reititetään rajoittamattomien palvelimiemme kautta.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.huggingfacellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Suorita tämä koodinpätkä Node-ympäristössä. Se havainnollistaa yksinkertaista synkronista kutsua. Voit integroida sen helposti Express-reitteihin tai serverless-funktioihin.

Streamausvastaukset

Ota streamaus käyttöön asettamalla stream: true. Palvelin lähettää Server-Sent Events -tapahtumia (SSE), jotka sisältävät osittaisia tokenkeja. Tämä vähentää havaittua viivettä loppukäyttäjille.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Jäsennä jokaista lohkoa sen saapuessa. Viimeinen lohko sisältää pyynnön kokonaismäärän tokenit. Tämä on hyödyllistä chat-käyttöliittymien rakentamiseen, jotka kirjoittavat vastauksia reaaliajassa.

Rajoitukset, virheet ja konteksti

Kontekstiikkuna on 100 000 tokenia syötteelle ja vastaukselle yhteensä. Voit pyytää enintään 16 000 vastauksen tokenia. Virheet kuten 401 viittaavat virheelliseen avaimen arvoon, kun taas 402 tarkoittaa riittämätöntä saldoa. Nopeusrajoitukset asettavat rajaksi 300 pyyntöä minuutissa. Koko yli 8 Mt olevat pyynnöt hylätään. Käsittelyn aikana syntyneet virheet eivät kuluta saldoasi.