बेस URL और प्रमाणीकरण
हमारा API https://api.huggingfacellmapi.com/v1. Bearer टोकन भेजकर प्रमाणीकरण करें Authorization हेडर। अपनी कुंजी तुरंत जनरेट करें API कुंजी प्राप्त करें पेज Google या ईमेल का उपयोग करके। इस कुंजी को सुरक्षित रखें; इसे रखने वाला कोई भी व्यक्ति आपकी पूर्व-भुगतान वाली क्रेडिट खर्च कर सकता है। यदि यह खो जाए, तो पुरानी सक्रिय कुंजी को बदलने के लिए एक नई जनरेट करें। शुरू करने के लिए फोन नंबर की आवश्यकता नहीं है।
पहला अनुरोध cURL के साथ
तुरंत अंतर्बिंदु का परीक्षण करने के लिए एक कच्चा JSON पेलोड भेजें। मॉडल ID का उपयोग करें uncensored मानक फ़िल्टर को बायपास करने के लिए। निम्नलिखित cURL कमांड एक मूलभूत पाठ जनरेशन अनुरोध को दर्शाता है।
curl https://api.huggingfacellmapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Summarize the release notes for version three point zero five"}]
}'यह जनरेटेड टेक्स्ट युक्त एक JSON ऑब्जेक्ट लौटाता है। जांचें कि choices वास्तविक सामग्री के लिए एरे। यदि आपको 401 त्रुटि मिलती है, तो सत्यापित करें कि आपकी कुंजी सही और सक्रिय है।
Python SDK इंटीग्रेशन
आधिकारिक openai Python लाइब्रेरी एक स्वच्छ इंटरफ़ेस के लिए। क्लाइंट को हमारे बेस यूआरएल पर पॉइंट करें और अपनी API कुंजी सेट करें। यह दृष्टिकोण रीट्राइज़ और JSON पार्सिंग को स्वचालित रूप से संभालता है।
from openai import OpenAI
client = OpenAI(base_url="https://api.huggingfacellmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)पैकेज को pip के माध्यम से इंस्टॉल करें। आप फिर चैट कंप्लीशन्स एंडपॉइंट को कॉल कर सकते हैं, बिल्कुल वैसे ही जैसे आप OpenAI के साथ करते हैं। रिस्पॉन्स ऑब्जेक्ट आपको टोकन उपयोग और फिनिश रीजन्स तक पहुंच प्रदान करता है।
Node.js क्लाइंट सेटअप
JavaScript developers can use the openai Node पैकेज। हमारे विशिष्ट बेस URL के साथ क्लाइंट कॉन्फ़िगर करें। यह सुनिश्चित करता है कि सभी अनुरोध हमारे अनसेंसर्ड सर्वरों के माध्यम से रूट हों।
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.huggingfacellmapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);इसे अपने Node वातावरण में चलाएं। यह एक सरल समकालीन कॉल का प्रदर्शन करता है। आप इसे आसानी से Express राउट या सर्वरलेस फ़ंक्शन में एकीकृत कर सकते हैं।
स्ट्रीमिंग रिस्पॉन्सेस
सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true. सर्वर आंशिक टोकन वाले सर्वर-सेंट इवेंट्स (SSE) भेजता है। यह अंत-उपयोगकर्ताओं के लिए अनुपस्थित विलंबता को कम करता है।
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)प्रत्येक चंक को आने पर पार्स करें। अंतिम चंक में अनुरोध के लिए कुल टोकन उपयोग होता है। यह रियल-टाइम में प्रतिक्रियाएं टाइप करने वाले चैट इंटरफ़ेस बनाने के लिए उपयोगी है।
सीमाएं, त्रुटियां, और संदर्भ
प्रॉम्प्ट और पूर्णता के लिए संदर्भ विंडो 100,000 टोकन है। आप 16,000 आउटपुट टोकन तक अनुरोध कर सकते हैं। 401 जैसे त्रुटियां अमान्य कुंजी को इंगित करती हैं, जबकि 402 का अर्थ अपर्याप्त क्रेडिट है। रेट लिमिट आपको प्रति मिनट 300 अनुरोधों तक सीमित करता है। 8 MB से अधिक आकार वाले अनुरोध अस्वीकार कर दिए जाएंगे। प्रसंस्करण के दौरान त्रुटियां आपके क्रेडिट्स का उपभोग नहीं करती हैं।
