תיעוד API של LLM ללא צנזורה

כתובת URL בסיסית ואימות

ה-API שלנו נמצא ב- https://api.huggingfacellmapi.com/v1. אתה מאשר באמצעות אסימון נושא (Bearer token) שנשלח ב Authorization כותרת. צור את המפתח שלך מיד דרך ה קבל מפתח API דף באמצעות Google או דוא"ל. שמרו על המפתח הזה מאובטח; כל מי שיש לו אותו יכול להוציא את האשראי ששולם מראש. אם איבדתם אותו, צרו מפתח חדש כדי להחליף את המפתח הפעיל. אין צורך במספר טלפון להתחלה.

בקשה ראשונה עם cURL

שלח payload JSON גולמי כדי לבדוק את נקודת הקצה מיד. השתמש ב-mודל ID uncensored כדי לעקוף מסננים סטנדרטיים. פקודת cURL הבאה מדגישת בקשת יצירת טקסט בסיסית.

Copycurl https://api.huggingfacellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize the release notes for version three point zero five"}]
  }'

זה מחזיר אובייקט JSON המכיל את הטקסט שנוצר. בדוק את choices מערך לתוכן האמיתי. אם אתה מקבל שגיאת 401, ודא שהמפתח שלך נכון ופעיל.

אינטגרציית SDK Python

השתמשו ב openai ספריית Python לממשק נקי. נקד את הלקוח לכתובת ה-URL הבסיסית שלנו והגדר את מפתח ה-API שלך. גישה זו מטפלת בנסיונות חוזרים ובניתוח JSON באופן אוטומטי.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.huggingfacellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

התקן את החבילה באמצעות pip. לאחר מכן, תוכל לקרוא לנקודת הקצה של השלמת צ'אט בדיוק כמו שאתה עושה עם OpenAI. אובייקט התגובה נותן לך גישה לשימוש באסימונים ולסיבות סיום.

הגדרת לקוח Node.js

מפתחי JavaScript יכולים להשתמש ב- openai חבילת Node. הגדר את הלקוח עם כתובת הבסיס הספציפית שלנו. זה מבטיח שכל הבקשות יופנו דרך השרתים שלנו ללא הגבלות.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.huggingfacellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

הפעל את הקוד הזה בסביבת Node שלך. הוא מדגם קריאה סינכרונית פשוטה. ניתן לשלב אותו בקלות בנתיבי Express או בפונקציות ללא שרת.

תגובות בסטרימינג

אפשרו זרימה על ידי הגדרת stream: true. השרת שולף אירועים מוכוונים שרת (SSE) המכילים טוקנים חלקיים. זה מפחית את תחוית העיכוי עבור משתמשים סופיים.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

נתח כל מקטע כשהוא מגיע. המקטע הסופי מכיל את סך השימוש בטוקנים לבקשה. זה שימושי לבניית ממשקי צ'אט שמציגים תגובות בזמן אמת.

מגבלות, שגיאות והקשר

חלון ההקשר הוא 100,000 טוקנים לשילוב של הזנה והשלמה. ניתן לבקש עד 16,000 טוקני פלט. שגיאות כמו 401 מציינות מפתח לא חוקי, בעוד ש-402 משמעותו אשראי לא מספיק. מגבלות קצב מגבילות אותך ל-300 בקשות לדקה. בקשות העולות על 8 MB בגודלן יידחו. שגיאות במהלך העיבוד אינן צורכות את האשראי שלך.