תיעוד API

אימות & כותרות

ה- glm api key מאשר כל בקשה. העבר אותו ב- Authorization כותרת כטוקן Bearer. זוהי השיטה הסטנדרטית שבה משתמשים SDKים הרשמיים של OpenAI ועובדת עם כל לקוח התומך באימות תואם OpenAI. אתה מקבל מפתח זה מיד לאחר ההרשמה עם Google או אימייל בלוח הבקרה.

שמרו על המפתח שלכם מאובטח. הוא מספק גישה מלאה לקרדיט המוקדם שלכם. אם תאבדו אותו, צרו מפתח חדש; המפתח הישן יהפוך לא מבוטל מיד. ניתן להחזיק רק מפתח פעיל אחד לחשבון בכל עת.

נקודת קצה להשלמות צ'אט

שלח הודעות טקסט למודל באמצעות ה- POST /v1/chat/completions נקודת קצה. כתובת הבסיק לכל הבקשות היא https://api.apiglm.com/v1. עליך לציין את מזהה המודל כ- uncensored גוף הבקשה. נקודת הקצה הזו מטפלת בסיבובי שיחה סטנדרטיים ומחזירה טקסט שנוצר.

כל בקשה צורכת טוקנים מאזן ההטענה המוקדם שלך. שגיאות וסירובים לא גובים ממך אשראי. המודל מקבל רצף של הודעות, המאפשר שיחות רב-שלוחיות בתוך חלון ההקשר.

Copycurl https://api.apiglm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list the features"}]
  }'

נקודת קצה למודלים

אמת מודלים זמינים ותצורת נקודת פעולה על ידי קריאה ל GET /v1/models. נקודת הקבלה הזו מחזירה רשימה של מודלים נתמכים כעת על ידי ה-API. ניתן להשתמש בזה כדי לאמת חיבוריות ולבדוק את מזהה המודל לפני שליחת בקשות השלמה. זה שימושי לניפוי באגים של תצורות לקוח.

התגובה כוללת מטא-דטה על המודל, כגון מזהה המודל ושדה owned_by. נקודת קצה זו לא צורכת אשראי. השתמש בה כדי לוודא שהלקוח שלך מצביע על כתובת ה-URL הבסיסית הנכונה וכי כותרת האימות שלך תקפה.

זרימה & SSE

אפשרו פלט אסימונים בזמן אמת על ידי הגדרת stream: true בבקשה שלך. ה-API מחזיר זרם אירועים שנשלחו על ידי השרת (SSE). כל קטע מכיל פסי טקסט חלקיים. הקטע הסופי כולל את סטטיסטיקות שימוש האסימונים המלאות לבקשה.

זרימה מפחיתה את תחוית העיכוב עבור משתמשים. היא מאפשרת ליישום שלך להציג אסימונים כשהם נוצרים. זה אידיאלי לממשקי צ'אט שבהם ציפייה למשוב מיידי. יש לטפל בזרימה כהלכה כדי להבטיח שכל האסימונים יעובדו.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiglm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Function Calling

הגדירו כלים בבקשה כדי לאפשר קריאה לפונקציות. המודל יכול להחזיר JSON מבני המזהה איזו פונקציה לקרוא ומה הארגומנטים שלו. זה מאפשר ליישום שלכם להפעיל קוד בהתאם לכוונת המשתמש. התמיכה כוללת הגדרות כלים, בחירת כלים ומצב JSON לפורמט פלט קפדני.

השתמשו בתכונה זו כדי לשלב את ה-LLM בזרימת העבודה שלכם. הגדירו את סכמת הפונקציה בגוף הבקשה. המודל מגיב ברשימת קריאות לכלים. פנצו את הקריאות האלו בקוד שלכם כדי להפעיל פעולות חיצוניות. זה מאפשר משימות מורכבות ורב-שלביות.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiglm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

פרמטרים & מגבלות

חלון ההקשר תומך ב-100,000 טוקנים לקלט ופלט משולבים. הפלט המקסימלי הוא 16,000 טוקנים לכל בקשה. הגדירו max_tokens לשלוט באורך הפלט. ברירת המחדל היא 2,048 טוקנים אם לא צוין. אתה יכול להתאים את הטמפרטורה, top_p, ו-seed למשתנות.

גבולות קצב מאפשרים 300 בקשות לדקה לכל מפתח. בקשות מקבילות מוגבלות ל-8 לכל מפתח. גופי הבקשה חייבים להיות מתחת ל-8 MB. שגיאות מחזירות קודי סטטוס HTTP סטנדרטיים. 401 מציינת מפתח לא חוקי. 402 מציינת שיתרתך אזלה. 429 מציינת חריגה מגבול הקצב.

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)