API dokumentáció

Hitelesítés & Fejlécek

Az glm api key engedélyezi az összes kérést. Add meg a Authorization fejléc mint Bearer token. Ez a szabványos módszer, amelyet az hivatalos OpenAI SDK-k használnak, és bármely olyan klienssel működik, amely támogatja az OpenAI-kompatibilis hitelesítést. A kulcsot azonnal megkapja regisztráció után Google-fiókkal vagy e-maillel a kezelőfelületen.

Tartsa biztonságban a kulcsát. Teljes hozzáférést biztosít az előre fizetett hitelhez. Ha elveszíti, generáljon egy újat; a régi kulcs azonnal érvényét veszti. Bármely fiókban egyszerre csak egy aktív kulcs lehet.

Chat Completions végpont

Szövegüzenetek küldése a modellnek a POST /v1/chat/completions endpoint. Az összes kérés alap URL-je https://api.apiglm.com/v1A modellazonosítót meg kell adnod így: uncensored a kérés törzsében. Ez a végpont kezeli a szabványos beszélgetési köröket, és generált szöget ad vissza.

Minden kérés tokeneket fogyaszt az előlegesen fizetett egyenlegéből. A hibák és a visszautasítások nem terhelik meg a kreditjét. A modell üzenetsorozatot fogad, lehetővé téve a többfordalos beszélgetéseket a kontextusablakon belül.

Copycurl https://api.apiglm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list the features"}]
  }'

Models Végpont

Hitelesítse az elérhető modelleket és a végpont konfigurációját a hívással GET /v1/models. Ez a végpont listát ad vissza a jelenleg támogatott modellekről. Használhatja a kapcsolódás megerősítésére és a modell azonosító ellenőrzésére a completion kérések küldése előtt. Hasznos a kliens konfigurációk hibakereséséhez.

A válasz metaadatokat tartalmaz a modellről, például az azonosítóját és az owned_by mezőt. Ez a végpont nem fogyaszt hitelt. Használja arra, hogy megbizonyosodjon arról, hogy az ügyfélprogramja a helyes base URL-re mutat, és hogy a hitelesítési fejléc érvényes.

Streamelés és SSE

Engedélyezze a valós idejű token-kimenetet úgy, hogy stream: true a kérésben. Az API Server-Sent Events (SSE) streamet ad vissza. Minden darab parciális szövegdelta-t tartalmaz. Az utolsó darab tartalmazza a kérés teljes tokenfelhasználási statisztikáit.

A streamelés csökkenti az észlelt késleltetést a felhasználók számára. Lehetővé teszi, hogy az alkalmazása megjelenítse a tokeneket generálásukkor. Ez ideális chat felületekhez, ahol azonnali visszajelzést várnak el. Helyesen kezelje a streamet, hogy biztosítsa az összes token feldolgozását.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiglm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Függvényhívás

Határozza meg az eszközöket a kérésben a függvényhívás engedélyezéséhez. A modell strukturált JSON-t adhat vissza, amely azonosítja, melyik függvényt kell meghívni, és annak argumentumait. Ez lehetővé teszi, hogy az alkalmazása kódot hajtson végre a felhasználó szándéka alapján. A támogatás magában foglalja az eszközdefiníciókat, az eszközválasztásokat és a JSON módot a szigorú kimenet-formázáshoz.

Használja ezt a funkciót az LLM beépítéséhez a munkafolyamatába. Határozza meg a függvény sémáját a kérés törzsében. A modell eszközhívások listájával válaszol. Elemzze ezeket a hívásokat a kódban a külső műveletek indításához. Ez lehetővé teszi a komplex, több lépéses feladatokat.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiglm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Paraméterek & Korlátok

A kontextusablak 100 000 token támogatását biztosítja a prompt és a kiegészítés kombinált esetén. A maximális kimenet 16 000 token kérésenként. Állítsa be max_tokens a kimeneti hosszúság vezérléséhez. Alapértelmezett érték 2,048 token, ha nincs megadva. A hőmérsékletet, a top_p-t és a seedet állíthatja a változatosság érdekében.

A sebességkorlátok percenként 300 kérelemet tesznek lehetővé kulcsonként. A párhuzamos kérések korlátja kulcsonként 8. A kérelemtörzsnek 8 MB alatt kell lennie. A hibák szabványos HTTP státuskódokat adnak vissza. A 401 érvénytelen kulcsot jelez. A 402 azt jelenti, hogy az egyenlege elfogyott. A 429 a sebességkorlát túllépését jelzi.

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)