API-Dokumentation

Authentifizierung & Header

Ihr glm api key autorisiert jede Anfrage. Übergeben Sie sie im Authorization Header als Bearer-Token. Dies ist die Standardmethode, die von offiziellen OpenAI-SDKs verwendet wird und mit jedem Client funktioniert, der OpenAI-kompatible Authentifizierung unterstützt. Sie erhalten diesen Schlüssel sofort nach der Anmeldung mit Google oder E-Mail im Dashboard.

Bewahren Sie Ihren Schlüssel sicher auf. Er gewährt vollen Zugriff auf Ihr Guthaben. Wenn Sie ihn verlieren, generieren Sie einen neuen; der alte Schlüssel wird sofort ungültig. Pro Konto kann jederzeit nur ein aktiver Schlüssel vorhanden sein.

Chat-Vervollständigungs-Endpunkt

Senden Sie Textnachrichten an das Modell mit dem POST /v1/chat/completions Endpunkt. Die Basis-URL für alle Anfragen ist https://api.apiglm.com/v1. Sie müssen die Model-ID als uncensored im Anfragekörper. Dieser Endpunkt verarbeitet Standard-Konversationsschritte und gibt generierten Text zurück.

Jede Anfrage verbraucht Tokens von Ihrem Prepaid-Guthaben. Fehler und Ablehnungen belasten Ihr Guthaben nicht. Das Modell akzeptiert eine Sequenz von Nachrichten, die Mehr-Interaktions-Gespräche innerhalb des Kontextfensters ermöglicht.

Copycurl https://api.apiglm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list the features"}]
  }'

Models-Endpunkt

Überprüfen Sie verfügbare Modelle und Endpunktkonfiguration durch Aufruf von GET /v1/models. Dieser Endpunkt gibt eine Liste der aktuell von der API unterstützten Modelle zurück. Sie können dies nutzen, um die Konnektivität zu bestätigen und die Modell-ID zu überprüfen, bevor Sie Vervollständigungsanfragen senden. Dies ist nützlich zum Debuggen von Client-Konfigurationen.

Die Antwort enthält Metadaten zum Modell, wie seine ID und das Feld „owned_by“. Dieser Endpunkt verbraucht kein Guthaben. Verwenden Sie ihn, um sicherzustellen, dass Ihr Client auf die richtige Basis-URL zeigt und dass Ihr Authentifizierungsheader gültig ist.

Streaming & SSE

Aktivieren Sie die Echtzeit-Token-Ausgabe, indem Sie stream: true in Ihrer Anfrage. Die API gibt einen Server-Sent Events (SSE)-Stream zurück. Jeder Chunk enthält partielle Textdeltas. Der letzte Chunk enthält die vollständigen Token-Nutzungsstatistiken für die Anfrage.

Streaming reduziert die wahrgenommene Latenz für Endbenutzer. Es ermöglicht Ihrer Anwendung, Tokens anzuzeigen, während sie generiert werden. Dies ist ideal für Chat-Schnittstellen, bei denen sofortiges Feedback erwartet wird. Verarbeiten Sie den Stream korrekt, um sicherzustellen, dass alle Tokens verarbeitet werden.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiglm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Function Calling

Definieren Sie Tools in Ihrer Anfrage, um Function Calling zu aktivieren. Das Modell kann strukturiertes JSON zurückgeben, das angibt, welche Funktion aufgerufen werden soll und welche Argumente verwendet werden. Dies ermöglicht es Ihrer Anwendung, Code basierend auf der Benutzerabsicht auszuführen. Die Unterstützung umfasst Tool-Definitionen, Tool-Auswahlen und den JSON-Modus für strenge Ausgabeformatierung.

Verwenden Sie dieses Feature, um das LLM in Ihren Workflow zu integrieren. Definieren Sie das Funktionsschema im Anfragekörper. Das Modell antwortet mit einer Liste von Tool-Aufrufen. Analysieren Sie diese Aufrufe in Ihrem Code, um externe Aktionen auszulösen. Dies ermöglicht komplexe, mehrstufige Aufgaben.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiglm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parameter & Limits

Das Context-Window unterstützt 100.000 Tokens für kombinierten Prompt und Completion. Die maximale Ausgabe beträgt 16.000 Tokens pro Anfrage. Legen Sie max_tokens die Ausgabelänge zu steuern. Standard ist 2,048 Tokens, wenn nicht angegeben. Sie können Temperatur, top_p und Seed zur Variabilität anpassen.

Rate-Limits erlauben 300 Anfragen pro Minute pro Schlüssel. Gleichzeitige Anfragen sind auf 8 pro Schlüssel begrenzt. Anfragekörper müssen unter 8 MB liegen. Fehler geben Standard-HTTP-Statuscodes zurück. Ein 401 zeigt einen ungültigen Schlüssel an. Ein 402 bedeutet, dass Ihr Guthaben erschöpft ist. Ein 429 signalisiert Rate-Limit überschritten.

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)