Dokumentasi API

Pengesahan & Header

Your glm api key mengesahkan setiap permintaan. Hantar ia dalam Authorization pencap sebagai token Bearer. Ini adalah kaedah piawai yang digunakan oleh SDK rasmi OpenAI dan berfungsi dengan mana-mana klien yang menyokong pengesahan serasi OpenAI. Anda menerima kunci ini serta-merta selepas mendaftar dengan Google atau e-mel di papan pemuka.

Jaga kunci anda dengan selamat. Ia memberikan akses penuh kepada kredit pra-dibayar anda. Jika anda kehilangannya, jana kunci baru; kunci lama akan menjadi tidak sah serta-merta. Anda hanya boleh mempunyai satu kunci aktif per akaun pada bila-bila masa.

Hujung Sambungan Penyelesaian Sembang

Hantar mesej teks ke model menggunakan POST /v1/chat/completions endpoint. URL asas untuk semua permintaan ialah https://api.apiglm.com/v1. Anda mesti menentukan ID model sebagai uncensored dalam badan permintaan. Hujung ini mengendalikan giliran perbualan standard dan memulangkan teks yang dijana.

Setiap permintaan menggunakan token dari baki pra-dibayar anda. Ralat dan penolakan tidak menelan belanja kredit anda. Model menerima jujukan mesej, membolehkan perbualan berbilang giliran dalam tetingkap konteks.

Copycurl https://api.apiglm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list the features"}]
  }'

Hujung Model

Sahkan model tersedia dan konfigurasi hujung dengan memanggil GET /v1/models. Hujung sambungan ini mengembalikan senarai model yang disokong oleh API. Anda boleh menggunakannya untuk mengesahkan sambungan dan menyemak ID model sebelum menghantar permintaan penyelesaian. Ia berguna untuk nyahpepijat konfigurasi klien.

Respons termasuk metadata mengenai model, seperti ID dan medan owned_by. Titik akhir ini tidak menelan kredit. Gunakan ia untuk memastikan klien anda menunjuk ke URL asas yang betul dan bahawa header pengesahan anda adalah sah.

Aliran & SSE

Aktifkan output token masa nyata dengan menetapkan stream: true dalam permintaan anda. API mengembalikan aliran Acara Diterusi Pelayan (SSE). Setiap potongan mengandungi delta teks separa. Potongan terakhir termasuk statistik penggunaan token lengkap untuk permintaan tersebut.

Penstriman mengurangkan latensi yang dirasakan untuk pengguna. Ia membolehkan aplikasi anda memaparkan token apabila ia dijana. Ini sesuai untuk antara muka sembang di mana maklum balas serta-menta dijangka. Tangani aliran dengan betul untuk memastikan semua token diproses.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiglm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pemanggilan Fungsi

Takrifkan alat dalam permintaan anda untuk membolehkan panggilan fungsi. Model boleh memulangkan JSON terstruktur yang mengenal pasti fungsi yang perlu dipanggil dan hujahnya. Ini membolehkan aplikasi anda melaksanakan kod berdasarkan niat pengguna. Sokongan termasuk takrifan alat, pilihan alat, dan mod JSON untuk pemformatan output yang ketat.

Gunakan ciri ini untuk mengintegrasikan LLM ke dalam aliran kerja anda. Takrifkan skema fungsi dalam badan permintaan. Model menjawab dengan senarian panggilan alat. Uraikan panggilan ini dalam kod anda untuk mencetuskan tindakan luaran. Ini membolehkan tugas kompleks berbilang langkah.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiglm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parameter & Had

Jendela konteks menyokong 100,000 token untuk prompt dan penyelesaian gabungan. Output maksimum ialah 16,000 token setiap permintaan. Tetapkan max_tokens untuk mengawal panjang output. Laluan ialah 2,048 token jika tidak dinyatakan. Anda boleh melaraskan suhu, top_p, dan benih untuk kepelbagaian.

Rate limits allow 300 requests per minute per key. Concurrent requests are capped at 8 per key. Request bodies must be under 8 MB. Errors return standard HTTP status codes. A 401 indicates an invalid key. A 402 means your credit is exhausted. A 429 signals rate limit exceeded.

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)