API Dokümantasyonu

Kimlik Doğrulama & Headerlar

Sizin glm api key her isteği yetkilendirir. Bunu Authorization üstbilgiyi Bearer token olarak kullanın. Bu, resmi OpenAI SDK'ları tarafından kullanılan standart yöntemdir ve OpenAI uyumlu kimlik doğrulamasını destekleyen herhangi bir istemci ile çalışır. Bu anahtarı, panoda Google veya e-posta ile kaydolduktan hemen sonra alırsınız.

Anahtarınızı güvende tutun. Ön ödemeli kredinize tam erişim sağlar. Kaybederseniz, yeni bir tane oluşturun; eski anahtar anında geçersiz hale gelir. Her hesapta aynı anda yalnızca bir aktif anahtarınız olabilir.

Sohbet Tamamlamaları Uç Noktası

Metin mesajlarını modele POST /v1/chat/completions endpoint. Tüm istekler için temel URL https://api.apiglm.com/v1. Model kimliğini uncensored istem gövdesinde. Bu uç nokta, standart konuşma dönüşlerini işler ve oluşturulan metni döndürür.

Her istek, ön ödemeli bakiyenizden token tüketir. Hatalar ve reddetmeler kredinizi ücretlendirmez. Model, bağlam penceresi içinde çoklu tur sohbetlere izin veren bir mesaj dizisi kabul eder.

Copycurl https://api.apiglm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list the features"}]
  }'

Models Endpoint

Kullanılabilir modelleri ve uç nokta yapılandırmasını çağırarak doğrulayın GET /v1/models. Bu uç nokta, API tarafından şu anda desteklenen modellerin bir listesini döndürür. Bağlantıyı doğrulamak ve tamamlama isteklerini göndermeden önce model kimliğini kontrol etmek için bunu kullanabilirsiniz. İstemci yapılandırmalarını hata ayıklamak için faydalıdır.

Yanıt, model hakkında kimlik ve owned_by alanı gibi meta veriler içerir. Bu uç nokta kredi tüketmez. İstemcinizin doğru temel URL'yi işaret ettiğinden ve kimlik doğrulama başlığınızın geçerli olduğundan emin olmak için kullanın.

Akış & SSE

Gerçek zamanlı token çıktısını etkinleştirmek için stream: true istek içinde. API Sunucu Tarafı Olayları (SSE) akışı döndürür. Her parça kısmi metin farkları içerir. Son parça, istek için tam token kullanım istatistiklerini içerir.

Akış, kullanıcılar için algılanan gecikmeyi azaltır. Uygulamanızın belirtiler oluşturuldukça göstermesine olanak tanır. Bu, hemen geri bildirim beklenen sohbet arayüzleri için idealdir. Tüm belirteçlerin işlendiğinden emin olmak için akışı doğru şekilde yönetin.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiglm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

İşlev Çağırma

İşlev çağırma etkinleştirmek için istek gövnenize araçlar tanımlayın. Model, hangi işlevin çağrılacağını ve argümanlarını belirten yapılandırılmış JSON döndürebilir. Bu, uygulamanızın kullanıcı niyetine göre kod çalıştırmasına olanak tanır. Destek, araç tanımlamaları, araç seçimleri ve katı çıktı biçimlendirme için JSON modunu içerir.

Bu özelliği LLM'yi iş akışınıza entegre etmek için kullanın. İşlev şemasını istek gövdesinde tanımlayın. Model, bir araç çağrısı listesiyle yanıt verir. Harici eylemleri tetlemek için bu çağrıları kodunuzda ayrıştırın. Bu, karmaşık çok adımlı görevleri mümkün kılar.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiglm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parameters & Limits

Bağlam penceresi, istem ve tamamlama için birleşik 100.000 tokene destek verir. Maksimum çıktı, istek başına 16.000 tokendir. Ayarlayın max_tokens çıktı uzunluğunu kontrol etmek için. Belirtilmezse varsayılan 2.048 token'dır. Değişkenlik için sıcaklık, top_p ve seed'i ayarlayabilirsiniz.

Hız limitleri anahtar başına dakikada 300 istek sağlar. Eşzamanlı istekler anahtar başına 8 ile sınırlıdır. İstek gövdeleri 8 MB'ın altında olmalıdır. Hatalar standart HTTP durum kodlarını döndürür. 401 geçersiz bir anahtar gösterir. 402 kredinizin tükendiğini belirtir. 429 hız sınırının aşıldığını bildirir.

Akış

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)