Dokumentacja API

Uwierzytelnianie & nagłówki

Twój glm api key autoryzuje każde żądanie. Przekaż go w Authorization nagłówek jako token Bearer. Jest to standardowa metoda używana przez oficjalne SDK OpenAI i działa z dowolnym klientem obsługującym uwierzytelnianie kompatybilne z OpenAI. Otrzymujesz ten klucz natychmiast po rejestracji przez Google lub e-mail na panelu.

Chroń swój klucz. Zapewnia on pełny dostęp do Twojej zaliczki. Jeśli go zgubisz, wygeneruj nowy; stary klucz staje się nieważny natychmiast. Możesz mieć tylko jeden aktywny klucz na konto w dowolnym momencie.

Punkt końcowy Uzupełnień Czat

Wyślij wiadomości tekstowe do modelu używając POST /v1/chat/completions endpoint. Adres URL bazowy dla wszystkich żądań to https://api.apiglm.com/v1. Musisz określić identyfikator modelu jako uncensored w ciele żądania. Ten endpoint obsługuje standardowe tury konwersacyjne i zwraca wygenerowany tekst.

Każde żądanie zużywa tokeny z Twojego salda prepaid. Błędy i odmowy nie obciążają Twojego kredytu. Model akceptuje sekwencję wiadomości, umożliwiając rozmowy wieloetapowe w ramach okna kontekstowego.

Copycurl https://api.apiglm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list the features"}]
  }'

Punkt końcowy Modeli

Zweryfikuj dostępne modele i konfigurację punktów końcowych, wywołując GET /v1/models. Ten endpoint zwraca listę modeli obecnie obsługiwanych przez API. Możesz go użyć do potwierdzenia łączności i sprawdzenia ID modelu przed wysłaniem żądań uzupełnienia. Jest przydatny do debugowania konfiguracji klienta.

Odpowiedź zawiera metadane dotyczące modelu, takie jak jego identyfikator i pole owned_by. To endpoint nie zużywa kredytu. Użyj go, aby upewnić się, że Twój klient wskazuje na prawidłowy adres bazowy i że Twój nagłówek uwierzytelniający jest poprawny.

Strumieniowanie & SSE

Włącz generowanie tokenów w czasie rzeczywistym, ustawiając stream: true w Twoim żądaniu. API zwraca strumień zdarzeń wysyłanych serwerowo (SSE). Każdy fragment zawiera częściowe delta tekstu. Ostatni fragment zawiera kompletne statystyki użycia tokenów dla żądania.

Strumieniowanie zmniejsza postrzeganą opóźnienie dla użytkowników. Pozwala Twojej aplikacji wyświetlać tokeny, gdy są generowane. Jest to idealne dla interfejsów czatu, gdzie oczekiwana jest natychmiastowa informacja zwrotna. Obsługuj strumień poprawnie, aby upewnić się, że wszystkie tokeny zostaną przetworzone.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiglm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Wywoływanie funkcji

Zdefiniuj narzędzia w żądaniu, aby włączyć wywoływanie funkcji. Model może zwracać strukturalny JSON identyfikujący, którą funkcję wywołać i jakie są jej argumenty. Pozwala to Twojej aplikacji na wykonanie kodu na podstawie intencji użytkownika. Obsługa obejmuje definicje narzędzi, wybory narzędzi oraz tryb JSON dla ścisłego formatowania wyjścia.

Użyj tej funkcji do zintegrowania LLM ze swoim przepływem pracy. Zdefiniuj schemat funkcji w ciele żądania. Model odpowiada listą wywołań narzędzi. Sparsuj te wywołania w swoim kodzie, aby uruchomić akcje zewnętrzne. To umożliwia złożone zadania wieloetapowe.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiglm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parametry & Limity

Okno kontekstowe obsługuje 100,000 tokenów dla połączonego promptu i uzupełnienia. Maksymalny output wynosi 16,000 tokenów w jednym żądaniu. Ustaw max_tokens kontrolować długość wyjścia. Domyślna wartość to 2,048 tokenów, jeśli nie zostanie określone. Możesz dostosować temperaturę, top_p i seed dla zmienności.

Ograniczenia częstotliwości pozwalają na 300 żądań na minutę na klucz. Żądania równoległe są ograniczone do 8 na klucz. Ciała żądań muszą mieć rozmiar poniżej 8 MB. Błędy zwracają standardowe kody statusu HTTP. Błąd 401 oznacza nieprawidłowy klucz. Błąd 402 oznacza, że twój kredyt został wyczerpany. Błąd 429 sygnalizuje przekroczenie limitu częstotliwości.

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)