API-dokumentaatio

Todennus & Otsikot

Sinun glm api key valtuuttaa jokaisen pyynnön. Välitä se kenttään Authorization header Bearer-tokenina. Tämä on virallisten OpenAI-SDK:iden ja minkä tahansa OpenAI-yhteensopivaa autentikointia tukevan asiakkaan käyttämä standardimenetelmä. Saat tämän avaimen välittömästi rekisteröitymisen jälkeen Googlella tai sähköpostilla hallintapaneelissa.

Säilytä avain turvallisesti. Se antaa täyden pääsyn esimaksulliseen saldoon. Jos menetät sen, luo uusi; vanha avain mitätöityy välittömästi. Voit käyttää vain yhtä aktiivista avainta tilillä kerrallaan.

Chat Completions Endpoint

Lähetä tekstiviestejä mallille käyttäen POST /v1/chat/completions päätepiste. Kaikkien pyyntöjen perus-URL-osoite on https://api.apiglm.com/v1. Sinun on määritettävä mallin tunnus arvoksi uncensored pyyntörunossa. Tämä päätepiste käsittelee vakioita keskusteluvaiheita ja palauttaa tuotetun tekstin.

Jokainen pyyntö kuluttaa tokenit esiladatussaldoasi. Virheet ja hylkäykset eivät veloita kredittiäsi. Malli hyväksyy viestisarjan, mikä mahdollistaa monivaiheiset keskustelut kontekstiikkunan sisällä.

Copycurl https://api.apiglm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list the features"}]
  }'

Mallien päätepiste

Vahvista saatavilla olevat mallit ja päätepisteen määritys kutsumalla GET /v1/models. Tämä päätepiste palauttaa luettelon tällä hetkellä API:n tuista malleista. Voit käyttää tätä vahvistamaan yhteydet ja tarkistaa mallin tunnisteen ennen täydennyspyyntöjen lähettämistä. Se on hyödyllinen asiakasohjelmakonfiguraatioiden vianmääritykseen.

Vastaus sisältää metadataa mallista, kuten sen tunnuksen ja owned_by-kentän. Tämä päätepiste ei kuluta luottotiliä. Käytä sitä varmistaaksesi, että asiakasohjelmasi osoittaa oikeaan base URLiin ja että todennusotsake on voimassa.

Virtaus & SSE

Ota reaaliaikainen tokenin tuotto käyttöön asettamalla stream: true pyynnössäsi. API palauttaa Server-Sent Events (SSE) -streamin. Jokainen osio sisältää osittaisia tekstimuutoksia. Viimeinen osio sisältää pyynnön täydelliset tokenien käyttötilastot.

Streamaus vähentää havaittua viivettä käyttäjille. Se mahdollistaa sovelluksesi näyttää merkkejä niiden generoitessa. Tämä on ihanteellista chat-liittymille, joissa välitöntä palautetta odotetaan. Käsittele virta oikein varmistaaksesi, että kaikki merkit käsitellään.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiglm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Funktio kutsu

Määritä työkalut pyyntöön mahdollistaaksesi funktiokutsut. Malli voi palauttaa rakenteellisen JSON-tiedon, joka tunnistaa kutsuttavan funktion ja sen argumentit. Tämä mahdollistaa koodin suorittamisen käyttäjän tarkoituksen perusteella. Tuki sisältää työselumääritykset, työselivalinnat ja JSON-tilan tiukkaa tulosten muotoilua varten.

Käytä tätä ominaisuutta integroidaksesi LLM:n työvuoksiisi. Määrittele funktion skeema pyyntöruudussa. Malli vastaa listalla työkalukutsuja. Jäsennä nämä koodissasi käynnistääksesi ulkoisia toimintoja. Tämä mahdollistaa monimutkaisten, monivaiheisten tehtävien suorittamisen.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiglm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parameters & Limits

Konteksti-ikkuna tukee 100 000 tokenia syötteeseen ja tulokseen yhdistettynä. Enimmäistulos on 16 000 tokenia pyyntöä kohden. Aseta max_tokens hallita luovuutta, tuotannon pituutta. Oletusarvo on 2,048 tokenia, jos sitä ei määritetä. Voit säätää lämpötilaa, top_p:ää ja siemenarvoa vaihtelun hallitsemiseksi.

Nopeusrajoitukset sallivat 300 pyyntöä minuutissa per avain. Samanaikaisten pyyntöjen raja on 8 per avain. Pyyntöruumiin tulee olla alle 8 Mt. Virheet palauttavat standardit HTTP-vastauskoodit. Koodi 401 tarkoittaa virheellistä avainta. 402 tarkoittaa, että saldonsi on loppu. 429 kertoo nopeusrajoituksen ylityksestä.

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)