fi ▾
Hanki avaimesi

GLM api-avain: Vianmääritysohje

Palauttaako GLM API -avaimesi virheitä tai epäonnistuuko sen integrointi haluamaasi editoriin? Tämä opas ratkaisee yleisimmät konfiguraatio-ongelmat, 'Unauthorized'-vastauksista alkaen streamausvirheisiin, varmistaen että sensuroimattomat LLM-kutsut toimivat luotettavasti.

Viimeksi päivitetty

Yhteenveto

  1. Varmista, että pohja-osoitteesi ja pyyntökehikkosi vastaavat asiakasasetusta täsmälleen välttääksesi 'Unauthorized' tai 'Model Not Found' -virheet.
  2. Streamaa vastauksia SSE:n kautta vaativat viimeisen palstan jäsentämisen token-käytön saamiseksi, koska käyttötietoja ei sisällytetä jokaiseen viestipalstaan.
  3. Esiladattu kryptomalli laskuttaa vain onnistuneesta token-tuotannosta, jolloin virheet ja hylkäykset ovat käytännössä ilmaisia.
  4. Kontekstiikkunat yhdistävät syötteen ja täydennyksen, joten 100k raja tarkoittaa, että sinun on huomioitava sekä syöte- että tuotantomerkit huolellisesti.

Miksi avaintasi palauttaa virheen 'Unauthorized'

Virhe 'Unauthorized' (Luvaton) johtuu yleensä API-avaimen ja base URL -päätepisteen ristiriidasta. Kun integroit uuden LLM-editoriin kuten Zed tai Trae, sinun on varmistettava, että base URL osoittaa suoraan tarjoajan chat-completion-päätepisteeseen eikä yleiseen välityspalvelimeen. Jos käytät OpenAI-yhteensopivaa asiakasohjelmaa, palvelumme base URL on HTTPS://api.apiglm.com/v1. Väärän URL-osoituksen tai vanhentuneen avaimen syöttäminen aiheuttaa tämän 401-virheen välittömästi.

Yleinen syy on avaimen lähettäminen väärässä otsikkomuodossa. Jotkin asiakasohjelmat odottavat muotoa 'Authorization: Bearer ', kun taas toiset voivat tulkita syöttökentän väärin. Varmista, että avain on kopioitu täsmälleen sellaisena kuin se näkyy hallintapaneelissa kirjautumisen jälkeen Google- tai sähköpostitunnuksella. Puhelinnumerotarkistusta ei ole, joten jos avain on kelvollinen, sen pitäisi toimia missä tahansa standardissa OpenAI SDK -toteutuksessa.

  • Tarkista, että perus-URL päättyy /v1.
  • Varmista, että URL-merkkijonossa ei ole perässä olevia vinoviivoja.
  • Varmista, että avainta ei ole peruutettu tai korvattu.

Ajatuslohkon ongelman käsittely

Reasoning-painotteisten mallien käyttäjät kohtaavat usein tyhjiä 'ajattelulohkoja', joissa malli tuottaa vain tagin ilman tekstiä. Tämä ei aina ole bugi koodissasi, vaan perustavanlaatuisen uncensored-malliarkkitehtuurin käyttäytymistä. Malli voi päättää tuottaa perustelulohkon, joka sisältää vain välilyöntejä tai null-merkkejä, ja tulkkisi voi tulkita tämän tyhjäksi vastaukseksi.

Käsittele tämä konfiguroimalla asiakasohjelmasi jättämään tyhjät päättelytagit huomiotta tai poistamaan välilyönnit ennen käsittelyä. Jos käytät mukautettua päättelytransformaattoria, varmista sen käsittelevän nämä reunatapaukset oikein. Malli on hienosäädetty suoriin vastauksiin, joten liiallinen ajatuslohko voi joskus viitata tarpeeseen säätää lämpötila- tai top_p-parametreja suorempien vastausten kannustamiseksi.

Vianmääritys vaatii raakavastauksen bittien lokittamisen. Jos ajatuslohko on olemassa mutta tyhjä, sen voi turvallisuussyistä ohittaa ja siirtyä varsinaiseen sisällön tuottamiseen. Tämä varmistaa, että sovelluksesi ei jää jumiin odottamaan olematonta tekstiä.

Perus-URL-osoitusten määrittäminen editoreissa

Epäsuodatetun LLM:n integrointi paikallisiin editoreihin kuten Zed tai Claude Code vaatii oletusympäristömuuttujien ohittamista. Useimmat editorit käyttävät oletuksena OpenAI:n base URL -osoitetta. Sinun on asetettava base URL -osoite arvoksi HTTPS://api.apiglm.com/v1 määritystiedostoissasi.

.env.development- tai config.js-tiedostoissa varmista, että API-avainmuuttuja on oikein määritetty. Esimerkiksi aseta base URL -muuttuja osoittamaan päätepisteeseemme. Tämä varmistaa, että kaikki pyynnöt, mukaan lukien funktiokutsut ja streamaus, ohjautuvat infrastruktuurimme kautta. Jos editori ei tue mukautettuja base URL:ia, sinun ehkä täytyy käyttää proxya tai wrapper-skriptiä, joka kääntää standardin OpenAI-protokollan päätepisteeseemme.

Varmista integraatio lähettämällä yksinkertainen 'ping'-pyyntö. Jos saat kelvollisen JSON-vastauksen, kokoonpanosi on oikein. Tämä vaihe on kriittinen ennen monivaiheisten keskustelujen kokeilua.

Nopeusrajoitukset ja samanaikaisuusvirheet

Infrastruktuurimme asettaa tiukat nopeusrajoitukset varmistamaan vakauden suurten kuormien aikana. Jokainen API-avain on rajoitettu 300 pyyntöön minuutissa ja se voi käsitellä jopa 8 samanaikaista pyyntöä. Jos ylität nämä rajat, saat virheen 429 Too Many Requests.

Välttääksesi nämä virheet, toteuta eksponentiaalinen backoff asiakaskoodissasi. Seuraa 'Retry-After'-otsaketta vastauksessa, jos se on saatavilla. Lisäksi varmista, että sovelluksesi liikenne ei kasva huippuajankohtina. Jos suoritat useita instansseja, jaa kuorma eri avainten välillä tai hallitse samanaikaisuutta sovellustasolla.

Pyyntöruuman koko on myös rajoitettu 8 MB:iin. Suuret kehotteet tai monet työkalukutsut voivat ylittää tämän rajan. Jaa syöteesi tai vähennä samanaikaisten pyyntöjen määrää pysyäksesi näiden rajojen sisällä. Nämä rajat ovat läpinäkyviä ja suunniteltu estämään resurssien ehtyminen.

Tokenimäärien laskenta ja kontekstiikkunat

Token-käytön ymmärtäminen on kriittistä kustannusten hallinnassa. Mallimme tukee 100 000 tokenin kontekstiikkunaa, joka sisältää sekä promptin että completionin. Maksimi lähtö pyyntöä kohden on 16 000 tokenia tai 2 048, jos et määritä 'max_tokens'-arvoa.

Hinta perustuu todelliseen token-käyttöön: $0,15 miljoonaa syöttötokenia kohden ja $0,50 miljoonaa tulostokenia kohden. Virheet ja hylkäykset ovat ilmaisia, joten maksat vain onnistuneesta sisällöntuotannosta. Tämä esimaksumalli tarkoittaa, että luottotili ei vanhene, ja voit täydentää sitä kryptovaluutalla milloin tahansa.

Seuraa token-käyttöä sovelluksessasi jäsentelemällä vastauksen metadataa. Streamauksen viimeinen pala sisältää kokonaistoken-määrän. Tämä mahdollistaa kustannusten seurannan reaaliajassa ja promptien säätämisen pysyäksesi budjetin sisällä. Tehokas token-käyttö on avain esimaksukrediittisi arvon maksimoimiseen.

Streamausvastauksen jäsentäminen

Virtaavat vastaukset toimitetaan Server-Sent Events (SSE) -tekniikalla. Jokainen lohko sisältää osan vastauksesta, mutta tokenien käyttötiedot sisällytetään vain viimeiseen lohkoon. Tämä tarkoittaa, että kokonaista tokenien käyttöä ei voi laskea ennen kuin virtaus on valmis.

Jäsennä virta kuuntelemalla 'data'-tapahtumia. Koota tekstipalkit muodostaaksesi koko vastauksen. Kun saat lopullisen palikan, poimi 'usage'-kenttä päivittääksesi paikallisen tokenlaskurisi. Tämä lähestymistapa varmistaa tarkan laskutuksen ja auttaa seuraamaan resurssien käyttöä.

Käsittele verkkokatkokset joustavasti. Jos stream putoaa, sinun ehkä pitää yrittää pyyntöä uudelleen. Varmista, että asiakasohjelmasi voi käsitellä osittaisia vastauksia ja koota ne oikein. Streamaus on ihanteellista reaaliaikaisiin sovelluksiin, mutta se vaatii vahvan virheenkäsittelyn.

Funktikutsujen parametrivirheet

Toimintojen kutsuminen vaatii tarkan parametrien konfiguraation. Varmista, että 'tools'-taulukko määrittelee funktion kaavion oikein, mukaan lukien parametrit ja kuvaukset. 'tool_choice'-parametri voidaan asettaa arvoon 'auto', 'required' tai tiettyyn funktiokseen.

Yleiset virheet sisältävät puuttuvia vaadittuja kenttiä tai virheellisiä tietotyylejä työkaluskeemassa. Varmista, että asiakasohjelmasi lähettää 'response_format' arvona 'json_object', jos odotat rakennettua tulosta. Tämä varmistaa, että malli palauttaa kelvollisen JSONin, jonka sovelluksesi voi jäsentää.

Testaa funktiokutsuja ensin yksinkertaisilla työkaluilla. Lisää monimutkaisuutta vähitellen tunnistamiseksi mahdolliset kaavamääritysten ristiriidat. Jos malli epäonnistuu työkalun kutsumisessa, tarkista 'tool_calls'-kenttä vastauksesta virheiden varalta. Oikea konfiguraatio on olennaista luotettaville funktiokutsuille.

Kryptolisäyksen viiveiden korjaus

Luotton lisäys tapahtuu kryptovaroilla, tarkemmin sanottuna USDT:llä (TRC20) tai USDC:llä (Base). Transaktiot voivat kestää muutaman minuutin vahvistuakseen lohkoketjussa. Jos luottosi ei näy heti, odota verkon vahvistusta.

Lisäpankkitilit lisätään automaattisesti 50 $:n tai sitä suuremmille täydennyksille: +5 % summasta 50 $, +10 % summasta 100 $ ja +15 % summasta 200 $. Varmista, että lähetät tarkan summan saadaksesi oikean bonuksen. 20 $:n alle tai 500 $:n ylittävät tapahtumat eivät välttämättä tuo bonusta tai ne hylätään.

Jos kohtaat kaksoisveloituksen, ota yhteyttä tukeen Tuki-sivun kautta. Kreditejä ei palauteta, mutta niitä voidaan säätää. Pidä kirjaa tapahtumatunnuksestasi nopeampaa ratkaisua varten. Tämä esimaksumalli varmistaa, ettet menetä kredittiä vanhenemisen vuoksi.

Mallin tunnuksen virheet

Väärän mallitunnuksen käyttö on yleinen virhelähde. Cenzuroimattomalle mallillemme tunnus on yksinkertaisesti 'uncensored'. Pyynnön lähettäminen tunnuksella 'gpt-4' tai 'claude-3' johtaa virheeseen "Mallia ei löydy".

Varmista, että asiakasohjelmistosi asettaa 'model'-kentän arvoksi 'uncensored' jokaisessa pyynnössä. Tämä on kriittistä käytettäessä OpenAI-yhteensopivia SDK:ita, jotka voivat olettaa muita malleja. Varmista mallitunnus konfiguraatiotiedostoistasi ja testaa pyyntöjä.

Palvelumme ei tarjoa mallien reititystä tai useita mallivaihtoehtoja. Se on yksittäisen mallin päätepiste, joka on omistettu sensuroimattomalle tekstin tuotannolle. Tämä yksinkertaisuus vähentää monimutkaisuutta ja varmistaa johdonmukaisen suorituskyvyn. Tarkista aina mallitunniste ennen tuotantoon siirtymistä.

Yleiset kysymykset

Miten saan GLM-API-avaimen?

Voit luoda API-avaimen rekisteröitymällä ‘Hanki API-avain’ -sivullamme Google- tai sähköpostin ja salasanan avulla. Avain näytetään välittömästi luomisen jälkeen. Puhelinnumeroa ei vaadita, ja saat $0.50 kokeilusaldon, joka on voimassa 7 päivää.

Onko tämä virallinen GLM-API?

Ei, olemme itsenäinen tarjoaja, joka tarjoaa suodatattoman, OpenAI-yhteensopivan API:n. Emme tarjoa virallisia GLM-malleja niiden vastaavilta toimittajilta. Palvelumme on erillinen infrastruktuuri, joka on suunniteltu suurimittaiseen, matalan viiveen omaavaan tekstin tuotantoon yhdellä suodatattomalla mallilla.

Mitä tapahtuu, jos saat virheen pyynnön aikana?

Virheet ovat ilmaisia. Maksat vain tokenneista, jotka tuotetaan ja palautetaan vastauksessa onnistuneesti. Jos pyyntö epäonnistuu nopeusrajoitusten, verkkovirheiden tai mallivirheiden vuoksi, sinulta ei peritä maksua näistä tokenneista.

Voinko käyttää omaa base URL:iä OpenAI-SDK:n kanssa?

Kyllä, voit määrittää minkä tahansa OpenAI-yhteensopivan SDK:n asettamalla base URL -arvoksi HTTPS://api.apiglm.com/v1 ja tarjoamalla API-avaimesi. Tämä mahdollistaa saman asiakaskoodin käytön kuin muissa malleissa, varmistaen, ettet ole sidottu yhteen toimittajaan.

Hanki avain välittömästi.

Rekisteröidy, kopioi avain ja päivitä base URL. Siinä kaikki.