pl ▾
Pobierz swój klucz

GLM api Key: Przewodnik rozwiązywania problemów

Czy Twój klucz API GLM zwraca błędy lub nie integruje się z preferowanym edytorem? Ten przewodnik rozwiązuje najczęstsze problemy konfiguracyjne, od odpowiedzi 'Unauthorized' po błędy parsowania strumienia, zapewniając niezawodne wywołania uncenzurowanego LLM.

Ostatnia aktualizacja

Podsumowanie

  1. Zweryfikuj, czy adres bazowy i identyfikator modelu dokładnie odpowiadają konfiguracji klienta, aby uniknąć błędów 'Unauthorized' lub 'Model Not Found'.
  2. Strumieniowanie odpowiedzi przez SSE wymaga analizy ostatniego fragmentu w celu uzyskania danych dotyczących użycia tokenów, ponieważ dane dotyczące użycia nie są zawarte w każdym fragmencie wiadomości.
  3. Model prepaidowy kryptowalut rozlicza tylko za udane generowanie tokenów, co sprawia, że błędy i odrzucenia są efektywnie darmowe.
  4. Okna kontekstowe łączą prompt i uzupełnienie, więc limit 100k oznacza, że musisz starannie uwzględnić zarówno tokeny wejściowe, jak i wyjściowe.

Dlaczego Twój klucz zwraca 'Unauthorized'

Błąd 'Unauthorized' (Nieautoryzowany) zwykle wynika z niezgodności między skonfigurowanym kluczem API a adresem URL endpointu. Podczas integracji nowego LLM w edytorze takim jak Zed lub Trae, musisz upewnić się, że bazowy adres URL wskazuje bezpośrednio na endpoint completacji czatu dostawcy, a nie na ogólnego pośrednika. Jeśli używasz klienta kompatybilnego z OpenAI, bazowy adres URL dla naszej usługi to HTTPS://api.apiglm.com/v1. Podanie niewłaściwego adresu URL lub wygasłego klucza spowoduje natychmiastowe zwrócenie odpowiedzi 401.

Inną powszechną przyczyną jest wysłanie klucza w niewłaściwym formacie nagłówka. Niektórzy klienci oczekują 'Authorization: Bearer ', podczas gdy inni mogą błędnie zinterpretować pole wejściowe. Upewnij się, że Twój klucz został skopiowany dokładnie tak, jak pokazano na panelu po zalogowaniu się za pomocą Google lub e-maila. Nie ma kroku weryfikacji numeru telefonu, więc jeśli klucz jest ważny, powinien działać w dowolnej standardowej implementacji OpenAI SDK.

  • Sprawdź, czy bazowy adres URL kończy się na /v1.
  • Upewnij się, że w ciągu URL nie ma ukośników końcowych.
  • Upewnij się, że klucz nie został unieważniony ani zastąpiony.

Obsługa problemu z 'Blokiem Myślenia'

Użytkownicy modeli opartych na rozumowaniu często napotykają puste bloki 'myślenia', gdzie model wypisuje tag, ale nie tekst. Nie jest to zawsze błąd w Twoim kodzie, ale zachowanie architektury modelu uncensored. Model może zdecydować się na wypisanie bloku rozumowania, który zawiera tylko spacje lub znaki null, co Twój parser może zinterpretować jako pustą odpowiedź.

Aby to obsłużyć, skonfiguruj swojego klienta tak, aby ignorował puste tagi rozumowania lub usuwał białe znaki przed przetwarzaniem. Jeśli używasz niestandardowego transformatora rozumowania, upewnij się, że poprawnie obsługuje te przypadki brzegowe. Model jest dostrojony do bezpośrednich odpowiedzi, więc nadmierne bloki myślenia mogą czasem wskazywać na potrzebę dostosowania parametrów 'temperature' lub 'top_p', aby zachęcić do bardziej bezpośrednich odpowiedzi.

Debugowanie tego polega na logowaniu surowych bajtów odpowiedzi. Jeśli blok myślenia jest obecny, ale pusty, bezpiecznie jest go pominąć i przejść do generowania właściwej treści. Zapewnia to, że Twoja aplikacja nie zawiesi się w oczekiwaniu na nieistniejący tekst.

Konfigurowanie bazowych adresów URL w edytorach

Integracja bezcenzuralnego LLM do lokalnych edytorów takich jak Zed lub Claude Code wymaga nadpisania domyślnych zmiennych środowiskowych. Większość edytorów domyślnie używa bazowego URL OpenAI. Musisz jawnie ustawić bazowy URL na HTTPS://api.apiglm.com/v1 w swoich plikach konfiguracyjnych.

W plikach .env.development lub config.js upewnij się, że zmienna klucza API jest poprawnie powiązana. Na przykład ustaw zmienną adresu URL bazowego tak, aby wskazywała nasz punkt końcowy. Zapewnia to, że wszystkie żądania, w tym wywoływanie funkcji i strumieniowanie, są kierowane przez naszą infrastrukturę. Jeśli edytor nie obsługuje niestandardowych adresów URL bazowych, może być konieczne użycie proxy lub skryptu opakowującego, który tłumaczy standardowy protokół OpenAI na nasz punkt końcowy.

Upewnij się, integrację wysyłając prosty żądanie 'ping'. Jeśli otrzymasz poprawną odpowiedź JSON, Twoja konfiguracja jest poprawna. Ten krok jest kluczowy przed próbą złożonych rozmów wieloetapowych.

Błędy szybkości i współbieżności

Nasza infrastruktura narzuca ścisłe limity szybkości, aby zapewnić stabilność przy dużym natężeniu ruchu. Każdy klucz API jest ograniczony do 300 żądań na minutę i może obsłużyć do 8 żądań równoległych. Jeśli przekroczysz te limity, otrzymasz błąd 429 Too Many Requests.

Aby uniknąć tych błędów, zaimplementuj wykładnicze opóźnienie ponownych prób w kodzie klienta. Monitoruj nagłówek 'Retry-After' w odpowiedzi, jeśli jest dostępny. Dodatkowo upewnij się, że Twoja aplikacja nie generuje nagłych wzrostów ruchu w godzinach szczytu. Jeśli uruchamiasz wiele instancji, rozłóż obciążenie między różne klucze lub zarządzaj współbieżnością na poziomie aplikacji.

Rozmiar treści żądania jest również ograniczony do 8 MB. Duże prompty lub wiele wywołań narzędzi mogą przekroczyć ten limit. Podziel swoje wejście lub zmniejsz liczbę żądań współbieżnych, aby pozostać w tych granicach. Limity te są przejrzyste i zaprojektowane tak, aby zapobiec wyczerpaniu zasobów.

Liczenie tokenów i okna kontekstowe

Zrozumienie zużycia tokenów jest kluczowe dla zarządzania kosztami. Nasz model obsługuje okno kontekstowe o rozmiarze 100,000 tokenów, które obejmuje zarówno prompt, jak i uzupełnienie. Maksymalna liczba tokenów wyjściowych na żądanie to 16,000, lub 2,048 jeśli nie określisz 'max_tokens'.

Cena opiera się na rzeczywistym zużyciu tokenów: $0.15 za milion tokenów wejściowych i $0.50 za milion tokenów wyjściowych. Błędy i odrzucenia są darmowe, więc płacisz tylko za pomyślną generację treści. Ten model z góry opłacony oznacza, że Twój kredyt nie wygasa, a doładowanie możesz wykonać w dowolnym momencie za pomocą kryptowalut.

Śledź użycie tokenów w swojej aplikacji, analizując metadane odpowiedzi. Ostatni kawałek strumieniowej odpowiedzi zawiera całkowitą liczbę tokenów. Pozwala to monitorować koszty w czasie rzeczywistym i dostosowywać prompty, aby mieścić się w budżecie. Efektywne użycie tokenów jest kluczowe dla maksymalizacji wartości kredytu z góry opłaconego.

Parsowanie odpowiedzi strumieniowych

Strumieniowanie odpowiedzi jest dostarczane za pomocą Server-Sent Events (SSE). Każdy fragment zawiera część odpowiedzi, ale dane o zużyciu tokenów są zawarte tylko w ostatnim fragmencie. Oznacza to, że nie możesz obliczyć całkowitego zużycia tokenów, dopóki strumień nie zostanie zakończony.

Przeanaluj strumień, nasłuchując zdarzeń 'data'. Skumuluj fragmenty tekstu, aby utworzyć pełną odpowiedź. Gdy otrzymasz ostatni fragment, wyodrębnij pole 'użycie', aby zaktualizować lokalny licznik tokenów. To podejście zapewnia dokładne rozliczenia i pomaga monitorować zużycie zasobów.

Obsługuj przerwy w sieci w sposób elegancki. Jeśli strumień zostanie przerwany, może być konieczne ponowienie żądania. Upewnij się, że klient może obsługiwać częściowe odpowiedzi i poprawnie je rekonstruować. Strumieniowanie jest idealne dla aplikacji w czasie rzeczywistym, ale wymaga solidnej obsługi błędów.

Błędy parametrów wywoływania funkcji

Wywoływanie funkcji wymaga precyzyjnej konfiguracji parametrów. Upewnij się, że Twoja tablica 'tools' poprawnie definiuje schemat funkcji, w tym parametry i opisy. Parametr 'tool_choice' można ustawić na 'auto', 'required' lub konkretną nazwę funkcji.

Typowe błędy obejmują brak wymaganych pól lub niepoprawne typy danych w schemacie narzędzia. Zweryfikuj, czy Twój klient wysyła 'response_format' jako 'json_object', jeśli oczekujesz danych strukturalnych. Zapewnia to, że model zwróci poprawny JSON, który Twoja aplikacja może przeanalizować.

Przetestuj najpierw wywoływanie funkcji za pomocą prostych narzędzi. Stopniowo zwiększaj złożoność, aby zidentyfikować wszelkie niezgodności schematów. Jeśli model nie wywoła narzędzia, sprawdź pole 'tool_calls' w odpowiedzi pod kątem błędów. Właściwa konfiguracja jest kluczowa dla niezawodnego wywoływania funkcji.

Naprawa opóźnień dopłat kryptowalutami

Doładowanie kredytu odbywa się poprzez kryptowaluty, konkretnie USDT (TRC20) lub USDC (Base). Transakcje mogą wymagać kilku minut na potwierdzenie w blockchainie. Jeśli Twój kredyt nie pojawi się natychmiast, poczekaj na potwierdzenie w sieci.

Kredyty bonusowe są naliczane automatycznie przy doładowaniach wynoszących $50 lub więcej: +5% za $50, +10% za $100 oraz +15% za $200. Upewnij się, że przesyłasz dokładną kwotę, aby otrzymać właściwy bonus. Transakcje poniżej $20 lub powyżej $500 mogą nie otrzymać bonusu lub mogą zostać odrzucone.

Jeśli wystąpi podwójne obciążenie, skontaktuj się z pomocą techniczną przez stronę Wsparcia. Kredyty nie są zwracane, ale mogą być dostosowane. Zapisz identyfikator transakcji dla szybszego rozwiązania. Ten model z góry zapewnia, że nigdy nie stracisz kredytu z powodu wygaśnięcia.

Błędy konfiguracji ID modelu

Użycie niewłaściwego ID modelu to częste źródło błędów. Dla naszego modelu bez cenzury ID to po prostu 'uncensored'. Wysłanie żądania z 'gpt-4' lub 'claude-3' spowoduje błąd 'Model Not Found'.

Upewnij się, że Twój klient jawnie ustawia pole 'model' na 'uncensored' w każdym żądaniu. Jest to kluczowe podczas używania SDK kompatybilnych z OpenAI, które mogą domyślnie wybierać inne modele. Zweryfikuj ID modelu w plikach konfiguracyjnych i przetestuj żądania.

Nasz serwis nie oferuje routingu modeli ani wielokrotnego wyboru modeli. To pojedynczy endpoint dedykowany generowaniu tekstu bez cenzury. Ta prostota zmniejsza złożoność i zapewnia spójną wydajność. Zawsze podwójnie sprawdź ID modelu przed wdrożeniem do produkcji.

Typowe pytania

Jak uzyskać klucz API GLM?

Możesz wygenerować klucz API, rejestrując się na naszej stronie 'Pobierz klucz API' za pomocą Google lub adresu e-mail i hasła. Klucz jest wyświetlany natychmiast po utworzeniu. Nie jest wymagany numer telefonu, a Ty otrzymujesz $0.50 kredytu próbnej ważnego przez 7 days.

Czy to oficjalne API GLM?

Nie, jesteśmy niezależnym dostawcą oferującym API kompatybilne z OpenAI bez filtrów. Nie oferujemy oficjalnych modeli GLM od ich odpowiednich dostawców. Nasza usługa to oddzielna infrastruktura zaprojektowana do generowania tekstu o wysokiej przepustowości i niskim opóźnieniu z jednym modelem bez filtrów.

Co się stanie, jeśli podczas żądania wystąpi błąd?

Błędy są darmowe. Płacisz tylko za tokeny, które zostały pomyślnie wygenerowane i zwrócone w odpowiedzi. Jeśli żądanie nie powiedzie się z powodu limitów szybkości, problemów z siecią lub błędów modelu, nie naliczamy opłat za te tokeny.

Czy mogę używać mojego własnego bazowego URL z SDK OpenAI?

Tak, możesz skonfigurować dowolne SDK kompatybilne z OpenAI, ustawiając bazowy URL na HTTPS://api.apiglm.com/v1 i podając swój klucz API. Pozwala to na używanie tego samego kodu klienta, którego używałbyś dla innych modeli, zapewniając brak lock-inu dostawcy.

Pobierz klucz natychmiast

Zarejestruj się, skopiuj klucz, zaktualizuj swój bazowy URL. To wszystko.