GLM api Ключ: Посібник з усунення неполадок
Повертає ваш ключ GLM API помилки або не працює інтеграція у ваш улюблений редактор? Цей посібник вирішує найпоширеніші проблеми конфігурації, від відповідей 'Unauthorized' до помилок парсингу потоку, забезпечуючи надійну роботу ваших uncensored LLM запитів.
Підсумок
- Переконайтеся, що ваша базова URL-адреса та ідентифікатор моделі точно відповідають конфігурації клієнта, щоб уникнути помилок 'Unauthorized' або 'Model Not Found'.
- Потокова передача відповідей через SSE вимагає аналізу останнього фрагмента для отримання даних про використання токенів, оскільки дані про використання не включаються в кожен фрагмент повідомлення.
- Передоплачена крипто-модель нараховує плату лише за успішну генерацію токенів, роблячи помилки та відмови фактично безкоштовними.
- Контекстні вікна поєднують запит і завершення, тому ліміт у 100k означає, що ви повинні ретельно враховувати як токени вводу, так і виводу.
Чому ваш ключ повертає 'Unauthorized'
Помилка 'Unauthorized' зазвичай виникає через невідповідність між вашим API-ключем та базовою URL-адресою ендпоінту. Під час інтеграції нової LLM у редактори, такі як Zed або Trae, переконайтеся, що базова URL-адреса вказує безпосередньо на ендпоінт chat completion провайдера, а не на загальне проксі. Якщо ви використовуєте клієнт, сумісний із OpenAI, базова URL-адреса для нашого сервісу — HTTPS://api.apiglm.com/v1. Вказання неправильної URL-адреси або простроченого ключа миттєво викличе відповідь 401.
Іншою поширеною причиною є надсилання ключа у неправильному форматі заголовка. Деякі клієнти очікують 'Authorization: Bearer ', тоді як інші можуть неправильно інтерпретувати поле введення. Переконайтеся, що ваш ключ скопійовано точно так, як показано на панелі керування після входу через Google або електронну пошту. Крок верифікації за номером телефону відсутній, тому якщо ключ дійсний, він має працювати з будь-якою стандартною реалізацією OpenAI SDK.
- Перевірте, що базова URL-адреса закінчується на /v1.
- Переконайтеся, що в рядку URL немає завершальних слешів.
- Перевірте, чи ключ не було анульовано або замінено.
Обробка проблеми 'Thinking Block'
Користувачі моделей, орієнтованих на міркування, часто стикаються з порожніми блоками «мислення», де модель виводить тег, але без тексту. Це не завжди помилка у вашому коді, а поведінка архітектури необмеженої моделі. Модель може вирішити вивести блок міркувань, який містить пробіли або нульові символи, які ваш парсер може інтерпретувати як порожню відповідь.
Щоб обробити це, налаштуйте ваш клієнт так, щоб він ігнорував порожні теги міркувань або видаляв пробіли перед обробкою. Якщо ви використовуєте кастомний трансформер міркувань, переконайтеся, що він коректно обробляє ці крайні випадки. Модель налаштована на прямі відповіді, тому надмірні блоки міркувань іноді можуть вказувати на необхідність налаштування параметрів 'temperature' або 'top_p', щоб заохотити більш прямі відповіді.
Налагодження включає логування сирого байтового відповіді. Якщо блок мислення присутній, але порожній, його безпечно пропустити та перейти до генерації фактичного контенту. Це гарантує, що ваша програма не зависне в очікуванні тексту, якого не існує.
Налаштування базових URL у редакторах
Інтеграція неконтрольованого LLM у локальні редактори, такі як Zed або Claude Code, вимагає перевизначення змінних середовища за замовчуванням. Більшість редакторів за замовчуванням використовують базовий URL OpenAI. Вам потрібно явно встановити базовий URL на HTTPS://api.apiglm.com/v1 у файлах конфігурації.
Для файлів .env.development або config.js переконайтеся, що змінна API ключа правильно відображена. Наприклад, встановіть змінну базового URL так, щоб вона вказувала на наш кінцевий пункт. Це гарантує, що всі запити, включаючи виклик функцій та потокову передачу, маршрутизуються через нашу інфраструктуру. Якщо редактор не підтримує користувацькі базові URL, вам може знадобитися використовувати проксі-сервер або сценарій-обгортку, який перетворює стандартний протокол OpenAI на наш кінцевий пункт.
Перевірте інтеграцію, надіславши простий запит 'ping'. Якщо ви отримаєте дійсну JSON-відповідь, ваша конфігурація правильна. Цей крок є критичним перед спробою складних багатотактних розмов.
Ліміти частоти та помилки конкурентності
Наша інфраструктура встановлює суворі ліміти швидкості для забезпечення стабільності під час великого навантаження. Кожному API-ключу доступно 300 запитів на хвилину, і він може обробляти до 8 одночасних запитів. Якщо ви перевищите ці ліміти, ви отримаєте помилку 429 Too Many Requests.
Щоб уникнути цих помилок, реалізуйте експоненційне відновлення у коді вашого клієнта. Слідкуйте за заголовком 'Retry-After' у відповіді, якщо він доступний. Крім того, переконайтеся, що ваша програма не створює піків трафіку під час пікових годин. Якщо ви запускаєте кілька екземплярів, розподіляйте навантаження між різними ключами або керуйте паралелізмом на рівні програми.
Розмір тіла запиту також обмежений до 8 МБ. Великі промпти або багато викликів інструментів можуть перевищити цей ліміт. Розбийте вхідні дані або зменшіть кількість паралельних запитів, щоб залишатися в межах цих обмежень. Ці ліміти прозорі та створені для запобігання вичерпанню ресурсів.
Підрахунок токенів та вікна контексту
Розуміння використання токенів є критично важливим для управління витратами. Наша модель підтримує вікно контексту розміром 100,000 токенів, яке включає як запит, так і завершення. Максимальний обсяг виходу за один запит становить 16,000 токенів, або 2,048, якщо ви не вказали 'max_tokens'.
Ціноутворення базується на фактичному використанні токенів: $0.15 за мільйон вхідних токенів та $0.50 за мільйон вихідних токенів. Помилки та відмови безкоштовні, тому ви платите лише за успішне генерування контенту. Ця модель передоплати означає, що ваш кредит ніколи не закінчується, і ви можете поповнити його криптовалютою в будь-який час.
Відстежуйте використання токенів у вашому додатку, аналізуючи метадані відповіді. Останній фрагмент потокової відповіді містить загальну кількість токенів. Це дозволяє моніторити витрати в реальному часі та налаштовувати промпти, щоб залишатися в межах бюджету. Ефективне використання токенів є ключем до максимізації цінності вашого передоплаченого кредиту.
Парсинг потокових відповідей
Потокова передача відповідей надається через Server-Sent Events (SSE). Кожен фрагмент містить частину відповіді, але дані про використання токенів включаються лише у фінальний фрагмент. Це означає, що ви не можете розрахувати загальне використання токенів, доки потік не буде завершено.
Парсуйте потік, слухаючи події 'data'. Накопичуйте текстові чанки, щоб сформувати повну відповідь. Коли ви отримуєте останній чанк, витягніть поле 'usage', щоб оновити локальну кількість токенів. Цей підхід забезпечує точне фактурування та допомагає відстежувати споживання ресурсів.
Обробляйте перерви мережі коректно. Якщо потік обривається, можливо, доведеться повторити запит. Переконайтеся, що ваш клієнт може обробляти часткові відповіді та правильно їх збирати. Потокова передача ідеально підходить для додатків реального часу, але вимагає надійної обробки помилок.
Помилки параметрів Function Calling
Виклик функцій вимагає точної конфігурації параметрів. Переконайтеся, що ваш масив 'tools' правильно визначає схему функції, включаючи параметри та описи. Параметр 'tool_choice' можна встановити в значення 'auto', 'required' або конкретну назву функції.
Поширені помилки включають відсутність обов'язкових полів або неправильні типи даних у схемі інструменту. Переконайтеся, що ваш клієнт надсилає 'response_format' як 'json_object', якщо ви очікуєте структурований вивід. Це гарантує, що модель повертає дійсний JSON, який ваша програма може розпарсити.
Спочатку протестуйте виклики функцій із простими інструментами. Поступово збільшуйте складність, щоб виявити будь-які невідповідності схемам. Якщо модель не викликає інструмент, перевірте поле 'tool_calls' у відповіді на наявність помилок. Правильна конфігурація є ключовою для надійних викликів функцій.
Виправлення затримок поповнення криптовалютою
Поповнення кредитів відбувається через криптовалюту, зокрема USDT (TRC20) або USDC (Base). Транзакції можуть зайняти кілька хвилин для підтвердження в блокчейні. Якщо ваш кредит не з’явився миттєво, зачекайте підтвердження мережі.
Бонусні кредити автоматично нараховуються за поповнення від $50: +5% за $50, +10% за $100 та +15% за $200. Переконайтеся, що ви надсилаєте точну суму, щоб отримати правильний бонус. Транзакції менше $20 або більше $500 можуть не отримати бонус або бути відхилені.
Якщо ви зазнали подвійного списання, зверніться до підтримки через сторінку Підтримки. Кредити не повертаються, але можуть бути кореговані. Зберігайте запис ідентифікатора транзакції для швидшого вирішення. Ця модель передоплати гарантує, що ви ніколи не втратите кредит через прострочення.
Неправильна конфігурація ідентифікатора моделі
Використання неправильного ідентифікатора моделі є частим джерелом помилок. Для нашої uncensored моделі ідентифікатор — це просто 'uncensored'. Надсилання запиту з 'gpt-4' або 'claude-3' призведе до помилки «Модель не знайдено».
Переконайтеся, що ваш клієнт явно вказує поле 'model' як 'uncensored' у кожному запиті. Це критично важливо при використанні OpenAI-сумісних SDK, які можуть використовувати інші моделі за замовчуванням. Перевірте ID моделі у ваших конфігураційних файлах та тестових запитах.
Наш сервіс не пропонує маршрутизацію моделей або вибір кількох моделей. Це кінцева точка для однієї моделі, присвячена генеруванню тексту без цензури. Ця простота зменшує складність і гарантує стабільну продуктивність. Завжди перевіряйте ідентифікатор моделі перед розгортанням у продакшн.
Поширені запитання
Як отримати ключ API GLM?
Ви можете згенерувати API-ключ, зареєструвавшись на нашій сторінці «Отримати API-ключ» за допомогою Google або електронної пошти та пароля. Ключ відображається одразу після створення. Номер телефону не потрібен, і ви отримуєте $0.50 пробного кредиту, дійсного протягом 7 days.
Чи це офіційний API GLM?
Ні, ми є незалежним постачальником, який пропонує API, сумісний з OpenAI. Ми не надаємо офіційні моделі GLM від відповідних постачальників. Наш сервіс — це окрема інфраструктура, призначена для генерації тексту високої пропускної здатності з низькою затримкою з однією необмеженою моделлю.
Що станеться, якщо під час запиту виникне помилка?
Помилки безкоштовні. Ви платите лише за токени, успішно згенеровані та повернені в відповіді. Якщо запит завершується невдачею через ліміти швидкості, проблеми з мережею або помилки моделі, вам не нараховується плата за ці токени.
Чи можу я використовувати свій власний базовий URL з SDK OpenAI?
Так, ви можете налаштувати будь-який сумісний з OpenAI SDK, встановивши базовий URL на HTTPS://api.apiglm.com/v1 та надавши свій API-ключ. Це дозволяє використовувати той самий код клієнта, який ви використовуєте для інших моделей, забезпечуючи відсутність прив’язки до постачальника.
Отримайте свій ключ миттєво
Зареєструйтеся, скопіюйте ключ, оновіть свій базовий URL. Ось і все.