Tài liệu API

Xác thực & Headers

Của bạn glm api key ủy quyền cho mọi yêu cầu. Truyền nó trong Authorization header dưới dạng mã Bearer. Đây là phương pháp tiêu chuẩn được sử dụng bởi các SDK chính thức của OpenAI và hoạt động với bất kỳ khách hàng nào hỗ trợ xác thực tương thích OpenAI. Bạn nhận được khóa này ngay sau khi đăng ký bằng Google hoặc email trên bảng điều khiển.

Giữ khóa của bạn an toàn. Khóa này cung cấp quyền truy cập đầy đủ vào số dư tín dụng trả trước của bạn. Nếu bạn làm mất khóa, hãy tạo khóa mới; khóa cũ sẽ mất hiệu lực ngay lập tức. Bạn chỉ có thể có một khóa hoạt động cho mỗi tài khoản tại bất kỳ thời điểm nào.

Endpoint Hoàn thành Trò chuyện

Gửi các thông điệp văn bản đến mô hình bằng cách sử dụng POST /v1/chat/completions endpoint. endpoint. URL cơ sở cho tất cả các yêu cầu là https://api.apiglm.com/v1. Bạn phải chỉ định ID mô hình là uncensored trong thân yêu cầu. Điểm cuối này xử lý các lượt trò chuyện tiêu chuẩn và trả về văn bản được tạo.

Mỗi yêu cầu tiêu thụ token từ số dư trả trước của bạn. Lỗi và từ chối không tính phí tín dụng của bạn. Mô hình chấp nhận một chuỗi thông báo, cho phép các cuộc hội thoại nhiều lượt trong cửa sổ ngữ cảnh.

Copycurl https://api.apiglm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list the features"}]
  }'

Điểm cuối Models

Xác minh các mô hình có sẵn và cấu hình điểm cuối bằng cách gọi GET /v1/models. Điểm cuối này trả về danh sách các mô hình hiện được API hỗ trợ. Bạn có thể sử dụng tính năng này để xác minh kết nối và kiểm tra ID mô hình trước khi gửi các yêu cầu hoàn thiện. Nó hữu ích cho việc gỡ lỗi cấu hình client.

Phản hồi bao gồm siêu dữ liệu về mô hình, chẳng hạn như trường ID và owned_by. Điểm cuối này không tiêu thụ tín dụng. Hãy sử dụng nó để đảm bảo client của bạn đang trỏ đến URL cơ sở đúng và tiêu đề xác thực của bạn hợp lệ.

Phát trực tiếp & SSE

Bật xuất token theo thời gian thực bằng cách đặt stream: true trong yêu cầu của bạn. API trả về luồng Server-Sent Events (SSE). Mỗi chunk chứa các delta văn bản từng phần. Chunk cuối cùng bao gồm thống kê sử dụng token đầy đủ cho yêu cầu.

Streaming làm giảm độ trễ cảm nhận cho người dùng. Nó cho phép ứng dụng của bạn hiển thị các token khi chúng được tạo ra. Điều này rất lý tưởng cho các giao diện chat nơi phản hồi ngay lập tức là điều mong đợi. Xử lý luồng đúng cách để đảm bảo tất cả các token được xử lý.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiglm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Gọi hàm

Định nghĩa các công cụ trong yêu cầu của bạn để kích hoạt gọi hàm. Mô hình có thể trả về JSON có cấu trúc xác định hàm nào sẽ gọi và các đối số của nó. Điều này cho phép ứng dụng của bạn thực thi mã dựa trên ý định của người dùng. Hỗ trợ bao gồm định nghĩa công cụ, lựa chọn công cụ và chế độ JSON để định dạng đầu ra nghiêm ngặt.

Sử dụng tính năng này để tích hợp LLM vào quy trình làm việc của bạn. Xác định lược đồ hàm trong thân yêu cầu. Mô hình trả về một danh sách các lệnh gọi công cụ. Phân tích các lệnh gọi này trong mã của bạn để kích hoạt các hành động bên ngoài. Điều này cho phép các tác vụ phức tạp, nhiều bước.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiglm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tham số & Giới hạn

Cửa sổ ngữ cảnh hỗ trợ 100.000 token cho tổng prompt và completion. Output tối đa là 16.000 token mỗi yêu cầu. Đặt max_tokens để kiểm soát độ dài đầu ra. Mặc định là 2.048 token nếu không được chỉ định. Bạn có thể điều chỉnh nhiệt độ, top_p và seed để tạo biến đổi.

Giới hạn tốc độ cho phép 300 yêu cầu mỗi phút cho mỗi khóa. Yêu cầu đồng thời được giới hạn ở 8 cho mỗi khóa. Thân yêu cầu phải dưới 8 MB. Lỗi trả về các mã trạng thái HTTP tiêu chuẩn. Lỗi 401 cho biết khóa không hợp lệ. Lỗi 402 có nghĩa là tín dụng của bạn đã cạn kiệt. Lỗi 429 báo hiệu vượt quá giới hạn tốc độ.

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)