Tích hợp API AI vào ứng dụng web: kiến trúc tối thiểu đi qua máy chủ của bạn
Cách nối ứng dụng của bạn với API mô hình ngôn ngữ: vì sao phải đi qua máy chủ, một lần gọi gồm gì, giới hạn từng người dùng và các bước làm bản đầu.
#llm api
Bắt AI trả về JSON đúng cấu trúc: lược đồ, kiểm hợp lệ và thử lại khi hỏng
Cách lấy đầu ra JSON ổn định từ mô hình ngôn ngữ: ba mức kiểm soát, thiết kế lược đồ dễ điền, kiểm hợp lệ ở máy chủ và thử lại có giới hạn.
Function calling là gì: cho mô hình gọi hàm của ứng dụng mà vẫn giữ quyền kiểm soát
Giải thích gọi công cụ (function calling, tool use): vòng lặp một lượt, cách mô tả công cụ, kiểm quyền trong hàm, tách đọc với ghi và giới hạn số vòng gọi.
Xử lý lỗi khi gọi API AI: hết hạn mức 429, quá thời gian chờ, thử lại có lùi dần
Phân loại lỗi khi gọi API mô hình ngôn ngữ, lỗi nào nên thử lại, cách lùi dần có độ nhiễu, đặt thời hạn chờ, giới hạn đồng thời và phương án dự phòng.