Chuyển tới nội dung chính

Tích hợp nhà cung cấp AI (Groq và Gemini)

Hai nhà cung cấp, chọn và chuyển dự phòng qua lớp ai.service.ts. Cách dùng trong chat: ai-chat. Trong đọc CV: cv-parsing-and-matching.

Phân vai​

ViệcNhà cung cấp mặc địnhDự phòng
ChatGroqGemini (bật mặc định)
Tóm tắt hội thoạiGroqGemini (bật mặc định)
Phân loại chủ đề, ý địnhGroqKhông
Đọc CVGemini (cố định)Không

Nguồn: ai.constants.ts (DEFAULT_AI_CHAT_PRIMARY_PROVIDER = groq, DEFAULT_AI_SUMMARY_PRIMARY_PROVIDER = groq, hai cờ dự phòng mặc định bật) và ai.service.ts (parseCV luôn gọi geminiService).

Cấu hình​

BiếnTác dụngMặc định trong code
GROQ_API_KEYKhóa Groq. Thiếu thì Groq không khả dụng và chỉ ghi cảnh báo—
GROQ_CHAT_MODELMô hình chatopenai/gpt-oss-20b
GROQ_SUMMARY_MODELMô hình tóm tắtCùng mô hình chat
GROQ_TIMEOUT_MSThời gian chờ30000
GROQ_MAX_RETRIESSố lần SDK thử lại2
GEMINI_API_KEYKhóa Gemini; bắt buộc, GeminiService không khởi động nếu thiếu—
GEMINI_MODELMô hình Geminigemini-3.1-flash-lite
GEMINI_DAILY_BUDGET và các biến dự trữNgân sách quota450 mỗi ngày, 15 mỗi phút
AI_CHAT_PRIMARY_PROVIDER, AI_SUMMARY_PRIMARY_PROVIDERĐổi nhà cung cấp chínhgroq
AI_CHAT_GEMINI_FALLBACK_ENABLED, AI_SUMMARY_GEMINI_FALLBACK_ENABLEDBật tắt dự phòngbật
AI_GROQ_* (lịch sử, token đầu vào, số tin, ...)Ngân sách ngữ cảnh gửi cho Groq.env.example ghi là bắt buộc, AIService kiểm tra
AI_COST_[<PROVIDER>_][<MODEL>_]<PROMPT|COMPLETION>_USD_PER_1KĐơn giá để ước tính chi phí; không đặt thì chi phí ghi 00

Danh sách đầy đủ: .env.example và 14-reference (Phase 4).

Chuyển dự phòng​

Lỗi Groq được coi là đủ điều kiện chuyển sang Gemini: giới hạn tốc độ, lỗi kết nối, hết thời gian, lỗi máy chủ 5xx (groq.service.ts). Chuyển sang Gemini còn phải được bộ giữ quota cho phép (loại chat-fallback, chừa 2 mỗi phút và 25 mỗi ngày). Mỗi lần chuyển được ghi bằng fallbackUsed.

Quota Gemini​

Đặt chỗ nguyên tử bằng Lua trong Redis; đọc CV có ưu tiên cao nhất. Chi tiết: cv-parsing-and-matching. Ngưỡng cảnh báo ngày 70%, 85%, 95%; cách phát cảnh báo (log hay kênh khác): Chưa xác minh.

Dữ liệu gửi đi​

Dữ liệuTớiGhi chú
Văn bản CV đã làm sạchGeminiDữ liệu cá nhân của ứng viên
Tin nhắn người dùng, hồ sơ (gồm email), tin phù hợp, lịch sử gần nhất (6 đến 10 tin)Groq, hoặc Gemini khi dự phòngTrong system prompt
Văn bản câu trả lờiGroqĐể phân loại chủ đề

Điều khoản lưu giữ và huấn luyện của hai nhà cung cấp nằm ngoài repository; cần đối chiếu riêng khi đánh giá quyền riêng tư.

Độ tin cậy và giới hạn​

  • Nhiệt độ chat cố định 0,7 trong code (một dòng 0,4 bị comment).
  • Phân loại chủ đề fail-open khi lỗi.
  • Không có kiểm thử với nhà cung cấp thật trong repository (test dùng mock). Trạng thái: Chưa xác minh trên môi trường thật.