Chuyển tới nội dung chính

Chiến lược cache và vô hiệu hóa cache

DevLink dùng bốn lớp lưu trữ tạm khác nhau, với độ bền và phạm vi chia sẻ khác nhau. Phân biệt chúng là điều quan trọng nhất, vì hai lớp trông giống nhau trong code (CACHE_MANAGER và REDIS_CLIENT) lại hoạt động rất khác.

Bốn lớp​

LớpCông nghệNằm ở đâu thật sựChia sẻ giữa instanceMất khi khởi động lại
1. Cache danh sáchListCacheService qua REDIS_CLIENTRedisCóKhông
2. CACHE_MANAGER@nestjs/cache-managerBộ nhớ tiến trình (đã kiểm chứng)KhôngCó
3. Redis trực tiếpREDIS_CLIENT (ioredis)RedisCóKhông
4. Bộ nhớ trong serviceMap hoặc biến trong classBộ nhớ tiến trìnhKhôngCó

Về lớp 2: cấu hình store: redisStore không có tác dụng với @nestjs/cache-manager 3.0.1 (chỉ đọc stores). Đã dựng đúng cấu hình khi không có Redis và set/get vẫn chạy ngay với store Keyv trong bộ nhớ. Chi tiết và tác động: data-flow.

Lớp 1: cache danh sách tin và công ty (Redis, có tag)​

Nguồn: list-cache.service.ts, hằng số ở list-cache.constants.ts.

Danh sáchTTLPhạm vi cacheNơi dùng
Tin tuyển dụng (GET /jobs)60 giâypublic, super-admin, hr:<companyId>jobs.service.ts
Công ty (GET /companies)3 phútnhư trêncompanies.service.ts
  • Khóa: list-cache:entry:<endpoint>:<sha256 của tham số chuẩn hóa>. Tham số được stableStringify để cùng truy vấn luôn cho cùng khóa dù thứ tự tham số khác.
  • Phạm vi theo vai trò nằm trong khóa, nên HR không bao giờ nhận kết quả đã cache của công ty khác hay của khách.
  • Thẻ (tag): mỗi mục gắn các thẻ như list:jobs:company:<id>, list:jobs:scope:<scope>, list:jobs:filter:<field>. Redis giữ hai chỉ mục phụ (thẻ sang khóa, khóa sang thẻ) với TTL dài hơn mục chính 5 phút.
  • Vô hiệu hóa: reclaimByTags(tags) lấy mọi khóa gắn thẻ, xóa mục, chỉ mục ngược và chỉ mục thẻ. Được gọi sau khi dữ liệu liên quan đổi (tạo, sửa, xóa, duyệt tin; sửa công ty). Hiện jobs.service.ts và companies.service.ts là hai nơi gọi.
  • Fail-open: lỗi đọc hoặc ghi Redis chỉ ghi cảnh báo; request vẫn gọi nguồn dữ liệu và trả kết quả bình thường.

Vì sao cần cả TTL và vô hiệu hóa theo thẻ​

TTL ngắn giới hạn độ lệch tối đa (60 giây với tin) khi có thay đổi mà đường vô hiệu hóa bỏ sót, ví dụ jobs hết hạn bởi cron thì cron chủ động xóa cache liên quan nhưng sửa trực tiếp trong database thì không. Vô hiệu hóa theo thẻ làm thay đổi hiển thị gần như tức thì với thao tác đi qua API.

Lớp 2: CACHE_MANAGER (bộ nhớ tiến trình)​

Đơn vị TTL là mili giây (đã kiểm chứng: giá trị 3600 hết hạn sau 3,6 giây; 0 nghĩa là không hết hạn).

Dữ liệuKhóaTTLNơi
Dashboard quản trịdashboard:admin15 phútstatistics-cache.service.ts
Dashboard HRdashboard:hr:<companyId>3 phútnhư trên
Top công ty tuyển dụnghomepage:top-hiring-companies:<limit>5 phútnhư trên
Danh mục kỹ năng, bí danhskills:catalog, skills:alias-map30 phútskills.service.ts
Kỹ năng phổ biếntheo limit60 phútnhư trên
Ngữ cảnh chat của người dùngchat_ctx:<userId>5 phútchat-context.service.ts
Ngữ cảnh nền tảng của chatchat_platform_ctx30 phútnhư trên
Câu hỏi thường gặp của chatxem chat-cache.service.ts24 giờchat.constant.ts
Ngữ cảnh chat (hằng khác)10 phút (CHAT_CONTEXT_CACHE_TTL_MS)như trên
Phiên chat đang dùngchat_session:<userId>không hết hạn (0)chat.service.ts
Token đặt lại mật khẩureset_password:<token>theo RESET_PASSWORD_TTL_MSauth-credentials.service.ts
Token hủy xóa tài khoảncancel_deletion:<token>, cancel_deletion_user:<userId>30 ngàyauth-account-deletion.service.ts
Kết quả đọc CVparsed_cv:<resumeId>3600 ms, tức 3,6 giâyresume-queue.processor.ts

Hai giá trị CHAT_CONTEXT_CACHE_TTL_MS (10 phút, trong chat.constant.ts) và CACHE_TTL_USER_CONTEXT (5 phút, trong chat-context.service.ts) cùng tồn tại; chưa đối chiếu cái nào được dùng ở đâu. Trạng thái: Chưa xác minh.

Vô hiệu hóa lớp 2​

Sự kiệnHành độngNơi
Tin hoặc hồ sơ đổiclearScopedDashboardCaches(companyId) xóa dashboard của công ty và dashboard quản trịjobs, resumes, processor
CV trực tuyến đổiXóa chat_ctx:<userId>cv-profiles.service.ts
Xóa tài khoảnXóa token hủy xóa, chat_session:, chat_conv:account-deletion-queue.processor.ts
Dùng token đặt lại mật khẩuXóa reset_password:<token>auth-credentials

Hệ quả của việc nằm trong bộ nhớ​

  • Mất khi khởi động lại: token đặt lại mật khẩu và hủy xóa tài khoản không còn dùng được (auth-and-sessions).
  • Không dùng chung: nhiều instance có thể trả số liệu dashboard và danh mục kỹ năng khác nhau tối đa vài phút.
  • Không có giới hạn kích thước: tùy chọn max: 100 trong cấu hình không có tác dụng với store Keyv. Với các khóa ttl = 0 (như chat_session:<userId>) dữ liệu chỉ rời bộ nhớ khi khởi động lại hoặc bị xóa tường minh.
  • Cache kết quả đọc CV gần như vô dụng vì TTL 3,6 giây.

Lớp 3: Redis trực tiếp (không dùng CACHE_MANAGER)​

Đây không phải cache theo nghĩa tối ưu, mà là trạng thái cần bền vững và chia sẻ:

Dữ liệuKhóaTTLNơi
OTPotp:value:<email>, otp:attempts:<email>, otp:cooldown:<email>300 giây, 300 giây, 60 giâyauth-verification.service.ts
Bộ đếm quota chatkhóa theo userId, vai trò, ngàyđến hết ngày theo múi giờchat-quota.service.ts
Quota gọi Geminigemini:quota:minute:*, gemini:quota:day:*, gemini:quota:alert:*theo cửa sổgemini-quota.service.ts
Rate limitdo ThrottlerStorageRedisService quản lýtheo throttlerapp.module.ts
Cache danh sáchxem lớp 1

Redis DB: REDIS_CACHE_DB (mặc định 1) cho các mục trên; hàng đợi BullMQ dùng REDIS_QUEUE_DB (mặc định 0) (redis.module.ts).

Lớp 4: bộ nhớ trong service​

Dữ liệuNơiGhi chú
Chính sách quota chat theo vai tròpolicyCache trong ChatQuotaServiceGiữ chính sách đọc từ MongoDB trong thời gian ngắn, tránh truy vấn mỗi lượt
Bản đồ socket của người dùnguserSockets trong NotificationsGatewayKhông phải cache dữ liệu, nhưng cùng bản chất tiến trình cục bộ

Không có cache ở​

  • GET /job-search (code ghi chú shortcut: uncached aggregate) (job-search).
  • Chi tiết tin GET /jobs/:id: chưa thấy dùng ListCacheService (chỉ danh sách). Chưa xác minh cho các route còn lại.

Known Limitation​

Vấn đềChi tiết
Lớp 2 không phải RedisXem trên
Sai đơn vị TTL ở cache đọc CV3600 mili giây thay vì giây; cache không có tác dụng
Nhiều hằng TTL trùng ý nghĩaCHAT_CONTEXT_CACHE_TTL_MS và CACHE_TTL_USER_CONTEXT
Độ lệch dữ liệu có chủ đíchTin: tối đa 60 giây, công ty: 3 phút, dashboard: 3 đến 15 phút, và có thể lệch giữa các instance với lớp 2

Future Improvement​

Đề xuất, chưa có trong code:

  • Truyền stores đúng cho @nestjs/cache-manager để lớp 2 thật sự dùng Redis, hoặc bỏ lớp này và chuyển dữ liệu quan trọng (token) sang REDIS_CLIENT.
  • Đổi TTL cache đọc CV sang mili giây đúng ý định.
  • Cache cho GET /job-search kèm vô hiệu hóa sau mỗi lần đồng bộ nguồn.