Bộ nhớ đệm (cache) là lớp lưu trữ tạm thời siêu nhanh, nằm giữa CPU và RAM, nhằm giảm độ trễ khi xử lý dữ liệu. Các cấp độ cache gồm L1, L2 và L3 lần lượt có tốc độ truy cập và dung lượng tăng dần, nhưng tốc độ giảm dần.
L1 Cache – cache nhanh nhất, nhỏ nhất
-
Vị trí: Gần nhất với lõi xử lý, mỗi lõi thường có phần riêng cho dữ liệu và lệnh.
-
Đặc điểm: Rất nhanh, thường chỉ vài chu kỳ xung nhịp để truy xuất, nhưng chỉ khoảng vài chục kilobyte.
-
Vai trò: Lưu giữ những dữ liệu và lệnh mà CPU cần dùng ngay lập tức, giúp giảm nhu cầu truy cập RAM.
L2 Cache – cân bằng giữa tốc độ và dung lượng
-
Vị trí: Cách lõi xử lý một chút, có thể là riêng từng lõi hoặc chia sẻ giữa nhóm lõi.
-
Đặc điểm: Chậm hơn L1 nhưng lớn hơn—thường từ vài trăm KB đến hơn một MB tùy kiến trúc.
-
Vai trò: Là tầng trung gian, giúp giảm hiện tượng “cache miss” và hỗ trợ khi L1 không còn dữ liệu cần thiết.
L3 Cache – cache lớn nhất, chia sẻ giữa lõi
-
Vị trí: Không trực tiếp nằm trong từng lõi mà nằm quanh cụm lõi; nhiều lõi chia sẻ truy cập.
-
Đặc điểm: Dung lượng lớn—có thể vài đến hàng chục MB—nhưng tốc độ truy cập chậm hơn L1 và L2.
-
Vai trò: Lưu dữ liệu và lệnh chung cho nhiều lõi, tăng hiệu quả khi chạy đa luồng hoặc xử lý tác vụ lớn.
Mức độ khác nhau về tốc độ và dung lượng
-
Tốc độ: L1 nhanh nhất (trong khoảng 1–3 chu kỳ), L2 thứ hai (khoảng 4–10 chu kỳ), L3 chậm hơn (10–40 chu kỳ), trong khi truy cập RAM tốn đến vài chục đến hàng trăm chu kỳ.
-
Dung lượng: L1 nhỏ (từ 16–128 KB mỗi lõi), L2 lớn hơn (từ vài trăm KB đến vài MB), L3 lớn nhất (vài MB đến hàng chục MB, chia sẻ chung).
Cách hoạt động đa tầng
Khi CPU cần một dữ liệu:
-
Giờ đầu tìm trong L1 nếu có (cache hit) thì truy xuất cấp tốc.
-
Nếu không, tiếp tục kiểm tra L2; nếu vẫn không có, chuyển sang L3, và cuối cùng là RAM.
-
Dữ liệu được tải dần từ dưới lên và cập nhật vào các tầng cache để các lần truy cập sau nhanh hơn.
Quá trình này lặp lại liên tục, giúp hiệu chỉnh hiệu năng truy xuất theo thói quen sử dụng.
Tại sao cần nhiều tầng cache
Nếu chỉ sử dụng RAM, CPU sẽ thường xuyên chờ dữ liệu, tạo ra “choke point”. Cache là giải pháp giúp CPU hoạt động liên tục mà không bị đứt quãng. Việc có nhiều tầng cache là cách thiết kế tối ưu giữa:
-
Tốc độ: các cach nhỏ và nhanh.
-
Dung lượng: càng lên cao, càng lớn nhưng chậm hơn.
-
Chi phí sản xuất: cache quá lớn và nhanh sẽ rất đắt và tốn điện.
Lợi ích thực tiễn
-
Tăng hiệu năng khi chạy game, ứng dụng nặng, xử lý đồ họa.
-
Giảm độ trễ trong xử lý đa luồng hoặc tác vụ lớn.
-
Tối ưu hóa phần mềm bằng cách thiết kế dữ liệu và thuật toán tận dụng hiệu quả cache (cache-friendly).
