TSMC: Chip AI Có Thể Tăng Công Suất Gấp 6 Lần Trong 5 Năm – Làm Mát Sẽ Là Thách Thức Lớn

Khi chip AI ngày càng mạnh, lượng điện tiêu thụ và nhiệt lượng tạo ra cũng tăng nhanh. TSMC đang nghiên cứu những cách làm mát mới, trong đó có việc đưa các kênh chất lỏng siêu nhỏ vào bên trong cấu trúc chip và package.

Tại SEMICON Taiwan 2026, James Chen, Giám đốc R&D Advanced Packaging của TSMC, cho biết công suất tổng thể của các hệ thống AI có thể tăng khoảng 6 lần trong 5 năm tới khi năng lực tính toán tiếp tục mở rộng. Điều này khiến hai vấn đề ngày càng quan trọng: làm thế nào để cung cấp đủ điện cho chip và làm thế nào để đưa lượng nhiệt khổng lồ đó ra ngoài.

Công suất package có thể tăng từ 600W lên 4.100W

Theo các số liệu được James Chen trình bày, quy mô của các package AI tiên tiến dự kiến sẽ tăng rất mạnh trong giai đoạn 2024–2029.

Một số thay đổi đáng chú ý gồm:

Kích thước package CoWoS có thể tăng từ khoảng 3,3 lần lên hơn 14 lần kích thước reticle

Số lượng transistor tính toán trong một package có thể tăng khoảng 48 lần

Tổng băng thông HBM trên mỗi package có thể tăng hơn 34 lần

Số lượng kết nối I/O có thể tăng khoảng 2 lần

Tốc độ truyền dữ liệu trên mỗi I/O có thể tăng khoảng 6 lần

Hiệu năng tăng đồng nghĩa với nhu cầu điện năng cũng tăng mạnh.

Một dự báo được trình bày tại sự kiện cho thấy công suất của package có thể tăng từ khoảng 600W lên 4.100W. Trong khi đó, tổn hao trong quá trình đưa điện đến chip có thể tăng hơn 5 lần. Ở mức công suất như vậy, việc chỉ sử dụng các phương pháp làm mát truyền thống sẽ ngày càng khó đáp ứng.

Vì sao làm mát bằng chất lỏng ngày càng quan trọng?

Hiện nay, nhiều hệ thống AI sử dụng làm mát bằng chất lỏng. Một cách phổ biến là đặt một tấm làm mát (cold plate) lên trên package. Chất lỏng chảy bên trong tấm này để hấp thụ nhiệt từ chip và đưa nhiệt ra ngoài.

Tuy nhiên, giữa chip và tấm làm mát thường có nhiều lớp vật liệu trung gian. Những lớp này cần thiết cho việc lắp ráp nhưng cũng làm tăng trở ngại đối với quá trình truyền nhiệt. Vì vậy, hướng nghiên cứu tiếp theo là đưa chất làm mát đến gần nguồn nhiệt hơn.

TSMC nghiên cứu đưa kênh chất lỏng vào package

Một trong những hướng đang được TSMC nghiên cứu là microchannel cooling – sử dụng những kênh chất lỏng cực nhỏ bên trong hoặc rất gần cấu trúc chip/package. Thay vì để nhiệt phải đi qua nhiều lớp trước khi tới hệ thống làm mát, các kênh nhỏ này có thể đưa chất lỏng đến gần vùng phát nhiệt hơn, giúp rút ngắn đường truyền nhiệt.

Có thể hình dung đơn giản:

Cách truyền thống: Chip → các lớp trung gian → tấm làm mát → chất lỏng

Hướng nghiên cứu mới: Chip → kênh chất lỏng siêu nhỏ → chất lỏng mang nhiệt đi

Mục tiêu là làm cho quá trình lấy nhiệt ra khỏi chip hiệu quả hơn khi công suất ngày càng cao.

TSMC đã đưa công nghệ này vào roadmap R&D và đang nghiên cứu khả năng kết hợp với các công nghệ đóng gói chip tiên tiến.

Tuy nhiên, đây vẫn là một bài toán kỹ thuật rất khó. Việc tạo ra các kênh cực nhỏ để chất lỏng có thể lưu thông bên trong cấu trúc chip đòi hỏi độ chính xác rất cao. Chỉ một lỗi nhỏ trong quá trình sản xuất cũng có thể ảnh hưởng đến toàn bộ package có giá trị rất lớn.

Không chỉ microchannel: nhiều công nghệ làm mát đang được nghiên cứu

Microchannel cooling không phải hướng duy nhất. Ngành bán dẫn cũng đang nghiên cứu các phương pháp khác như jet impingement, trong đó chất lỏng được phun trực tiếp vào những khu vực có nhiệt độ cao, và two-phase cooling, sử dụng quá trình chất lỏng chuyển thành hơi để hấp thụ lượng nhiệt lớn.

Mục tiêu chung của các công nghệ này là giống nhau: Đưa khả năng làm mát đến gần nguồn nhiệt hơn và loại bỏ nhiệt nhanh hơn.

Làm mát đang trở thành một phần của thiết kế chip

Một thay đổi đáng chú ý là vấn đề nhiệt không còn chỉ được xử lý sau khi chip hoàn thành.

Theo Commercial Times, TSMC đang đồng thời tối ưu thiết kế chip, cấu trúc package và vật liệu để cải thiện khả năng tản nhiệt, với mức giảm trở ngại truyền nhiệt được báo cáo có thể lên tới khoảng 40%.

Điều này có nghĩa là vị trí tạo nhiệt nhiều nhất trên chip, cách bố trí các thành phần và vật liệu sử dụng trong package đều cần được tính đến ngay từ giai đoạn thiết kế.

Khi một package có thể tiêu thụ tới hàng nghìn watt, thiết kế chip và thiết kế hệ thống làm mát ngày càng phải được thực hiện song song.

Nhu cầu mới cho ngành liquid cooling

Sự gia tăng công suất của AI cũng có thể tạo thêm nhu cầu cho toàn bộ hệ sinh thái làm mát bằng chất lỏng.

Các linh kiện như:

Cold plate – tấm làm mát

Manifold – bộ phân phối chất lỏng

Quick-disconnect coupling – đầu nối nhanh

CDU (Coolant Distribution Unit) – thiết bị phân phối chất làm mát

Heat exchanger – bộ trao đổi nhiệt

đều sẽ phải đáp ứng yêu cầu cao hơn khi công suất của AI rack tiếp tục tăng.

Bài toán tiếp theo của AI không chỉ là chip mạnh hơn

Sự phát triển của AI đang kéo theo một chuỗi thay đổi từ chip, package, nguồn điện đến hệ thống làm mát.

Nếu công suất package thực sự tiến từ khoảng 600W lên 4.100W, việc xử lý nhiệt sẽ trở thành một phần quan trọng không kém việc tăng hiệu năng tính toán.

Với TSMC, hướng nghiên cứu microchannel cooling cho thấy một xu hướng đáng chú ý: hệ thống làm mát đang ngày càng tiến gần vào bên trong package, thay vì chỉ được đặt bên ngoài chip.

Trong tương lai, để xây dựng những hệ thống AI mạnh hơn, ngành công nghiệp có thể không chỉ cần nhiều transistor hơn và băng thông cao hơn, mà còn cần những cách hoàn toàn mới để đưa điện vào và đưa nhiệt ra khỏi chip.

Nguồn tham khảo: Anue, Commercial Times, Economic Daily News.