Anthropic tìm hướng “thoát phụ thuộc DRAM”: đàm phán với startup chip AI dùng SRAM

Cuộc đua tối ưu chi phí inference đang mở ra một hướng đi mới, khi các công ty AI không chỉ tìm thêm GPU mà bắt đầu tìm cách giảm phụ thuộc vào bộ nhớ ngoài.

Theo nhiều nguồn tin, Anthropic đang có các trao đổi ban đầu với startup tại Anh Fractile để bổ sung thêm một nguồn chip AI mới. Nếu thành hiện thực, Fractile sẽ trở thành nhà cung cấp thứ tư bên cạnh NVIDIA, Google và Amazon trong hệ sinh thái phần cứng phục vụ Claude.

Điểm khác biệt của Fractile nằm ở kiến trúc. Thay vì phụ thuộc vào DRAM rời, công ty này phát triển chip inference tích hợp compute và memory ngay trên cùng một die, sử dụng SRAM. Cách tiếp cận này nhằm giải quyết một trong những nút thắt lớn nhất hiện nay: việc di chuyển dữ liệu giữa GPU và bộ nhớ ngoài gây tốn thời gian và năng lượng.

Theo chia sẻ từ nhà sáng lập, thiết kế này cho phép đặt dữ liệu sát với logic tính toán, từ đó có thể cải thiện đáng kể hiệu năng và chi phí. Các mô phỏng ban đầu cho thấy tiềm năng tăng tốc lớn, dù chip thực tế vẫn chưa bước vào giai đoạn thương mại hóa và dự kiến sớm nhất cũng phải tới khoảng 2027.

Động thái của Anthropic phản ánh một chiến lược khá rõ ràng: không phụ thuộc vào một nhà cung cấp duy nhất. Hiện tại, công ty đang vận hành hạ tầng AI trên nhiều nền tảng khác nhau, từ GPU của NVIDIA đến TPU của Google và chip Trainium của Amazon. Việc tiếp tục mở rộng danh sách đối tác giúp họ có thêm đòn bẩy trong bối cảnh chi phí compute, đặc biệt là inference, ngày càng trở thành áp lực lớn lên biên lợi nhuận.

Không chỉ riêng Fractile, nhiều startup khác cũng đang theo đuổi hướng “near-memory” hoặc SRAM-based để tối ưu hóa hiệu suất inference. Điều này cho thấy một xu hướng rộng hơn:
bài toán AI không còn chỉ là tăng compute, mà là giảm chi phí trên mỗi token.

Và nếu những kiến trúc mới này chứng minh được hiệu quả, cuộc cạnh tranh trong lĩnh vực chip AI có thể sẽ không chỉ xoay quanh GPU nữa, mà mở rộng sang những cách tiếp cận hoàn toàn khác về kiến trúc hệ thống.