Tenstorrent ra mắt máy trạm AI làm mát bằng chất lỏng, giá từ ~260 triệu đồng

Tenstorrent, công ty điện toán AI do CEO Jim Keller dẫn dắt, vừa chính thức ra mắt TT-QuietBox 2 (Blackhole) – một máy trạm AI được thiết kế đặc biệt cho các doanh nghiệp và nhà phát triển. Điểm nổi bật của thiết bị này là việc sử dụng kiến trúc RISC-V, hệ thống làm mát bằng chất lỏng siêu yên tĩnh và khả năng xử lý các mô hình AI lên tới 120 tỷ tham số ngay tại bàn làm việc.

TT-QuietBox 2 được trang bị Blackhole AIC độc quyền của Tenstorrent, mỗi card tích hợp 16 lõi RISC-V mạnh mẽ và lên đến 32 GB bộ nhớ GDDR6. Máy trạm này có thể cấu hình với tối đa bốn card Blackhole, tổng cộng 128 GB bộ nhớ GDDR6, cùng với 256 GB bộ nhớ hệ thống DDR5. Tenstorrent cũng đang hợp tác với Razer để phát triển một thiết bị tăng tốc AI riêng biệt sử dụng chip AI Wormhole.

Thiết bị này được giới thiệu là máy trạm AI để bàn đầu tiên trong ngành được xây dựng trên kiến trúc RISC-V, mang lại hiệu suất suy luận (inference) ở cấp độ teraflop. QuietBox 2 được thiết kế để các nhà phát triển AI có thể kiểm soát và sở hữu mọi lớp của hệ thống điện toán, từ kiến trúc silicon đến trình biên dịch. Đây là giải pháp lý tưởng cho các nhà phát triển và doanh nghiệp vừa và nhỏ yêu cầu triển khai tại chỗ mà không cần tủ rack máy chủ.

QuietBox 2 sẵn sàng triển khai nhanh chóng và vượt trội trong nhiều lĩnh vực AI khác nhau. Đối với các mô hình ngôn ngữ lớn (LLM) và mã hóa, thiết bị có thể chạy GPT-OSS 120B hoàn toàn trên thiết bị, xử lý Llama 3.1 70B với tốc độ 476,5 token mỗi giây. Trong lĩnh vực sáng tạo và đa phương tiện, QuietBox 2 có thể xử lý tạo ảnh (Flux) và tổng hợp video (Wan 2.2) cục bộ, đảm bảo quyền sở hữu trí tuệ. Đặc biệt, trong nghiên cứu khoa học, mô hình Boltz-2 có thể dự đoán cấu trúc protein chỉ trong 49 giây, tương đương hiệu suất của các GPU máy trạm hàng đầu nhưng với chi phí thấp hơn nhiều.

Hệ thống này tích hợp bốn ASIC Blackhole hoạt động như một mạng lưới thống nhất trong một khung máy nhỏ gọn. Với 480 lõi Tensix, thiết bị cung cấp 2.654 TFLOPS ở độ chính xác BlockFP8, được hỗ trợ bởi 128 GB bộ nhớ GDDR6 tốc độ cao và 256 GB bộ nhớ hệ thống DDR5. Kiến trúc này giúp tránh các nút thắt cổ chai về DRAM, vốn hạn chế thông lượng trên phần cứng thông thường và giảm thiểu ảnh hưởng từ tình trạng thiếu hụt HBM đang đẩy giá phần cứng AI tăng cao.

TT-QuietBox 2 chạy trên Ubuntu 24.04, cắm vào ổ cắm điện tiêu chuẩn 120V và không yêu cầu tủ rack, hệ thống điện chuyên biệt hay phòng máy chủ. Mọi lớp phần mềm của QuietBox 2 đều là mã nguồn mở, từ trình biên dịch TT-Forge đến SDK AI cấp thấp TT-Metalium và phần mềm kernel TT-LLK. Điều này mang lại sự minh bạch hoàn toàn, cho phép nhà phát triển gỡ lỗi ở cấp độ phần cứng và tùy chỉnh stack phần mềm theo nhu cầu cụ thể.

Thiết bị được thiết kế lại tập trung vào tốc độ phát triển và hiệu quả môi trường, với mức tiêu thụ điện năng khi không tải và lượng nhiệt tỏa ra giảm khoảng 50% so với thế hệ trước. TT-QuietBox 2 sẽ bắt đầu giao hàng toàn cầu vào quý 2 năm 2026, với giá khởi điểm 9.999 USD (~261,9 triệu đồng).