Tại Hội chợ Điện tử Tiêu dùng (CES) 2025 diễn ra ở Las Vegas, Nvidia đã chính thức giới thiệu Project Digits, một “siêu máy tính AI cá nhân” mang đến sức mạnh của nền tảng phần cứng Grace Blackwell trong một thiết kế nhỏ gọn, hướng đến đối tượng người dùng là các nhà nghiên cứu AI, nhà khoa học dữ liệu và sinh viên.
CEO Jensen Huang của Nvidia nhấn mạnh trong buổi họp báo: “[Project Digits] vận hành toàn bộ ngăn xếp AI của Nvidia – tất cả phần mềm của Nvidia đều hoạt động trên thiết bị này. Đó là một nền tảng điện toán đám mây ngay trên bàn làm việc của bạn… Nó thậm chí có thể đóng vai trò như một máy trạm, tùy theo nhu cầu sử dụng.”
Sức mạnh vượt trội từ siêu chip GB10 Grace Blackwell
Trái tim của Project Digits là siêu chip GB10 Grace Blackwell, được phát triển với sự hợp tác của MediaTek. Chip GB10 sở hữu GPU Nvidia Blackwell kết nối với CPU Nvidia Grace 20 lõi dựa trên nền tảng Arm, mang lại hiệu suất tính toán AI lên tới 1 petaflop (tương đương 1 triệu tỷ phép tính mỗi giây) ở độ chính xác FP4, giúp tăng tốc độ tính toán thông qua các phép tính gần đúng.
Với sức mạnh này, mỗi thiết bị Project Digits có thể chạy các mô hình AI có kích thước lên tới 200 tỷ tham số. Để so sánh, số lượng tham số thường tỷ lệ thuận với khả năng giải quyết vấn đề của mô hình AI. Thiết kế nhỏ gọn, có thể đặt trên bàn làm việc và sử dụng nguồn điện tiêu chuẩn, Project Digits phá vỡ rào cản về kích thước và điện năng tiêu thụ so với các hệ thống AI hiệu suất cao truyền thống.
Khả năng mở rộng và kết nối linh hoạt
Bên trong thiết kế nhỏ gọn, Project Digits được trang bị 128GB bộ nhớ thống nhất, nhất quán và dung lượng lưu trữ flash lên đến 4TB. Đặc biệt, hai máy Project Digits có thể liên kết với nhau thông qua NVLink-C2C, nâng khả năng xử lý lên đến các mô hình AI có 405 tỷ tham số (tương đương với mô hình Llama 3.1 mạnh nhất của Meta). Hệ thống còn tích hợp các lõi CUDA thế hệ mới nhất và lõi Tensor thế hệ thứ năm của Nvidia.
Người dùng có thể sử dụng Project Digits như một hệ thống độc lập hoặc kết nối với máy tính Windows hoặc Mac chính.
Phần mềm và hệ sinh thái
Project Digits chạy trên hệ điều hành Nvidia DGX dựa trên Linux, hỗ trợ các framework AI phổ biến như PyTorch, Python và Jupyter Notebook. Người dùng có quyền truy cập vào toàn bộ thư viện phần mềm AI của Nvidia, bao gồm bộ công cụ phát triển, công cụ điều phối và các mô hình được đào tạo trước từ danh mục Nvidia NGC. Các nhà phát triển có thể tinh chỉnh mô hình với framework Nvidia NeMo và tăng tốc quy trình khoa học dữ liệu với thư viện Nvidia RAPIDS.
Mục tiêu và triển khai
Project Digits cho phép người dùng phát triển và thử nghiệm mô hình AI cục bộ, sau đó triển khai lên các dịch vụ đám mây hoặc cơ sở hạ tầng trung tâm dữ liệu sử dụng cùng kiến trúc Grace Blackwell và nền tảng phần mềm Nvidia AI Enterprise.
Nvidia định hướng Project Digits sẽ trao quyền cho các nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên tham gia và định hình kỷ nguyên AI. Đây cũng là một phần trong chiến lược mở rộng thị trường AI của Nvidia, bên cạnh các sản phẩm dễ tiếp cận khác như Jetson Orin Nano Super (giá 249 USD) dành cho các nhà phát triển và startup, có khả năng xử lý mô hình lên đến 8 tỷ tham số.
Giá bán và thời điểm ra mắt
Project Digits sẽ được bán ra từ tháng 5 thông qua các đối tác hàng đầu của Nvidia với giá khởi điểm 3.000 USD.
CEO Jensen Huang của Nvidia nhấn mạnh trong buổi họp báo: “[Project Digits] vận hành toàn bộ ngăn xếp AI của Nvidia – tất cả phần mềm của Nvidia đều hoạt động trên thiết bị này. Đó là một nền tảng điện toán đám mây ngay trên bàn làm việc của bạn… Nó thậm chí có thể đóng vai trò như một máy trạm, tùy theo nhu cầu sử dụng.”
Trái tim của Project Digits là siêu chip GB10 Grace Blackwell, được phát triển với sự hợp tác của MediaTek. Chip GB10 sở hữu GPU Nvidia Blackwell kết nối với CPU Nvidia Grace 20 lõi dựa trên nền tảng Arm, mang lại hiệu suất tính toán AI lên tới 1 petaflop (tương đương 1 triệu tỷ phép tính mỗi giây) ở độ chính xác FP4, giúp tăng tốc độ tính toán thông qua các phép tính gần đúng.
Với sức mạnh này, mỗi thiết bị Project Digits có thể chạy các mô hình AI có kích thước lên tới 200 tỷ tham số. Để so sánh, số lượng tham số thường tỷ lệ thuận với khả năng giải quyết vấn đề của mô hình AI. Thiết kế nhỏ gọn, có thể đặt trên bàn làm việc và sử dụng nguồn điện tiêu chuẩn, Project Digits phá vỡ rào cản về kích thước và điện năng tiêu thụ so với các hệ thống AI hiệu suất cao truyền thống.
Khả năng mở rộng và kết nối linh hoạt
Bên trong thiết kế nhỏ gọn, Project Digits được trang bị 128GB bộ nhớ thống nhất, nhất quán và dung lượng lưu trữ flash lên đến 4TB. Đặc biệt, hai máy Project Digits có thể liên kết với nhau thông qua NVLink-C2C, nâng khả năng xử lý lên đến các mô hình AI có 405 tỷ tham số (tương đương với mô hình Llama 3.1 mạnh nhất của Meta). Hệ thống còn tích hợp các lõi CUDA thế hệ mới nhất và lõi Tensor thế hệ thứ năm của Nvidia.
Người dùng có thể sử dụng Project Digits như một hệ thống độc lập hoặc kết nối với máy tính Windows hoặc Mac chính.
Project Digits chạy trên hệ điều hành Nvidia DGX dựa trên Linux, hỗ trợ các framework AI phổ biến như PyTorch, Python và Jupyter Notebook. Người dùng có quyền truy cập vào toàn bộ thư viện phần mềm AI của Nvidia, bao gồm bộ công cụ phát triển, công cụ điều phối và các mô hình được đào tạo trước từ danh mục Nvidia NGC. Các nhà phát triển có thể tinh chỉnh mô hình với framework Nvidia NeMo và tăng tốc quy trình khoa học dữ liệu với thư viện Nvidia RAPIDS.
Mục tiêu và triển khai
Project Digits cho phép người dùng phát triển và thử nghiệm mô hình AI cục bộ, sau đó triển khai lên các dịch vụ đám mây hoặc cơ sở hạ tầng trung tâm dữ liệu sử dụng cùng kiến trúc Grace Blackwell và nền tảng phần mềm Nvidia AI Enterprise.
Nvidia định hướng Project Digits sẽ trao quyền cho các nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên tham gia và định hình kỷ nguyên AI. Đây cũng là một phần trong chiến lược mở rộng thị trường AI của Nvidia, bên cạnh các sản phẩm dễ tiếp cận khác như Jetson Orin Nano Super (giá 249 USD) dành cho các nhà phát triển và startup, có khả năng xử lý mô hình lên đến 8 tỷ tham số.
Giá bán và thời điểm ra mắt
Project Digits sẽ được bán ra từ tháng 5 thông qua các đối tác hàng đầu của Nvidia với giá khởi điểm 3.000 USD.