Nvidia đã thu nhỏ một trung tâm dữ liệu thành một máy tính để bàn và gọi nó là DGX Spark

Tầm quan trọng của điều này: Đây là một trong những bước đi rõ ràng nhất từ ​​trước đến nay trong việc đưa khả năng tính toán AI thực sự lên máy tính để bàn, loại bỏ sự phụ thuộc vào các cụm máy tính từ xa. Bằng cách thu nhỏ sức mạnh xử lý cấp doanh nghiệp thành một thiết bị nhỏ gọn dưới màn hình, Nvidia đang phá vỡ rào cản giữa phòng nghiên cứu và phòng khách. Đây là một động thái có thể định hình lại cách thức và địa điểm diễn ra sự đổi mới AI. DGX Spark cũng là một tuyên bố về ý định của Nvidia: AI không còn chỉ là một dịch vụ đám mây, mà là một công cụ cục bộ dành cho các nhà sáng tạo, nhà nghiên cứu và nhà phát triển.

• Chuyển quy trình phát triển AI từ chỉ trên nền tảng đám mây sang thiết lập kết hợp/cục bộ.
• Nó cho phép các nhóm nhỏ hơn, các nhà nghiên cứu và các công ty khởi nghiệp tạo nguyên mẫu và tinh chỉnh các mô hình lớn ngay tại công ty .
• Giúp sức mạnh AI mạnh mẽ trở nên phải chăng hơn , vì 3.999 đô la chỉ là tiền lẻ so với chi phí trung tâm dữ liệu.
• Đây là tín hiệu cho thấy hoạt động tính toán AI nặng nề không nhất thiết phải bị giới hạn trong các cụm máy chủ.
• Buộc các đối thủ phải xem xét lại xem có thể nhồi nhét bao nhiêu sức mạnh AI vào những cỗ máy nhỏ gọn, tiết kiệm điện năng.

Tại sao tôi phải quan tâm? Đối với hầu hết mọi người, điều này không có ý nghĩa gì nhiều vì DGX Spark không phải là máy tính để bàn dành cho người tiêu dùng; nó là một siêu máy tính thu nhỏ được chế tạo cho các nhà phát triển, nhà nghiên cứu và các công ty khởi nghiệp đang làm việc trên các mô hình AI quy mô lớn. Nếu bạn đang nghiên cứu sâu về học máy, chạy các công việc đào tạo hoặc thử nghiệm với AI tạo sinh, DGX Spark có thể là một công cụ thay đổi cuộc chơi. Nó mang sức mạnh trung tâm dữ liệu nghiêm túc đến bàn làm việc của bạn, cho phép bạn chạy khối lượng công việc khổng lồ tại chỗ mà không cần thuê GPU đám mây. Hãy coi nó như một phòng thí nghiệm AI cá nhân: nhỏ gọn, mạnh mẽ và không hề tốn kém cho bất kỳ ai không làm công việc AI cao cấp.

• Các nhà nghiên cứu và người đam mê AI có thể đào tạo hoặc tinh chỉnh các mô hình lớn hơn tại địa phương , giảm độ trễ và chi phí đám mây.
• Các tập dữ liệu nhạy cảm hoặc độc quyền có thể được lưu trữ tại chỗ, tránh bị lộ trên đám mây .
• Với khả năng nhóm hai đơn vị, bạn có thể đẩy vào vùng mô hình lớn hơn nữa (lớp tham số 405B).
• Nó hoạt động như một cầu nối: xây dựng trên Spark cục bộ, sau đó triển khai lên DGX Cloud của Nvidia hoặc cơ sở hạ tầng AI lớn hơn.