Microsoft đưa mô hình mở mới của OpenAI lên Windows

OpenAI vừa phát hành một mô hình GPT miễn phí và mở mới ngày hôm qua, có thể chạy trên PC, và Microsoft hiện đang làm cho việc này dễ dàng với người dùng Windows. Mô hình nhẹ gpt-oss-20b hiện đã có trên Windows AI Foundry, và sẽ sớm có trên macOS. 

Để sử dụng, bạn cần PC hoặc laptop có ít nhất 16GB VRAM, vì vậy cần một trong các GPU cao cấp của Nvidia hoặc các GPU Radeon với VRAM đủ lớn. Mô hình gpt-oss-20b được tối ưu hóa cho thực thi code và sử dụng công cụ, và Microsoft nói rằng nó “hoàn hảo để xây dựng trợ lý tự động hoặc nhúng AI vào các quy trình công việc thực tế, ngay cả trong môi trường băng thông hạn chế.” 

Microsoft đã tối ưu hóa trước gpt-oss-20b cho inference cục bộ, và gợi ý rằng hỗ trợ nhiều thiết bị hơn sẽ sớm có mặt. Điều này có thể nghĩa là chúng ta sẽ thấy phiên bản tối ưu hóa hơn cho Copilot Plus PCs trong tương lai, giống như cách Microsoft gần đây đã thêm nhiều mô hình AI cục bộ vào Windows. 

Việc Microsoft nhanh chóng bổ sung mô hình mới nhất của OpenAI vào Windows AI Foundry diễn ra khi Amazon cũng nhanh chóng áp dụng các mô hình GPT-OSS trọng số mở mới cho dịch vụ đám mây của họ. Đây là lần đầu tiên bạn có thể chạy mô hình OpenAI cục bộ trên Windows, nhưng cũng là lần đầu tiên đối thủ đám mây lớn nhất của Microsoft có quyền truy cập vào các mô hình OpenAI mới nhất — tạo thêm một động lực mới trong mối quan hệ hợp tác phức tạp giữa OpenAI và Microsoft.