Microsoft đã công bố việc đưa mô hình AI mở miễn phí mới nhất của OpenAI có tên gpt-oss-20b lên nền tảng Windows 11 thông qua Windows AI Foundry – nền tảng cho phép người dùng truy cập các tính năng AI, API và các mô hình mã nguồn mở phổ biến trực tiếp trên máy tính của họ.
Trong một bài đăng trên blog, Microsoft mô tả gpt-oss-20b là mô hình “thông minh về công cụ và nhẹ nhàng”. Công ty cho biết: “Được tối ưu hóa cho các tác vụ agentic như thực thi mã và sử dụng công cụ, nó chạy hiệu quả trên nhiều loại phần cứng Windows, với hỗ trợ cho nhiều thiết bị hơn sẽ có sớm. Nó hoàn hảo để xây dựng trợ lý tự động hoặc nhúng AI vào quy trình làm việc thực tế, ngay cả trong môi trường hạn chế băng thông.”
Mô hình gpt-oss-20b được OpenAI ra mắt vào thứ Ba vừa qua có thể chạy trên PC và laptop thông thường với ít nhất 16GB VRAM, điều kiện mà các GPU hiện đại của Nvidia hoặc Radeon đều đáp ứng được. OpenAI cho biết mô hình này được huấn luyện bằng học tăng cường tính toán cao, giúp nó xuất sắc trong việc cung cấp năng lượng cho các tác nhân AI và gọi các công cụ như tìm kiếm web hoặc thực thi mã Python như một phần của quá trình suy nghĩ chuỗi.
Tuy nhiên, mô hình này chỉ xử lý văn bản, nghĩa là nó sẽ không thể xử lý hoặc tạo ra hình ảnh và âm thanh như các mô hình khác của công ty. Ngoài ra, mô hình có xu hướng ảo giác khá nhiều: gpt-oss-20b đã ảo giác khi trả lời 53% câu hỏi trên PersonQA, bộ đánh giá nội bộ của OpenAI để đo độ chính xác kiến thức của mô hình về con người.
Microsoft cho biết họ sẽ sớm đưa mô hình này lên macOS cũng như các thiết bị khác, mặc dù công ty không nêu tên cụ thể thêm thiết bị nào. Microsoft cũng đang cung cấp cả gpt-oss-20b và mô hình cũ hơn gpt-oss-120b thông qua nền tảng Azure AI Foundry được lưu trữ của họ.
Hai mô hình mới này cũng đã có sẵn trên AWS của Amazon.