OpenAI phát hành gpt-oss-120b và gpt-oss-20b, mô hình mở trọng số Apache 2.0
Hai mô hình lập luận mở trọng số của OpenAI dùng giấy phép Apache 2.0, có thể chạy trên một GPU cao cấp hoặc một máy trạm đơn lẻ.
OpenAI đã phát hành gpt-oss-120b và gpt-oss-20b, hai mô hình lập luận mở trọng số theo giấy phép Apache 2.0. Theo mô tả của OpenAI, mô hình lớn có thể chạy trên một GPU cao cấp, còn mô hình nhỏ đủ nhẹ để chạy trên một máy trạm.
Mở trọng số nghĩa là bộ tham số của mô hình được công bố để tổ chức tự tải về và vận hành trên hạ tầng của mình, thay vì gọi qua API của nhà cung cấp. Giấy phép Apache 2.0 cho phép sử dụng và chỉnh sửa với ít ràng buộc hơn giấy phép độc quyền. Hai kích cỡ cho phép chọn mức tài nguyên phù hợp.
Với doanh nghiệp, điểm hấp dẫn là dữ liệu không phải rời khỏi hạ tầng nội bộ, phù hợp với đơn vị có yêu cầu bảo mật hoặc không muốn phụ thuộc một dịch vụ bên ngoài. Khả năng chạy trên một máy trạm cũng hạ thấp rào cản thử nghiệm.
Điều cần lưu ý là tự vận hành mô hình kéo theo trách nhiệm về hạ tầng: cấu hình GPU, bộ nhớ, tốc độ phản hồi và chi phí điện năng đều do tổ chức tự lo. Công bố không nêu thông số hiệu năng hay yêu cầu cấu hình chi tiết, nên cần kiểm thử trên đúng thiết bị dự kiến dùng.
Nguồn: openai.com
