Tin tức › Khoa học máy tính & dữ liệu

Khoa học máy tính & dữ liệu

KAIST: CluSTER rút ngắn thời gian fine-tune LLM tới 69,6% mà giữ gần nguyên chất lượng

2026-11-02 · Nguồn: KAIST

KAIST: CluSTER rút ngắn thời gian fine-tune LLM tới 69,6% mà giữ gần nguyên chất lượng

Nhóm của GS. Jae-Gil Lee (KAIST) đề xuất CluSTER: gom và chọn dữ liệu có tác dụng học tương tự nhau rồi chia đều cho nhiều GPU để giảm việc học lặp. Trên mô hình ~7B và 13B với ba bộ dữ liệu lập trình/y khoa và tám benchmark, mô hình giữ gần như cùng hiệu năng khi chỉ dùng khoảng 31% dữ liệu, thời gian huấn luyện giảm tới 69,6% (10 giờ còn khoảng 3 giờ). Thí nghiệm chủ yếu trên 4 GPU, công bố tại EMNLP 2026.

Nguồn: KAIST

Cần công cụ AI theo yêu cầu?

Mô tả ngắn yêu cầu của bạn; bạn sẽ nhận câu hỏi làm rõ và đề xuất phạm vi trước khi bắt đầu.

Gửi yêu cầu Xem dịch vụ

Tin liên quan