Tin tức › AI & LLM

AI & LLM

Moonshot AI mở trọng số Kimi K3.1 Pro: mô hình MoE 2,8 nghìn tỷ tham số, ngữ cảnh 1 triệu token

2026-11-05 · Nguồn: Hugging Face / Moonshot AI

Moonshot AI mở trọng số Kimi K3.1 Pro: mô hình MoE 2,8 nghìn tỷ tham số, ngữ cảnh 1 triệu token
Ảnh: Hugging Face / Moonshot AI

Theo trang mô hình trên Hugging Face, Kimi K3.1 Pro là mô hình agentic đa phương thức (văn bản, hình ảnh) trọng số mở, hậu huấn luyện từ Kimi K3 bằng học tăng cường quy mô lớn trên hàng trăm lĩnh vực. Kiến trúc Mixture-of-Experts với tổng 2,8 nghìn tỷ tham số, 104 tỷ tham số hoạt động mỗi token, 93 tầng, 896 expert (chọn 16 expert mỗi token), cửa sổ ngữ cảnh 1.048.576 token; so với K3, các tầng full attention Gated MLA được thay bằng tầng Gated DeepSeek Sparse Attention để xử lý ngữ cảnh dài hiệu quả hơn. Trọng số dùng định dạng MXFP4 (huấn luyện có nhận biết lượng tử hoá), bộ mã hoá thị giác MoonViT-V2 có 401 triệu tham số. Moonshot công bố Terminal-Bench 4.0 đạt 65,7 (Claude Opus 5.5: 66,4), BrowseComp 92,1, GPQA-Diamond 94,2 và HLE-Full có công cụ 70,0; phần lớn kết quả của Kimi được đo bằng harness Claude Code hoặc Kimi Code. Mô hình dùng giấy phép riêng Kimi K3.1 Pro License và có API tại platform.kimi.ai. Theo bài đăng của Arena và IT Home (5/11/2026), trên bảng Agent Arena (hơn 17.500 phiên agent dài hạn thực tế) Kimi K3.1 Pro (Max) đạt mức cải thiện ròng +5,1% (K3: +0,9%), đứng đầu nhóm mô hình trọng số mở và hạng 13 trong toàn bộ mô hình được đánh giá.

Nguồn: Hugging Face / Moonshot AI

Cần chatbot hoặc agent LLM cho doanh nghiệp?

Mô tả ngắn yêu cầu của bạn; bạn sẽ nhận câu hỏi làm rõ và đề xuất phạm vi trước khi bắt đầu.

Gửi yêu cầu Xem dịch vụ

Tin liên quan