Kimi K3 adalah model Mixture-of-Experts 2,8 triliun parameter dengan visi bawaan dan jendela konteks 1 juta token, menjadikannya model open-weight pertama di kelas sekitar 3 triliun parameter. Arsitekturnya memadukan Kimi Delta Attention, Attention Residuals, dan Stable LatentMoE, dengan hanya 16 dari 896 expert yang aktif per token. Moonshot mengklaim efisiensi penskalaan sekitar 2,5 kali lebih baik dibanding Kimi K2.
K3 membidik pekerjaan coding jangka panjang, penalaran, pekerjaan pengetahuan, dan agen, bukan sekadar chat, dengan upaya penalaran yang bisa diatur. Seluruh bobot model dirilis secara terbuka.
Sumber: Medium
