“Kimi K3” いつの間にかトリリオンパラメータ時代に突入したのか。自分はまだ2桁ビリオンのLLMを触る程度なのに。
2.8兆パラメータで重みも完全公開予定なのは激アツ。オープンソースAIの進化スピードが早すぎて追いつかん
Fableやsolより安いけど、teraやsonnetよりは高いと言う感じだな。
しばらく連載追ってないうちに宮坂詩織が妊娠したのかと思った。「君がK3だ！（ギュッ！)」
そろそろOpenCode Goに登録したいけど、まだまだ円安が続きそうだからな…。
このシリーズはデカすぎてローカルでは実行できない。2.8T=2800B。8bit量子化で3TくらいはVRAMが必要で、1bitだとしても2800/8=350GBだから、まあ無理よ。
chatgpt proみたいな定額プランが来たら起こしてくれ
君が計算するのか
MoEで896エキスパート16アクティブとのことだけども、メモリはめっちゃいるよね。GLM-5の4倍サイズ。チャッピーに量子化FP8で概算させたら3.2～3.6TB。普通はクラウドだろうけど動作環境の新規購入概算させたら8億円内外...
各社今のところ赤字の垂れ流しだろうけど、長期的に持続可能なのか？これ。チキンレースで生き残ったAI企業による寡占状態になり、急激な価格上昇が起きると予想。コンシューマー向けは制限されるかもな。
一部ベンチでFable 5超え、2.8兆パラメータの「Kimi K3」正式発表
“Kimi K3” いつの間にかトリリオンパラメータ時代に突入したのか。自分はまだ2桁ビリオンのLLMを触る程度なのに。
2.8兆パラメータで重みも完全公開予定なのは激アツ。オープンソースAIの進化スピードが早すぎて追いつかん
Fableやsolより安いけど、teraやsonnetよりは高いと言う感じだな。
しばらく連載追ってないうちに宮坂詩織が妊娠したのかと思った。「君がK3だ！（ギュッ！)」
そろそろOpenCode Goに登録したいけど、まだまだ円安が続きそうだからな…。
このシリーズはデカすぎてローカルでは実行できない。2.8T=2800B。8bit量子化で3TくらいはVRAMが必要で、1bitだとしても2800/8=350GBだから、まあ無理よ。
chatgpt proみたいな定額プランが来たら起こしてくれ
君が計算するのか
MoEで896エキスパート16アクティブとのことだけども、メモリはめっちゃいるよね。GLM-5の4倍サイズ。チャッピーに量子化FP8で概算させたら3.2～3.6TB。普通はクラウドだろうけど動作環境の新規購入概算させたら8億円内外...
各社今のところ赤字の垂れ流しだろうけど、長期的に持続可能なのか？これ。チキンレースで生き残ったAI企業による寡占状態になり、急激な価格上昇が起きると予想。コンシューマー向けは制限されるかもな。