思ったより高いな
逆にOpus4.8がいかにカスかという・・・
1兆パラメータで無償公開は凄い。MCP連携で実用性高そうだし試す価値あり
最後の公開モデルになるのかも
中国の前にGeminiがMythosに追いつくのはいつなんだ
モデルはコモディティ化をしていてドングリの背比べ。だから、公開できなほど危険などのマーケティングが展開されている。
無償モデルで高性能のものがあれど、それを動かすためのハードウェアが高過ぎて、OpenAI/Anthoropicのサブスク使うのが最適解になりがち
1Tモデルだから普通のPCで動かせるもんではないがそれでもオープンモデルでトップ性能並の公開され続けてるのはありがたい
こう言うモデルが有る限りは大手も無理な値上げは出来ないだろうな
1Tモデル動かせるのはどういうマシンなんや‥31Bを動かすにもヒイヒイ言ってるのに
Cursor のモデル Composer2 が Kimi K2.5 ベースなので、Composer の将来のバージョンで K2.7 Code が採用される可能性もある。Cursorは Anthoropic/OpenAIのモデルも選択できるので Cursor がCoding AI として第一選択になる可能性も...
オープンウェイトは歓迎だけど、Kimi Kシリーズは大きすぎて動かせたことがない。コンテキスト長とかKVキャッシュを考えるとパラメータ数はほどほどな方がありがたい。5分の1の200Bくらいとか。
オープンなのは良いこと。将来動かせるようなハードを世の中に出そうという動きに繋がるから
この手の中華無料LLMが巨大なのは、建造に何百億円を投じている西側LLM企業を失血死させるために公開してるだけで、FOSSの精神に共感して居る訳では無いから、ローカルで動かす事が現実的で無い程にデカいのは仕方無い
オープンモデルは提供する企業同士が価格競争して値段安くなりやすそうだから良いと思う
現実に動かせないけどオープンであることは意義があるね
チャッピーが言うには量子化によるけどVRAM最低350~600GB必要らしいです。フル精度だと1.2TB
わい的には屏風の中やな(ノ∀`)
個人用途で使えないからンギーってなってる人大丈夫?
opusが2Tパラメータ未満とか聞いた気がするので、コード用で1Tはあり得そう
そりゃAnthropicはAI開発の進歩を一次的に自重しようみたいなことを言い出すよね。日本は純国産モデルを開発できないからありがたく漁夫の利を頂こう。
これを動かす計算リソースを政府が用意して国民にAPIを提供してくれんかな。
スピード気にしなければGB10の8ノードクラスタで乗るよ。70万×8で560万+スイッチで600万。で15TPSくらいじゃないかなぁ…。Q4なら300万弱
無償公開ってHuggingfaceに乗っかったということだろうけど、512GB Mac studioでもこれは動かんな。
MCP連携でOpus 4.8超え、1兆パラメータLLM「Kimi K2.7 Code」無償公開
思ったより高いな
逆にOpus4.8がいかにカスかという・・・
1兆パラメータで無償公開は凄い。MCP連携で実用性高そうだし試す価値あり
最後の公開モデルになるのかも
中国の前にGeminiがMythosに追いつくのはいつなんだ
モデルはコモディティ化をしていてドングリの背比べ。だから、公開できなほど危険などのマーケティングが展開されている。
無償モデルで高性能のものがあれど、それを動かすためのハードウェアが高過ぎて、OpenAI/Anthoropicのサブスク使うのが最適解になりがち
1Tモデルだから普通のPCで動かせるもんではないがそれでもオープンモデルでトップ性能並の公開され続けてるのはありがたい
こう言うモデルが有る限りは大手も無理な値上げは出来ないだろうな
1Tモデル動かせるのはどういうマシンなんや‥31Bを動かすにもヒイヒイ言ってるのに
Cursor のモデル Composer2 が Kimi K2.5 ベースなので、Composer の将来のバージョンで K2.7 Code が採用される可能性もある。Cursorは Anthoropic/OpenAIのモデルも選択できるので Cursor がCoding AI として第一選択になる可能性も...
オープンウェイトは歓迎だけど、Kimi Kシリーズは大きすぎて動かせたことがない。コンテキスト長とかKVキャッシュを考えるとパラメータ数はほどほどな方がありがたい。5分の1の200Bくらいとか。
オープンなのは良いこと。将来動かせるようなハードを世の中に出そうという動きに繋がるから
この手の中華無料LLMが巨大なのは、建造に何百億円を投じている西側LLM企業を失血死させるために公開してるだけで、FOSSの精神に共感して居る訳では無いから、ローカルで動かす事が現実的で無い程にデカいのは仕方無い
オープンモデルは提供する企業同士が価格競争して値段安くなりやすそうだから良いと思う
現実に動かせないけどオープンであることは意義があるね
チャッピーが言うには量子化によるけどVRAM最低350~600GB必要らしいです。フル精度だと1.2TB
わい的には屏風の中やな(ノ∀`)
個人用途で使えないからンギーってなってる人大丈夫?
opusが2Tパラメータ未満とか聞いた気がするので、コード用で1Tはあり得そう
そりゃAnthropicはAI開発の進歩を一次的に自重しようみたいなことを言い出すよね。日本は純国産モデルを開発できないからありがたく漁夫の利を頂こう。
これを動かす計算リソースを政府が用意して国民にAPIを提供してくれんかな。
スピード気にしなければGB10の8ノードクラスタで乗るよ。70万×8で560万+スイッチで600万。で15TPSくらいじゃないかなぁ…。Q4なら300万弱
無償公開ってHuggingfaceに乗っかったということだろうけど、512GB Mac studioでもこれは動かんな。