「小さめのバグ修正や機能追加の課題」なんでそんなどうでもいいことで比較してるの?/コスト比較してないけど、86万÷16で月五万以上か
“Qwen3.5-122BをB200のVRAM 180GBに収めるため、量子化した127GB版を使用。B200をRunPodで借りてvLLMで動かす。5時間借りて39ドル(約5,900円)。処理時間はClaude Opus 5.5の2.6倍かかった。同時に16人までなら実用的に使える”
これだと現時点では代わりにはならないって結論かな。個人の趣味用途なら十分すぎるけど。
せっかく時間借ができるのだから、常時借りる必要はないのでは。
これローカルで動かしていないのでLocalLLMじゃなくてオープンモデルは使えるかじゃないか?
巨大モデルとは言え試してるモデルがちょい古くないか
エロトークしたいよなー俺もなー
クラウド含めて成長が早いので、常に検証・更新を求められるなら、そもそもその用途にローカルは向かないと思う(´-`)あるいは、検証・更新の自動化
これで元をとれるところはあるんだろうけど、少なさそう。人一人雇うよりもかかってるしなぁ
Claude Code使える環境だとあまり選択肢にはならないけど、データを絶対に外に出せない企業だとこれ以外選択肢がないとかはありそう
並列して使ったことないから、待たされないけど処理時間が伸びるという現象が意外過ぎるが、VRAMが余っていてGPUの計算がボトルネックだとvLLMの特性的にはそうなるか。
B200 1枚でLocalLLMを検証。Qwen3.5-122Bは小規模修正で18回中17回成功。同時16人まで実用的と推定(OpenCode実測は8人まで)。常時レンタルは月約87万円。要約の誤りや運用負担も整理。
【LocalLLM】Claude Codeの代わりになる?精度・同時人数・費用を検証
「小さめのバグ修正や機能追加の課題」なんでそんなどうでもいいことで比較してるの?/コスト比較してないけど、86万÷16で月五万以上か
“Qwen3.5-122BをB200のVRAM 180GBに収めるため、量子化した127GB版を使用。B200をRunPodで借りてvLLMで動かす。5時間借りて39ドル(約5,900円)。処理時間はClaude Opus 5.5の2.6倍かかった。同時に16人までなら実用的に使える”
これだと現時点では代わりにはならないって結論かな。個人の趣味用途なら十分すぎるけど。
せっかく時間借ができるのだから、常時借りる必要はないのでは。
これローカルで動かしていないのでLocalLLMじゃなくてオープンモデルは使えるかじゃないか?
巨大モデルとは言え試してるモデルがちょい古くないか
エロトークしたいよなー俺もなー
クラウド含めて成長が早いので、常に検証・更新を求められるなら、そもそもその用途にローカルは向かないと思う(´-`)あるいは、検証・更新の自動化
これで元をとれるところはあるんだろうけど、少なさそう。人一人雇うよりもかかってるしなぁ
Claude Code使える環境だとあまり選択肢にはならないけど、データを絶対に外に出せない企業だとこれ以外選択肢がないとかはありそう
並列して使ったことないから、待たされないけど処理時間が伸びるという現象が意外過ぎるが、VRAMが余っていてGPUの計算がボトルネックだとvLLMの特性的にはそうなるか。
B200 1枚でLocalLLMを検証。Qwen3.5-122Bは小規模修正で18回中17回成功。同時16人まで実用的と推定(OpenCode実測は8人まで)。常時レンタルは月約87万円。要約の誤りや運用負担も整理。