“RTX 4060 Ti 16GB / RAM 61.6GB でツールで診断すると、通常用途は Qwen3.6-27B Q3_K_M、coding は Qwen3-Coder-30B-A3B が Full GPU で現実的という結果。「動く / 動かない」だけでなく「気持ちよく動くか」までを 1 コマンドで返してくれる”
ローカルLLMの性能はゲーム作らせるとわかる。
なんでAIに文章書かせるとこんなに薄っぺらくなるんだろうね/日本マイクロソフト所属
便利だけど、マルチRadeon自動検出してくれなかった。Qwen3.6-35B-A3Bが300t/sでるRTX5090ほしいな
結局codexとclaudeと同等の性能を求めるとローカルLLMがお話にならないレベルなので(億単位の金をローカルにかけられるなら別)、あまり考えずにOpenAI/Anthropicに課金しとけ、でしかない
そんなの前からそうだったろ！
ローカルLLM選定、claudeに聞いたが何か？
提案されても実際使ってみるとモデル変えたりパラメータ変えたりしたくなると思う
AIぽい
TL;DRが長すぎるわっ何の略だと思ってんだよってAIによく教え込んでおいて欲しい
何も考えずにこのコマンド動かしてるやつは近いうちにウイルス感染しそう
トークン地獄になるくらいなら100万クラスのグラボ買った方が良い気がしてきたな。
🚀ローカル LLM 選び、もう「VRAM に入る一番デカいやつ」で決めるの卒業しよ？ - whichllm を RTX 4060 Ti 16GB で測ってみた - Qiita
“RTX 4060 Ti 16GB / RAM 61.6GB でツールで診断すると、通常用途は Qwen3.6-27B Q3_K_M、coding は Qwen3-Coder-30B-A3B が Full GPU で現実的という結果。「動く / 動かない」だけでなく「気持ちよく動くか」までを 1 コマンドで返してくれる”
ローカルLLMの性能はゲーム作らせるとわかる。
なんでAIに文章書かせるとこんなに薄っぺらくなるんだろうね/日本マイクロソフト所属
便利だけど、マルチRadeon自動検出してくれなかった。Qwen3.6-35B-A3Bが300t/sでるRTX5090ほしいな
結局codexとclaudeと同等の性能を求めるとローカルLLMがお話にならないレベルなので(億単位の金をローカルにかけられるなら別)、あまり考えずにOpenAI/Anthropicに課金しとけ、でしかない
そんなの前からそうだったろ！
ローカルLLM選定、claudeに聞いたが何か？
提案されても実際使ってみるとモデル変えたりパラメータ変えたりしたくなると思う
AIぽい
TL;DRが長すぎるわっ何の略だと思ってんだよってAIによく教え込んでおいて欲しい
何も考えずにこのコマンド動かしてるやつは近いうちにウイルス感染しそう
トークン地獄になるくらいなら100万クラスのグラボ買った方が良い気がしてきたな。