斜め読みだけど本体価格を無視したとしてもさすがに電気代はかかるので月額0円というのはちょっといいすぎよねぇ。機材さえあればAIサーバはそこそこ動くのは確かにそう。んで、クラウドのと比べると圧倒的に遅い
入手性はどうなんだ
いや、もう金かかりすぎだろ
AMDがここ数年AI環境（ミドルウェア等の整備）に努めているのは事実。ただ、月額0円は流石に悪意あるタイトル設定で、どう考えても実用性も考えれば環境構築のテスト程度であって、それ以上でもそれ以下にもならないよ
ローカルAIならタダでできる理論は設備費と電気料金を無いものとしているのが多いな
ROCm環境の構築で昔ハゲるほど苦労した思い出。いまはDocker一発で動くとかいい時代になったな
「一般的なチャット・文書要約中心であれば、10人規模でも現実的に共用できる性能といえる」ほええええ。オープンモデルがクラウドモデルに追いつくタイムラグもじわじわ縮まってるから、余裕があればなにげにありけ
今はJTCはM$の鴨葱なのだけど、毎回年寄りの「我が社の機密情報が！」あとPマーク関連にかこつけて業者がローカルLLMサーバーのPPT作成チラシを担いでくる。で、その保守は誰がやるんですかね。
依存度が急上昇することを予想するにAIサーバーの自前コストが鰻登りになりそう んでまたクラウド回帰→漏洩やサーバーダウントラブル→自社ローカル…の輪廻をずっと繰り返しそうｗ
まぁ言わんとすることはわかるが、Radeon AI PRO R9700はNVIDIAより安いと言っても25万するからなぁ。
ただし摩擦はないものとする、空気抵抗は考えないこととする、電気代は考えないものとする(New!)
Gemma 4 26B-A4B-it AWQ INT4ならR9700 1台で4並列39tok/secくらいは出るよと / int4量子化で全く性能落ちてなかったとしてもo3-mini-highとかGPT-5 mini (high)とかGemini 3.1 Flash-Liteあたりに近い性能
「オンプレは月額無料！」ってこと
超小型〜中型モデルの性能が上がってるからどこかでローカルLLMが美味しいバランスは出てきそうだけど、まだちょっと見えないんだよなぁ。クラウドはやはり強い。
脱・クラウドAIで情報漏洩を防ぐ。AMD Ryzen/Radeonで構築する「月額0円」のAIサーバー [Sponsored]
斜め読みだけど本体価格を無視したとしてもさすがに電気代はかかるので月額0円というのはちょっといいすぎよねぇ。機材さえあればAIサーバはそこそこ動くのは確かにそう。んで、クラウドのと比べると圧倒的に遅い
入手性はどうなんだ
いや、もう金かかりすぎだろ
AMDがここ数年AI環境（ミドルウェア等の整備）に努めているのは事実。ただ、月額0円は流石に悪意あるタイトル設定で、どう考えても実用性も考えれば環境構築のテスト程度であって、それ以上でもそれ以下にもならないよ
ローカルAIならタダでできる理論は設備費と電気料金を無いものとしているのが多いな
ROCm環境の構築で昔ハゲるほど苦労した思い出。いまはDocker一発で動くとかいい時代になったな
「一般的なチャット・文書要約中心であれば、10人規模でも現実的に共用できる性能といえる」ほええええ。オープンモデルがクラウドモデルに追いつくタイムラグもじわじわ縮まってるから、余裕があればなにげにありけ
今はJTCはM$の鴨葱なのだけど、毎回年寄りの「我が社の機密情報が！」あとPマーク関連にかこつけて業者がローカルLLMサーバーのPPT作成チラシを担いでくる。で、その保守は誰がやるんですかね。
依存度が急上昇することを予想するにAIサーバーの自前コストが鰻登りになりそう んでまたクラウド回帰→漏洩やサーバーダウントラブル→自社ローカル…の輪廻をずっと繰り返しそうｗ
まぁ言わんとすることはわかるが、Radeon AI PRO R9700はNVIDIAより安いと言っても25万するからなぁ。
ただし摩擦はないものとする、空気抵抗は考えないこととする、電気代は考えないものとする(New!)
Gemma 4 26B-A4B-it AWQ INT4ならR9700 1台で4並列39tok/secくらいは出るよと / int4量子化で全く性能落ちてなかったとしてもo3-mini-highとかGPT-5 mini (high)とかGemini 3.1 Flash-Liteあたりに近い性能
「オンプレは月額無料！」ってこと
超小型〜中型モデルの性能が上がってるからどこかでローカルLLMが美味しいバランスは出てきそうだけど、まだちょっと見えないんだよなぁ。クラウドはやはり強い。