Localでそれなりに大きなモデル動かせるマシンが続々と出てくるな。まぁCuda使える点で言えばまだDGX Spark系マシンにアドバンテージあるのかな。今後はユニファイドメモリが標準形になるのかもね。
128GBのユニファイドメモリでローカルLLM動かせるのロマンあるな。クラウド依存から脱却してローカルで完結させたい勢には最高の選択肢になりそう
去年出てたらいくらだったんだろうなぁ…
コレ2つ繋げてメモリ増やせないならSparkの方が拡張性あるんよね。遅くても。/↑200Gbで繋がるとは知らんかった。ありがとう!そうなると俄然ありだなあ-無かった…10G接続だと厳しい。
399ドルに空目して目をこすったがそんなことはなかった
↓当然Ryzen AI Haloも、そしてMac Studioだって複数台繋がりクラスタ構成組める。MINISFORUMが4台繋げてDeepSeekを稼働させていたデモとかあるだろう。DGX Sparkの半値以下で手にはいるのだから5個ぐらい買おうぜ
お値段がミニじゃないな
ユニファイドメモリはバンド幅が狭く小太りなおじさんには苦しいフィット感
問題はキチンと流通できるかだと思うのね。発表したは良いがメモリが足りるのかと。少なくともニーズに足りるほどは出せなさそう
AMDのAI開発用ミニPC「Ryzen AI Halo」、価格は3,999ドルから
Localでそれなりに大きなモデル動かせるマシンが続々と出てくるな。まぁCuda使える点で言えばまだDGX Spark系マシンにアドバンテージあるのかな。今後はユニファイドメモリが標準形になるのかもね。
128GBのユニファイドメモリでローカルLLM動かせるのロマンあるな。クラウド依存から脱却してローカルで完結させたい勢には最高の選択肢になりそう
去年出てたらいくらだったんだろうなぁ…
コレ2つ繋げてメモリ増やせないならSparkの方が拡張性あるんよね。遅くても。/↑200Gbで繋がるとは知らんかった。ありがとう!そうなると俄然ありだなあ-無かった…10G接続だと厳しい。
399ドルに空目して目をこすったがそんなことはなかった
↓当然Ryzen AI Haloも、そしてMac Studioだって複数台繋がりクラスタ構成組める。MINISFORUMが4台繋げてDeepSeekを稼働させていたデモとかあるだろう。DGX Sparkの半値以下で手にはいるのだから5個ぐらい買おうぜ
お値段がミニじゃないな
ユニファイドメモリはバンド幅が狭く小太りなおじさんには苦しいフィット感
問題はキチンと流通できるかだと思うのね。発表したは良いがメモリが足りるのかと。少なくともニーズに足りるほどは出せなさそう