Localでそれなりに大きなモデル動かせるマシンが続々と出てくるな。まぁCuda使える点で言えばまだDGX Spark系マシンにアドバンテージあるのかな。今後はユニファイドメモリが標準形になるのかもね。
128GBのユニファイドメモリでローカルLLM動かせるのロマンあるな。クラウド依存から脱却してローカルで完結させたい勢には最高の選択肢になりそう
去年出てたらいくらだったんだろうなぁ…
コレ2つ繋げてメモリ増やせないならSparkの方が拡張性あるんよね。遅くても。/↑200Gbで繋がるとは知らんかった。ありがとう!そうなると俄然ありだなあ-無かった…10G接続だと厳しい。
399ドルに空目して目をこすったがそんなことはなかった
↓当然Ryzen AI Haloも、そしてMac Studioだって複数台繋がりクラスタ構成組める。MINISFORUMが4台繋げてDeepSeekを稼働させていたデモとかあるだろう。DGX Sparkの半値以下で手にはいるのだから5個ぐらい買おうぜ
お値段がミニじゃないな
ユニファイドメモリはバンド幅が狭く小太りなおじさんには苦しいフィット感
問題はキチンと流通できるかだと思うのね。発表したは良いがメモリが足りるのかと。少なくともニーズに足りるほどは出せなさそう
128GBで70万円くらいか。高いな。メモリとGPUコアの転送速度はどんなもんだろう。→256GB/s つまりLLMで使うなら、RTX 4060 (272 GB/s) のメモリデカい版くらいの認識でいいんだろうか。
DGXはCUDAだけどArm、こいつはx86だけどROCm。この比較だとCUDAを選ぶ人が多そう（こんな日が来るとは）
$4000=63マン。。
AMDがAI開発用ミニPC「Ryzen AI Halo」を6月予約開始、3,999ドルから。Ryzen AI Max+ 395、128GB統合メモリ、Radeon 8060S搭載。次世代機は192GBメモリ予定。
円安パンチが強い
DGX Sparkは200GbEでRDMA over Converged Ethernetできるので、こいつの10GbEのネットワークは弱々。おまけにこれが欲しい人はもうミニPC買ってると思うよ。USB4で2ノード直結はできるはずだが、RDMA使えないだろうなー。
AMDのAI開発用ミニPC「Ryzen AI Halo」、価格は3,999ドルから
Localでそれなりに大きなモデル動かせるマシンが続々と出てくるな。まぁCuda使える点で言えばまだDGX Spark系マシンにアドバンテージあるのかな。今後はユニファイドメモリが標準形になるのかもね。
128GBのユニファイドメモリでローカルLLM動かせるのロマンあるな。クラウド依存から脱却してローカルで完結させたい勢には最高の選択肢になりそう
去年出てたらいくらだったんだろうなぁ…
コレ2つ繋げてメモリ増やせないならSparkの方が拡張性あるんよね。遅くても。/↑200Gbで繋がるとは知らんかった。ありがとう!そうなると俄然ありだなあ-無かった…10G接続だと厳しい。
399ドルに空目して目をこすったがそんなことはなかった
↓当然Ryzen AI Haloも、そしてMac Studioだって複数台繋がりクラスタ構成組める。MINISFORUMが4台繋げてDeepSeekを稼働させていたデモとかあるだろう。DGX Sparkの半値以下で手にはいるのだから5個ぐらい買おうぜ
お値段がミニじゃないな
ユニファイドメモリはバンド幅が狭く小太りなおじさんには苦しいフィット感
問題はキチンと流通できるかだと思うのね。発表したは良いがメモリが足りるのかと。少なくともニーズに足りるほどは出せなさそう
128GBで70万円くらいか。高いな。メモリとGPUコアの転送速度はどんなもんだろう。→256GB/s つまりLLMで使うなら、RTX 4060 (272 GB/s) のメモリデカい版くらいの認識でいいんだろうか。
DGXはCUDAだけどArm、こいつはx86だけどROCm。この比較だとCUDAを選ぶ人が多そう（こんな日が来るとは）
$4000=63マン。。
AMDがAI開発用ミニPC「Ryzen AI Halo」を6月予約開始、3,999ドルから。Ryzen AI Max+ 395、128GB統合メモリ、Radeon 8060S搭載。次世代機は192GBメモリ予定。
円安パンチが強い
DGX Sparkは200GbEでRDMA over Converged Ethernetできるので、こいつの10GbEのネットワークは弱々。おまけにこれが欲しい人はもうミニPC買ってると思うよ。USB4で2ノード直結はできるはずだが、RDMA使えないだろうなー。