テクノロジー

mesh-llm：余っているPCのGPUを束ねて巨大LLMを動かす分散推論の新アプローチ - Qiita
2026/04/12 07:47 コメント 5件
1: nguyen-oi 2026/04/13 07:02

MoEなら通信なしでいけるのデカいな。余った旧世代GPUの墓場が捗りそう

2: honeybe 2026/04/13 08:17

おぉ…

3: beeeyond 2026/04/13 08:55

GPU2枚差し(両方ともPCI-exp 4.0 x8接続、チップセットを経由しない)を試してGPU間の通信に足引っ張られて案外速度でなかったけど、こっちはどういう仕組みで実用的なんだろう。知らないだけでいい同期の方法がある?

4: runeharst 2026/04/13 08:58

使ってないPS4とかもそのうち繋ぐだけで、使えるようになったらエコだな

5: rxh 2026/04/13 09:36

おもしろい！