そろそろ個人向けのAI GPUとかも出て欲しい。既存GPUと大差なくても特化型の何か利点を付けて。グラフィックのためのGPU需要とAIの需要が分割されてグラフィック用GPUの値段が落ち着いてくれないかなと…
新型が出る度に買い替えないと競争に負ける訳で、テック企業も永遠に採算なんか取れないんじゃないのこれ。
グラフィックとは
問題は消費電力と冷却だなぁ……GB200 NVL72(120KW～)よりさらに食うだろうし。
カタログ性能出るならすごいな。既存AI GPUからの置き換え必須だ。
GPU作れよ
TPUと対抗するためAI用GPUのアーキテクチャも変わる。今後GroqのLPU技術も入るなら、いつまでグラフィック用GPUと統一扱いできるか疑問だ。
なんかNVIDIAのチップに対して「自分には手の届かない宝石の話」をされている気分になってきた。いや、AIの進化は喜ばしいから、その点は違うんだけども。
半導体サイズこれ以上小さくできなくムーアの法則も終わった今、GPUの性能向上がなにで起こっているか考えればGPU投資は心配せずともあと数サイクルで自然と落ち着くと思うんだけどなあ。
AIがもっと便利になって、安価な人間用GPUを作ってくれるの待ち、になりそう
微細化が限界に来ると配線の長さとかから規模がデカくなるとクロックが落ちるようになるのかな。それともクロックの概念が変わって違う動きになるのかな。
前世代が無駄になって採算取れないと言っている人がいるが、今も前の世代はバリバリ推論などで活用されていますよ。前の世代が不要になる程GPUは余っていない。
AIが過熱して他の市場が疎かになるの、最高に資本主義って感じだ
最新世代に投資できないとAI負け組と判断される環境では高くても買いに行かざるを得ず、それが嫌なら自社でチップから開発しないととなるのよな...
世界最先端半導体とFP4最適化で性能爆盛
ルビーと関係無かった。
排熱控えめのほどほどのやつを適度な値段で売ってくれ
ローカルLLMでサクサク開発出来るくらいの格安GPUがほしい
そろそろ、スパコンやカーレースのようにグリーン部門を作って、消費電力あたりのスコアで競ってくれたら・・・
そもそも温度高く駆動させているので寿命が早い。3、4年とかと聞いた。リースか、車みたいな中古市場か、そういうのが出来ないとつらそう。納品に時間かかり、納入と同時に次世代機が発表される所もあるのでは
GB300でGB200から1.5倍と聞いててすげぇって思ってたら、そっから1年程度でGB200の5倍のがでちゃうのかー。まぁもともとRubinは去年から言ってた気がするけど
借金漬けでインフラ作りまくって利益もろくに出てないコアウィーブなんかは型落ちインフラ抱えて更新もできず沈んでいくんじゃないの。インフラに巨額投資したオラクルなんかもついていけなさそう。
まだもう2-3年程度は倍々で性能向上が見込めそうだな。2020-2025でも随分世界が変わっちゃったけど、2030で見える世界は更に変わってそう (逆に戦争か何かで全て破綻してる、という可能性もあるが)
人間の脳は糖分でエネルギー補給できる設計で凄いよな。振動パルスの方式ではなく何らかのトリガーで関係部分が動く方式だろうか。今のAI研究知りたい
NVLink6のスイッチに合わせてSpectrum6イーサネットのスイッチも出てきた。GPUのラック間接続がInfiniBandでなくイーサネットの製品を出してくるあたり、スケールアウト性に夢とロマンが生まれるというもの。
「COBOLのおばちゃま」ことGrace CPUも完全に旧モデルへ。トークンあたりコストに電気代は入ってないよねえ
“NVIDIAは、AIデータセンター向けの新型CPUおよびGPUになる「Vera」と「Rubin」を正式発表した。”
常に「コストが…」「電力が…」と言われている事はNVIDIAが一番分かってるか。競合企業が付け入る隙もそこなんだがな。
GPUの定義ってなんなんだろう？
でも、FP16ではなくてFP4での性能が従来比の5倍って事はないよね？
並列演算は変わらなさそうなのでGPUが処理するのも変わらず。
すげえなぁ
マジで一生一緒にエヌビディア状態やな。
頑張ってるとは思うんだけどGPU自体の根本的なブレイクスルーも待ち望まれるなぁ。消費電力とか、発熱とか、価格とか...
何を基準に5倍なのか分からないけどすごそう
Groq効果には早すぎるから違うやつなんだろうな？
もうGPUじゃなくてAI専用のボードを作った方が良くないか？
ね、熱が……。
「AIデータセンター向けの新型CPUおよびGPUになる「Vera」と「Rubin」」「Rubinでは推論時が5倍の50PFLOPS、学習時には3.5倍の35PFLOPSに達する」/いくらで出てくるんだ？消費電力は？
結局はNVIDIAとTSMCしか儲からない業界になってるなあ。GoogleすらAIから継続的に利益出せるか疑義しかないけど、止まったら投資家が見放す
4FPで5倍でも16FPとかだとそこまでではないみたい。なので推論への貢献が特に大きいと。
元プレステ開発者が作る低消費電力のAIチップ(CGLA)の話題を最近見たばかりなのだけど、ワットパフォーマンスでNVIDIAに勝てるのだろうか。
たけーし脱NVIDIAに向けてopenAI Google Amazon Meta はAI用の半導体を独自開発中、これらができてくれば
NVIDIA、従来比性能5倍のAI GPU「Rubin」正式発表。2026年後半に登場
そろそろ個人向けのAI GPUとかも出て欲しい。既存GPUと大差なくても特化型の何か利点を付けて。グラフィックのためのGPU需要とAIの需要が分割されてグラフィック用GPUの値段が落ち着いてくれないかなと…
新型が出る度に買い替えないと競争に負ける訳で、テック企業も永遠に採算なんか取れないんじゃないのこれ。
グラフィックとは
問題は消費電力と冷却だなぁ……GB200 NVL72(120KW～)よりさらに食うだろうし。
カタログ性能出るならすごいな。既存AI GPUからの置き換え必須だ。
GPU作れよ
TPUと対抗するためAI用GPUのアーキテクチャも変わる。今後GroqのLPU技術も入るなら、いつまでグラフィック用GPUと統一扱いできるか疑問だ。
なんかNVIDIAのチップに対して「自分には手の届かない宝石の話」をされている気分になってきた。いや、AIの進化は喜ばしいから、その点は違うんだけども。
半導体サイズこれ以上小さくできなくムーアの法則も終わった今、GPUの性能向上がなにで起こっているか考えればGPU投資は心配せずともあと数サイクルで自然と落ち着くと思うんだけどなあ。
AIがもっと便利になって、安価な人間用GPUを作ってくれるの待ち、になりそう
微細化が限界に来ると配線の長さとかから規模がデカくなるとクロックが落ちるようになるのかな。それともクロックの概念が変わって違う動きになるのかな。
前世代が無駄になって採算取れないと言っている人がいるが、今も前の世代はバリバリ推論などで活用されていますよ。前の世代が不要になる程GPUは余っていない。
AIが過熱して他の市場が疎かになるの、最高に資本主義って感じだ
最新世代に投資できないとAI負け組と判断される環境では高くても買いに行かざるを得ず、それが嫌なら自社でチップから開発しないととなるのよな...
世界最先端半導体とFP4最適化で性能爆盛
ルビーと関係無かった。
排熱控えめのほどほどのやつを適度な値段で売ってくれ
ローカルLLMでサクサク開発出来るくらいの格安GPUがほしい
そろそろ、スパコンやカーレースのようにグリーン部門を作って、消費電力あたりのスコアで競ってくれたら・・・
そもそも温度高く駆動させているので寿命が早い。3、4年とかと聞いた。リースか、車みたいな中古市場か、そういうのが出来ないとつらそう。納品に時間かかり、納入と同時に次世代機が発表される所もあるのでは
GB300でGB200から1.5倍と聞いててすげぇって思ってたら、そっから1年程度でGB200の5倍のがでちゃうのかー。まぁもともとRubinは去年から言ってた気がするけど
借金漬けでインフラ作りまくって利益もろくに出てないコアウィーブなんかは型落ちインフラ抱えて更新もできず沈んでいくんじゃないの。インフラに巨額投資したオラクルなんかもついていけなさそう。
まだもう2-3年程度は倍々で性能向上が見込めそうだな。2020-2025でも随分世界が変わっちゃったけど、2030で見える世界は更に変わってそう (逆に戦争か何かで全て破綻してる、という可能性もあるが)
人間の脳は糖分でエネルギー補給できる設計で凄いよな。振動パルスの方式ではなく何らかのトリガーで関係部分が動く方式だろうか。今のAI研究知りたい
NVLink6のスイッチに合わせてSpectrum6イーサネットのスイッチも出てきた。GPUのラック間接続がInfiniBandでなくイーサネットの製品を出してくるあたり、スケールアウト性に夢とロマンが生まれるというもの。
「COBOLのおばちゃま」ことGrace CPUも完全に旧モデルへ。トークンあたりコストに電気代は入ってないよねえ
“NVIDIAは、AIデータセンター向けの新型CPUおよびGPUになる「Vera」と「Rubin」を正式発表した。”
常に「コストが…」「電力が…」と言われている事はNVIDIAが一番分かってるか。競合企業が付け入る隙もそこなんだがな。
GPUの定義ってなんなんだろう？
でも、FP16ではなくてFP4での性能が従来比の5倍って事はないよね？
並列演算は変わらなさそうなのでGPUが処理するのも変わらず。
すげえなぁ
マジで一生一緒にエヌビディア状態やな。
頑張ってるとは思うんだけどGPU自体の根本的なブレイクスルーも待ち望まれるなぁ。消費電力とか、発熱とか、価格とか...
何を基準に5倍なのか分からないけどすごそう
Groq効果には早すぎるから違うやつなんだろうな？
もうGPUじゃなくてAI専用のボードを作った方が良くないか？
ね、熱が……。
「AIデータセンター向けの新型CPUおよびGPUになる「Vera」と「Rubin」」「Rubinでは推論時が5倍の50PFLOPS、学習時には3.5倍の35PFLOPSに達する」/いくらで出てくるんだ？消費電力は？
結局はNVIDIAとTSMCしか儲からない業界になってるなあ。GoogleすらAIから継続的に利益出せるか疑義しかないけど、止まったら投資家が見放す
4FPで5倍でも16FPとかだとそこまでではないみたい。なので推論への貢献が特に大きいと。
元プレステ開発者が作る低消費電力のAIチップ(CGLA)の話題を最近見たばかりなのだけど、ワットパフォーマンスでNVIDIAに勝てるのだろうか。
たけーし脱NVIDIAに向けてopenAI Google Amazon Meta はAI用の半導体を独自開発中、これらができてくれば