Oracle は AWS や Microsoft と違って自前の AI チップを作っていないんで(昔は SPARC 作っていたのにね)、競合しないという意味で、外販先として選びやすいんだろうなぁ
GPUのトークンコストと電気代が高すぎるからTPU外販と連携は自然な流れだな
推論だけならコストパフォーマンス良いんだろうね
一瞬、虚構かと思った、なぜかは自分でもわからない
既存のコード修正を最小化したいならそうだけど、AIコーディングの今なら、ARMのSoCかな?とも思う素人。
oracleが安くなってもoracleは使わないよな
問題はストレージにRAM周り、これは今のところどんなに逃げても付いて回る
結局どのくらいの電力使うんだろう。MSのMaia 300もそうだったけど異世界すぎる。
〈AIアクセラレータであるTPU(Tensor Processing Unit)を採用〉ど素人なので、AIがAIを使って演算してるようなイメージが浮かんでしまった。
膨大な過去のCUDA資産が優位なうちはNVIDAの牙城は崩せん罠。とはいえ、どの企業も脱NVIDIA依存を達成したいと頑張ってる道半ばな雰囲気はある
脱GPUしたいだけであってできるかは別の話だわな 結局高速なRAMが必要な状況からは逃げられないんだから
スマホ用としてはTensorは評判悪いが、なるほど。 GPUは当初の意図とは違う使われ方ではあるので、電気代考えると専用の方が有利かも。
AIのアルゴリズムもまだ固定してない。今後トランスフォーマー以外も来るし、「生成」でない jev みたいのもまだまだ出るだろうし、それらに TPU が最善とも限らない。どんどん改訂されるだろ。
まぁこうなるよね。AIに特化したインフラになっていく。逆にローカルでやれる事はどんどん限られていく
やっぱりどうも「Google出遅れてる、ざまあ」って感じはしないですね。
アーマードコアの装備のフレーバーテキストみたい。
まあ、本来意図した使い方じゃないからなぁ。
プロセッサの性能が上がっても、RAMがないとだめなのかねぇ//電力消費は減るか?
GPUの取り合いが緩和されてコストがさがるのか、それともGPUとTPUでラインや原料の取り合いになってコストが上がるのか、どう転ぶかな
日本は相撲チップと相撲メモリで巻き返しを目指しましょう。僕は電話とFaxで良いですが
是非この方向で業界が進んで欲しい。AI用途にこれだけ偏向してるのだからグラフィック用途でもあるGPUのちょっとした回路も無駄だろう。そしてGPUは本来のコンシューマー向けに戻って欲しい。
そろそろGPUにグラフィックを描く喜びを思い出させてつかぁさい
2000年代の日本の半導体産業が「ゲーム向け」半導体の成長に激しいアレルギー反応を示して儲かる半導体から我先にと撤退していったのは何だったんだろうな
またもGoogleの一人勝ちになるのかな。。覚える事たくさん
既に言われてるがHBMが必要なのは変わらんし、最新のFabに依存するのも変わらんし、汎用シェーダーよりは「AI向けに」ワッパが高いというだけだが独り勝ちが緩まればVGAへのおこぼれは期待したいが無理だろう
「OCI(Oracle Cloud Infrastructure)が、Google開発のAIアクセラレータであるTPU(Tensor Processing Unit)を採用した」「OCIは特定のプロセッサベンダーには依存しないという戦略をとっており」/はよAIバブルはじけねぇかな(定期)
tpu
推論に全振りすれば少ないトランジスタで低精度演算のスループットを上げまくれるからワットパフォーマンスがよろしくなるという理屈はわかるが……。ゲーミンググラボ100万とゆう狂気の沙汰は是正されてほしい。
設計はブロードコムだし、OpenAIのもブロードコムが作ってるし、結局チューニングと上のソフトの充実度では?
脱GPUが加速、OracleもGoogle製TPUを選択
Oracle は AWS や Microsoft と違って自前の AI チップを作っていないんで(昔は SPARC 作っていたのにね)、競合しないという意味で、外販先として選びやすいんだろうなぁ
GPUのトークンコストと電気代が高すぎるからTPU外販と連携は自然な流れだな
推論だけならコストパフォーマンス良いんだろうね
一瞬、虚構かと思った、なぜかは自分でもわからない
既存のコード修正を最小化したいならそうだけど、AIコーディングの今なら、ARMのSoCかな?とも思う素人。
oracleが安くなってもoracleは使わないよな
問題はストレージにRAM周り、これは今のところどんなに逃げても付いて回る
結局どのくらいの電力使うんだろう。MSのMaia 300もそうだったけど異世界すぎる。
〈AIアクセラレータであるTPU(Tensor Processing Unit)を採用〉ど素人なので、AIがAIを使って演算してるようなイメージが浮かんでしまった。
膨大な過去のCUDA資産が優位なうちはNVIDAの牙城は崩せん罠。とはいえ、どの企業も脱NVIDIA依存を達成したいと頑張ってる道半ばな雰囲気はある
脱GPUしたいだけであってできるかは別の話だわな 結局高速なRAMが必要な状況からは逃げられないんだから
スマホ用としてはTensorは評判悪いが、なるほど。 GPUは当初の意図とは違う使われ方ではあるので、電気代考えると専用の方が有利かも。
AIのアルゴリズムもまだ固定してない。今後トランスフォーマー以外も来るし、「生成」でない jev みたいのもまだまだ出るだろうし、それらに TPU が最善とも限らない。どんどん改訂されるだろ。
まぁこうなるよね。AIに特化したインフラになっていく。逆にローカルでやれる事はどんどん限られていく
やっぱりどうも「Google出遅れてる、ざまあ」って感じはしないですね。
アーマードコアの装備のフレーバーテキストみたい。
まあ、本来意図した使い方じゃないからなぁ。
プロセッサの性能が上がっても、RAMがないとだめなのかねぇ//電力消費は減るか?
GPUの取り合いが緩和されてコストがさがるのか、それともGPUとTPUでラインや原料の取り合いになってコストが上がるのか、どう転ぶかな
日本は相撲チップと相撲メモリで巻き返しを目指しましょう。僕は電話とFaxで良いですが
是非この方向で業界が進んで欲しい。AI用途にこれだけ偏向してるのだからグラフィック用途でもあるGPUのちょっとした回路も無駄だろう。そしてGPUは本来のコンシューマー向けに戻って欲しい。
そろそろGPUにグラフィックを描く喜びを思い出させてつかぁさい
2000年代の日本の半導体産業が「ゲーム向け」半導体の成長に激しいアレルギー反応を示して儲かる半導体から我先にと撤退していったのは何だったんだろうな
またもGoogleの一人勝ちになるのかな。。覚える事たくさん
既に言われてるがHBMが必要なのは変わらんし、最新のFabに依存するのも変わらんし、汎用シェーダーよりは「AI向けに」ワッパが高いというだけだが独り勝ちが緩まればVGAへのおこぼれは期待したいが無理だろう
「OCI(Oracle Cloud Infrastructure)が、Google開発のAIアクセラレータであるTPU(Tensor Processing Unit)を採用した」「OCIは特定のプロセッサベンダーには依存しないという戦略をとっており」/はよAIバブルはじけねぇかな(定期)
tpu
推論に全振りすれば少ないトランジスタで低精度演算のスループットを上げまくれるからワットパフォーマンスがよろしくなるという理屈はわかるが……。ゲーミンググラボ100万とゆう狂気の沙汰は是正されてほしい。
設計はブロードコムだし、OpenAIのもブロードコムが作ってるし、結局チューニングと上のソフトの充実度では?