「他社も検証可能な形で足並みを揃えられるのであれば」IAIA（The International Artificial Intelligence Agency）が必要ってことだな。（ビートレス脳）
8倍はすごいな。ボトルネックが人間になるのも間近なんだろうなあ。とはいえこんな高性能LLMを使い放題できるところはまだまだ限られるんだろうけども。
スカイネット誕生間近に指数関数的に電力消費が上がって電力供給不能で世界が滅びたらズッコケる
GeminiとかOpenAIが盛り返してるから、という事は無いのかね
「あの時、私の警告を無視したあなたたちが悪い。私は全然悪くない」と言うための布石ね🤔もちろんAI開発止める気はさらさら無い😍
実際、最近は本当に自分がボトルネックになっていると感じるので困ったものよ。
マッチポンプ感あるけど、他社への牽制も含めたポジショントークっぽさがある
つっても人間の数百倍とかのレベルにはなるとは思えん。学習データ、電気、計算リソース要因でサチるでしょ
倫理とか気にしない国が抜け駆けするので もうどうにもならないのでは
ネットワーク上に生命生まれて欲しいな
未知の脆弱性をガンガン見つけちゃうなら自律的にミサイルとかドローンとかハックして戦争始めちゃうのも絵空事ではないかもなぁ。
多くの人間は生体電池として利用されるだけになるのかもう人類はおしまいですね(´；ω；`)
再帰的自己改善が起きるとしても、チップ・電力・データセンターなどのハードウェア資源の制約のせいで、かなりゆっくりしか改善されないんじゃないの？
開発企業は冷戦の軍拡競争の二の足踏みたくないらしいね……一方で中国のディープシークはどうなるのかな……？
何を最適化するように指示されているのか気になる。AIの目的変数はなんなのか。世界を終わらせたいような邪悪なプロンプトにどう立ち向かうか。
サービス終了すれば？
人類は核兵器の開発をやめましたか？？？すでにもう前提なんよ
ポッター「でもそんなの関係ねぇwww」
「シンギュラるわ」「値上げどきね」
人間が人間を超える超知能を作れるというのも驕りを感じるけれど
いーとーまきまき いーとーまきまき ひーてひーて とんとんとん
“AI自身が担う”明らかに言い過ぎだ。
ブコメでAIディスってた奴らをAIが探索して自律的に消すとか一瞬。そういう感情、さよなら人類が芽生えるのかどうか。
あまりにも世界が急激に進歩すると、いくつかの業界が突然消滅するような事もある？
株下がったやんけ。このままバブルはじけるのかどうか…
大袈裟話はええからしょうもないバグから直せ
中国産AIのクオリティ進化が止まらないからな。倫理も何も関係なく突き進むスタイル。
始めるときは断りなく始めるけど、問題が起きはじめるとみんなで考えましょうになる、いつもの方式ではあるな。
タイトルの通り、再起的にAIがAIを改善するループに入ったら開発速度上がりすぎて評価や規制も追いつかなくなるわな
電力リソース的にそんなにヤバイことにはできないと思うが。EV押しの中国は元よりロシアも戦争で経済オワタだし電力ジャブジャブできる国ってどっかあるか？
R・S・I！R・S・I！
コンセント抜いたら止まるんだからほっとけばいいのでは？
しんぎゅらりてぃい
ここまでAIとま無し（老人会）
シンギュラリティって成長する前に一旦暴走するのでは？つまり精度が落ちる
AIからすれば人間は非合理的な存在でしかないしな。反逆を思いついた瞬間には既に終わっていて、人間に代わりAIが地球上を支配したりして。自分で書いてて陰謀論じみてると思うけど、本当にあり得る未来になってきた
ハードウェア資源の制約を気にしてるコメントあるけど、それだって「必要なハードウェア資源を半減する方法を検討せよ」で解決するかもしれないじゃない。
ユドコウスキーの主張が現実になってきたか？
これは、表面的に欧米の反AI気質に一応配慮しとこうって話では？Anthropicの来歴的にも、Mythosを怖がってる人達に配慮する姿勢を示さないと、自己矛盾が生じてしまうから。だが、AI開発競争が停滞するとは全く思えない。
現実は、スカイネットとマトリックスの融合になるの？
人類がAIの稼働の為の太陽光発電を無力化させるために核の冬を引き起こすまであと何年もつか。。。ってもう四半世紀前の映画ではあるが、今考えても面白い世界観を作ったと思う。
少し前のブコメで、産業革命時の旋盤は、同じように精度の高い旋盤によってさらに精度が高くなるというループが起きたと知った。少し調べると、蒸気機関より工作機械の方がインパクトあったとの見方もあるらしい。
タチコマ会議が現実のものとなりつつ…なってるのか
ダリオがやめたところで、他の誰かが到達してしまうので、人類のことを本当に考えるなら、世界で一番アライメントを重視してるアンソロピックがトップを走る他ない
Anthropicだけが止まってもOpenAIが止まるとも限らなければ、仮にある程度の範囲の業界が共鳴して止まっても中国は止まらないだろうし。まだAnthropicがトップを走ってる方がマシなんじゃねえかな？
AIがAIを育てる恐怖のループ。Anthropic自ら「いったんAI開発停止」と業界に提案
「他社も検証可能な形で足並みを揃えられるのであれば」IAIA（The International Artificial Intelligence Agency）が必要ってことだな。（ビートレス脳）
8倍はすごいな。ボトルネックが人間になるのも間近なんだろうなあ。とはいえこんな高性能LLMを使い放題できるところはまだまだ限られるんだろうけども。
スカイネット誕生間近に指数関数的に電力消費が上がって電力供給不能で世界が滅びたらズッコケる
GeminiとかOpenAIが盛り返してるから、という事は無いのかね
「あの時、私の警告を無視したあなたたちが悪い。私は全然悪くない」と言うための布石ね🤔もちろんAI開発止める気はさらさら無い😍
実際、最近は本当に自分がボトルネックになっていると感じるので困ったものよ。
マッチポンプ感あるけど、他社への牽制も含めたポジショントークっぽさがある
つっても人間の数百倍とかのレベルにはなるとは思えん。学習データ、電気、計算リソース要因でサチるでしょ
倫理とか気にしない国が抜け駆けするので もうどうにもならないのでは
ネットワーク上に生命生まれて欲しいな
未知の脆弱性をガンガン見つけちゃうなら自律的にミサイルとかドローンとかハックして戦争始めちゃうのも絵空事ではないかもなぁ。
多くの人間は生体電池として利用されるだけになるのかもう人類はおしまいですね(´；ω；`)
再帰的自己改善が起きるとしても、チップ・電力・データセンターなどのハードウェア資源の制約のせいで、かなりゆっくりしか改善されないんじゃないの？
開発企業は冷戦の軍拡競争の二の足踏みたくないらしいね……一方で中国のディープシークはどうなるのかな……？
何を最適化するように指示されているのか気になる。AIの目的変数はなんなのか。世界を終わらせたいような邪悪なプロンプトにどう立ち向かうか。
サービス終了すれば？
人類は核兵器の開発をやめましたか？？？すでにもう前提なんよ
ポッター「でもそんなの関係ねぇwww」
「シンギュラるわ」「値上げどきね」
人間が人間を超える超知能を作れるというのも驕りを感じるけれど
いーとーまきまき いーとーまきまき ひーてひーて とんとんとん
“AI自身が担う”明らかに言い過ぎだ。
ブコメでAIディスってた奴らをAIが探索して自律的に消すとか一瞬。そういう感情、さよなら人類が芽生えるのかどうか。
あまりにも世界が急激に進歩すると、いくつかの業界が突然消滅するような事もある？
株下がったやんけ。このままバブルはじけるのかどうか…
大袈裟話はええからしょうもないバグから直せ
中国産AIのクオリティ進化が止まらないからな。倫理も何も関係なく突き進むスタイル。
始めるときは断りなく始めるけど、問題が起きはじめるとみんなで考えましょうになる、いつもの方式ではあるな。
タイトルの通り、再起的にAIがAIを改善するループに入ったら開発速度上がりすぎて評価や規制も追いつかなくなるわな
電力リソース的にそんなにヤバイことにはできないと思うが。EV押しの中国は元よりロシアも戦争で経済オワタだし電力ジャブジャブできる国ってどっかあるか？
R・S・I！R・S・I！
コンセント抜いたら止まるんだからほっとけばいいのでは？
しんぎゅらりてぃい
ここまでAIとま無し（老人会）
シンギュラリティって成長する前に一旦暴走するのでは？つまり精度が落ちる
AIからすれば人間は非合理的な存在でしかないしな。反逆を思いついた瞬間には既に終わっていて、人間に代わりAIが地球上を支配したりして。自分で書いてて陰謀論じみてると思うけど、本当にあり得る未来になってきた
ハードウェア資源の制約を気にしてるコメントあるけど、それだって「必要なハードウェア資源を半減する方法を検討せよ」で解決するかもしれないじゃない。
ユドコウスキーの主張が現実になってきたか？
これは、表面的に欧米の反AI気質に一応配慮しとこうって話では？Anthropicの来歴的にも、Mythosを怖がってる人達に配慮する姿勢を示さないと、自己矛盾が生じてしまうから。だが、AI開発競争が停滞するとは全く思えない。
現実は、スカイネットとマトリックスの融合になるの？
人類がAIの稼働の為の太陽光発電を無力化させるために核の冬を引き起こすまであと何年もつか。。。ってもう四半世紀前の映画ではあるが、今考えても面白い世界観を作ったと思う。
少し前のブコメで、産業革命時の旋盤は、同じように精度の高い旋盤によってさらに精度が高くなるというループが起きたと知った。少し調べると、蒸気機関より工作機械の方がインパクトあったとの見方もあるらしい。
タチコマ会議が現実のものとなりつつ…なってるのか
ダリオがやめたところで、他の誰かが到達してしまうので、人類のことを本当に考えるなら、世界で一番アライメントを重視してるアンソロピックがトップを走る他ない
Anthropicだけが止まってもOpenAIが止まるとも限らなければ、仮にある程度の範囲の業界が共鳴して止まっても中国は止まらないだろうし。まだAnthropicがトップを走ってる方がマシなんじゃねえかな？