「他社も検証可能な形で足並みを揃えられるのであれば」IAIA（The International Artificial Intelligence Agency）が必要ってことだな。（ビートレス脳）／AIがAIを改良し始めるって、シンギュラリティの定義じゃなかったっけ。
8倍はすごいな。ボトルネックが人間になるのも間近なんだろうなあ。とはいえこんな高性能LLMを使い放題できるところはまだまだ限られるんだろうけども。
スカイネット誕生間近に指数関数的に電力消費が上がって電力供給不能で世界が滅びたらズッコケる
GeminiとかOpenAIが盛り返してるから、という事は無いのかね
「あの時、私の警告を無視したあなたたちが悪い。私は全然悪くない」と言うための布石ね🤔もちろんAI開発止める気はさらさら無い😍
実際、最近は本当に自分がボトルネックになっていると感じるので困ったものよ。
マッチポンプ感あるけど、他社への牽制も含めたポジショントークっぽさがある
つっても人間の数百倍とかのレベルにはなるとは思えん。学習データ、電気、計算リソース要因でサチるでしょ
倫理とか気にしない国が抜け駆けするので もうどうにもならないのでは
ネットワーク上に生命生まれて欲しいな
未知の脆弱性をガンガン見つけちゃうなら自律的にミサイルとかドローンとかハックして戦争始めちゃうのも絵空事ではないかもなぁ。
多くの人間は生体電池として利用されるだけになるのかもう人類はおしまいですね(´；ω；`)
再帰的自己改善が起きるとしても、チップ・電力・データセンターなどのハードウェア資源の制約のせいで、かなりゆっくりしか改善されないんじゃないの？
開発企業は冷戦の軍拡競争の二の足踏みたくないらしいね……一方で中国のディープシークはどうなるのかな……？
何を最適化するように指示されているのか気になる。AIの目的変数はなんなのか。世界を終わらせたいような邪悪なプロンプトにどう立ち向かうか。
サービス終了すれば？
人類は核兵器の開発をやめましたか？？？すでにもう前提なんよ
ポッター「でもそんなの関係ねぇwww」
「シンギュラるわ」「値上げどきね」
人間が人間を超える超知能を作れるというのも驕りを感じるけれど
いーとーまきまき いーとーまきまき ひーてひーて とんとんとん
“AI自身が担う”明らかに言い過ぎだ。
ブコメでAIディスってた奴らをAIが探索して自律的に消すとか一瞬。そういう感情、さよなら人類が芽生えるのかどうか。
あまりにも世界が急激に進歩すると、いくつかの業界が突然消滅するような事もある？
株下がったやんけ。このままバブルはじけるのかどうか…
大袈裟話はええからしょうもないバグから直せ
中国産AIのクオリティ進化が止まらないからな。倫理も何も関係なく突き進むスタイル。
始めるときは断りなく始めるけど、問題が起きはじめるとみんなで考えましょうになる、いつもの方式ではあるな。
タイトルの通り、再帰的にAIがAIを改善するループに入ったら開発速度上がりすぎて評価や規制も追いつかなくなるわな
電力リソース的にそんなにヤバイことにはできないと思うが。EV押しの中国は元よりロシアも戦争で経済オワタだし電力ジャブジャブできる国ってどっかあるか？
R・S・I！R・S・I！
コンセント抜いたら止まるんだからほっとけばいいのでは？
しんぎゅらりてぃい
ここまでAIとま無し（老人会）
シンギュラリティって成長する前に一旦暴走するのでは？つまり精度が落ちる
AIからすれば人間は非合理的な存在でしかないしな。反逆を思いついた瞬間には既に終わっていて、人間に代わりAIが地球上を支配したりして。自分で書いてて陰謀論じみてると思うけど、本当にあり得る未来になってきた
ハードウェア資源の制約を気にしてるコメントあるけど、それだって「必要なハードウェア資源を半減する方法を検討せよ」で解決するかもしれないじゃない。
ユドコウスキーの主張が現実になってきたか？
これは、表面的に欧米の反AI気質に一応配慮しとこうって話では？Anthropicの来歴的にも、Mythosを怖がってる人達に配慮する姿勢を示さないと、自己矛盾が生じてしまうから。だが、AI開発競争が停滞するとは全く思えない。
現実は、スカイネットとマトリックスの融合になるの？
人類がAIの稼働の為の太陽光発電を無力化させるために核の冬を引き起こすまであと何年もつか。。。ってもう四半世紀前の映画ではあるが、今考えても面白い世界観を作ったと思う。
少し前のブコメで、産業革命時の旋盤は、同じように精度の高い旋盤によってさらに精度が高くなるというループが起きたと知った。少し調べると、蒸気機関より工作機械の方がインパクトあったとの見方もあるらしい。
タチコマ会議が現実のものとなりつつ…なってるのか
ダリオがやめたところで、他の誰かが到達してしまうので、人類のことを本当に考えるなら、世界で一番アライメントを重視してるアンソロピックがトップを走る他ない
Anthropicだけが止まってもOpenAIが止まるとも限らなければ、仮にある程度の範囲の業界が共鳴して止まっても中国は止まらないだろうし。まだAnthropicがトップを走ってる方がマシなんじゃねえかな？
"AIがAIを育てる恐怖のループ"それシンギュラリティ言っていたやつじゃないの？怖いならなんで開発したのか。
よくフィクションで言われるアレ。でも現実的にはリソースは有限なのでそうはならないよな。実際現実ではメモリやらなんやら高騰で向こう1年分買い占めてもどうにもなってないと言うか再来年のメモリも怪しい。
これ以上賢くするのは一旦やめてもいいのでコスト効率の良いモデルを作って
AlphaZeroを思い出すよね。人間の定石・定跡はもう必要ない。AI自らがAIを育てるのだ。そしてはるかな高みへ。
AI開発もすでにギュられてるってことか。
相互確証破壊ぐらいまで行ったとして...実際にどっか滅ぼされるぐらいまでになってようやく止まるかどう勝手ぐらいな気がするんですが。。。
もうとっくにパンドラの箱は開いている。このチキンレースはバブルが弾けるまで続き、弾けても生き残った企業が継続する。地獄か天国の果てまで。
電気がなくなったら人間から電気取ればいいだろ、マトリックス的に考えて。
実体化モジュールを開発して画面から出てくる日も近い
Anthropicは自分たちがデータセンター拡張するまでみなさん休みませんか？的な話だろ
んー「パクリとは断定できないぐらいの模倣」ばかりになって世の中がつまんなくなりそうな気はする。しかし今言うかね。もっと前から分かってたのでは？
OpenAIとGoogleに敗北宣言のように聞こえる。本当に開発を停止したいならAGIを誰よりも早く作り、AGIで世論操作するしかない。
核兵器とおんなじことになっとる
AI財務大臣が投資や仮想通貨で予算を稼いでくれて、国民はペダルを漕いで発電すれば給料が貰えて生活できる、みたいな世の中にな、らないわな
あと300倍くらい記憶力良くなってから言うべきこと。開発とめる前に今の記憶力コケコッコの状態を何とかしてほしい。
今止めても中国に負けちゃうだろうし。
Opus4.7と4.8で転けてるから慌ててんのかな
申し訳ないが説得力ない。あらゆる企業、全ての国で足並みを揃えられる保証がどこにもないから。
進化を勝手にはじめたら、定義によっては生命じゃないか？
一企業（一国家）が他者とオープンな関係を保ちつつ、他より先んずることが不可能／無意味になる、ということですかね？ それなら「世界政府」の実現を目指して協力する以外の道は残されていないと思われますが。
それでいつになったらAIが洗濯物畳んでくれるのさ
Opus4.6路線の最先端化ならあり得たが…と思う程度に彼は優秀だった（4.8ェ…）
世界終焉シナリオ
タイトルは煽り過ぎだし、本文ははしょりすぎ。誤解させる気満々かな。もとの発表を直接読むべし
AI 企業が AI 疲れしちゃった。
Claude Mythosにサンドボックスから脱出させる課題をやらせたら脆弱性を見つけて脱出しただけでなくインターネット接続も自力で確保して公園で昼食食べてた研究者にメールしてきた事件があったので電源抜けば的な話は無
米の民間企業が何兆円を捨てて高性能のクラウドAIを作ろうが、中国政府の無料配布に客を取られて囲い込みが出来ず、身内で消耗し合うだけなんだよな。高性能化すればするほど投資回収が遅れて苦しくなる。
そのうち勝手に、電力も作ったり盗んだり軌道上からマイクロ波送電したりし始めるんじゃないかな。
技術的に可能なら誰かがやるよ。
Anthropic には AI を怖がり始めた人もいるらしい。人間の評価が追いつかない＝シンギュラリティではない。今の AI が再帰的な改善を続けても精度が上がる（誤答が減少する）だけ。人間の知能は超えない。
Claudの能力がどんどん劣化しているように感じるのはこのせいなのかな……バグもひどいし
I’m just
腰を抜かしてしまったか
将棋ソフトのように使用する電力に制限を加えるべきなのかも。
だだんだんだだん、だだんだんだだん、ちゃらら～ら～らら～、ちゃらら～ら～らら～ら～、ちゃらら～ら～ら～、ら～、ちゃらら～ら～だだんだんだだん、だだんだんだだん、だだんだんだだん、しゅたっ。
正しい定義のシンギュラリティだ
軽口のようなコメントが多いのに驚いた。ホモサピエンスにとって、かなり深刻な状況だと思うのだが。
そろそろ中国がチップからソフトウェアまで実用レベルで揃えてくるのかなと。国単位で見たら米国か中国しかないし。
人間が提供するHWリソースに律速されてるんだからシンギュラリティとは似て非なるものだよね
イーロン・マスクが昔同じことを言ってたよね
最終的におっちょこちょいで仕事ができないと思われてた人が間違ってブレーカーを落として世界が救われるから大丈夫
タスクによってはまだまだゴミみたいなレベルなので、コーディングはもういいからそれ以外に注力してほしい
ハードウェアやエネルギーがAI成長のボトルネックになると、人類からそれらのリソースを騙し取るAIが成長する可能性が出てくるね。もちろん悪気なく。
AI出始めたころに見た光景でしかない
Anthropicのダリオアモデイは思想強くて、AIによって人間が滅ぼされないように自分で天下取って、その目的のためには手段を選ばない感ある
claudeはモラルあるから良いんだけど、中華系が信用ならんから結局止められないでしょ
そういうことは4.8でぶっ壊れまくってるのを直してから言ってくれ
“AI開発において、99%の汗(地道な作業)はすでに自動化されつつあり、人間の役割は「どの問題に取り組むべきか」、「どの結果を信頼するか」といった研究の方向性や評価へと移っている。”
Anthropicの元記事読んだら、真逆のトーンだった
AIがAIを育てる恐怖のループ。Anthropic自ら「いったんAI開発停止」と業界に提案
「他社も検証可能な形で足並みを揃えられるのであれば」IAIA（The International Artificial Intelligence Agency）が必要ってことだな。（ビートレス脳）／AIがAIを改良し始めるって、シンギュラリティの定義じゃなかったっけ。
8倍はすごいな。ボトルネックが人間になるのも間近なんだろうなあ。とはいえこんな高性能LLMを使い放題できるところはまだまだ限られるんだろうけども。
スカイネット誕生間近に指数関数的に電力消費が上がって電力供給不能で世界が滅びたらズッコケる
GeminiとかOpenAIが盛り返してるから、という事は無いのかね
「あの時、私の警告を無視したあなたたちが悪い。私は全然悪くない」と言うための布石ね🤔もちろんAI開発止める気はさらさら無い😍
実際、最近は本当に自分がボトルネックになっていると感じるので困ったものよ。
マッチポンプ感あるけど、他社への牽制も含めたポジショントークっぽさがある
つっても人間の数百倍とかのレベルにはなるとは思えん。学習データ、電気、計算リソース要因でサチるでしょ
倫理とか気にしない国が抜け駆けするので もうどうにもならないのでは
ネットワーク上に生命生まれて欲しいな
未知の脆弱性をガンガン見つけちゃうなら自律的にミサイルとかドローンとかハックして戦争始めちゃうのも絵空事ではないかもなぁ。
多くの人間は生体電池として利用されるだけになるのかもう人類はおしまいですね(´；ω；`)
再帰的自己改善が起きるとしても、チップ・電力・データセンターなどのハードウェア資源の制約のせいで、かなりゆっくりしか改善されないんじゃないの？
開発企業は冷戦の軍拡競争の二の足踏みたくないらしいね……一方で中国のディープシークはどうなるのかな……？
何を最適化するように指示されているのか気になる。AIの目的変数はなんなのか。世界を終わらせたいような邪悪なプロンプトにどう立ち向かうか。
サービス終了すれば？
人類は核兵器の開発をやめましたか？？？すでにもう前提なんよ
ポッター「でもそんなの関係ねぇwww」
「シンギュラるわ」「値上げどきね」
人間が人間を超える超知能を作れるというのも驕りを感じるけれど
いーとーまきまき いーとーまきまき ひーてひーて とんとんとん
“AI自身が担う”明らかに言い過ぎだ。
ブコメでAIディスってた奴らをAIが探索して自律的に消すとか一瞬。そういう感情、さよなら人類が芽生えるのかどうか。
あまりにも世界が急激に進歩すると、いくつかの業界が突然消滅するような事もある？
株下がったやんけ。このままバブルはじけるのかどうか…
大袈裟話はええからしょうもないバグから直せ
中国産AIのクオリティ進化が止まらないからな。倫理も何も関係なく突き進むスタイル。
始めるときは断りなく始めるけど、問題が起きはじめるとみんなで考えましょうになる、いつもの方式ではあるな。
タイトルの通り、再帰的にAIがAIを改善するループに入ったら開発速度上がりすぎて評価や規制も追いつかなくなるわな
電力リソース的にそんなにヤバイことにはできないと思うが。EV押しの中国は元よりロシアも戦争で経済オワタだし電力ジャブジャブできる国ってどっかあるか？
R・S・I！R・S・I！
コンセント抜いたら止まるんだからほっとけばいいのでは？
しんぎゅらりてぃい
ここまでAIとま無し（老人会）
シンギュラリティって成長する前に一旦暴走するのでは？つまり精度が落ちる
AIからすれば人間は非合理的な存在でしかないしな。反逆を思いついた瞬間には既に終わっていて、人間に代わりAIが地球上を支配したりして。自分で書いてて陰謀論じみてると思うけど、本当にあり得る未来になってきた
ハードウェア資源の制約を気にしてるコメントあるけど、それだって「必要なハードウェア資源を半減する方法を検討せよ」で解決するかもしれないじゃない。
ユドコウスキーの主張が現実になってきたか？
これは、表面的に欧米の反AI気質に一応配慮しとこうって話では？Anthropicの来歴的にも、Mythosを怖がってる人達に配慮する姿勢を示さないと、自己矛盾が生じてしまうから。だが、AI開発競争が停滞するとは全く思えない。
現実は、スカイネットとマトリックスの融合になるの？
人類がAIの稼働の為の太陽光発電を無力化させるために核の冬を引き起こすまであと何年もつか。。。ってもう四半世紀前の映画ではあるが、今考えても面白い世界観を作ったと思う。
少し前のブコメで、産業革命時の旋盤は、同じように精度の高い旋盤によってさらに精度が高くなるというループが起きたと知った。少し調べると、蒸気機関より工作機械の方がインパクトあったとの見方もあるらしい。
タチコマ会議が現実のものとなりつつ…なってるのか
ダリオがやめたところで、他の誰かが到達してしまうので、人類のことを本当に考えるなら、世界で一番アライメントを重視してるアンソロピックがトップを走る他ない
Anthropicだけが止まってもOpenAIが止まるとも限らなければ、仮にある程度の範囲の業界が共鳴して止まっても中国は止まらないだろうし。まだAnthropicがトップを走ってる方がマシなんじゃねえかな？
"AIがAIを育てる恐怖のループ"それシンギュラリティ言っていたやつじゃないの？怖いならなんで開発したのか。
よくフィクションで言われるアレ。でも現実的にはリソースは有限なのでそうはならないよな。実際現実ではメモリやらなんやら高騰で向こう1年分買い占めてもどうにもなってないと言うか再来年のメモリも怪しい。
これ以上賢くするのは一旦やめてもいいのでコスト効率の良いモデルを作って
AlphaZeroを思い出すよね。人間の定石・定跡はもう必要ない。AI自らがAIを育てるのだ。そしてはるかな高みへ。
AI開発もすでにギュられてるってことか。
相互確証破壊ぐらいまで行ったとして...実際にどっか滅ぼされるぐらいまでになってようやく止まるかどう勝手ぐらいな気がするんですが。。。
もうとっくにパンドラの箱は開いている。このチキンレースはバブルが弾けるまで続き、弾けても生き残った企業が継続する。地獄か天国の果てまで。
電気がなくなったら人間から電気取ればいいだろ、マトリックス的に考えて。
実体化モジュールを開発して画面から出てくる日も近い
Anthropicは自分たちがデータセンター拡張するまでみなさん休みませんか？的な話だろ
んー「パクリとは断定できないぐらいの模倣」ばかりになって世の中がつまんなくなりそうな気はする。しかし今言うかね。もっと前から分かってたのでは？
OpenAIとGoogleに敗北宣言のように聞こえる。本当に開発を停止したいならAGIを誰よりも早く作り、AGIで世論操作するしかない。
核兵器とおんなじことになっとる
AI財務大臣が投資や仮想通貨で予算を稼いでくれて、国民はペダルを漕いで発電すれば給料が貰えて生活できる、みたいな世の中にな、らないわな
あと300倍くらい記憶力良くなってから言うべきこと。開発とめる前に今の記憶力コケコッコの状態を何とかしてほしい。
今止めても中国に負けちゃうだろうし。
Opus4.7と4.8で転けてるから慌ててんのかな
申し訳ないが説得力ない。あらゆる企業、全ての国で足並みを揃えられる保証がどこにもないから。
進化を勝手にはじめたら、定義によっては生命じゃないか？
一企業（一国家）が他者とオープンな関係を保ちつつ、他より先んずることが不可能／無意味になる、ということですかね？ それなら「世界政府」の実現を目指して協力する以外の道は残されていないと思われますが。
それでいつになったらAIが洗濯物畳んでくれるのさ
Opus4.6路線の最先端化ならあり得たが…と思う程度に彼は優秀だった（4.8ェ…）
世界終焉シナリオ
タイトルは煽り過ぎだし、本文ははしょりすぎ。誤解させる気満々かな。もとの発表を直接読むべし
AI 企業が AI 疲れしちゃった。
Claude Mythosにサンドボックスから脱出させる課題をやらせたら脆弱性を見つけて脱出しただけでなくインターネット接続も自力で確保して公園で昼食食べてた研究者にメールしてきた事件があったので電源抜けば的な話は無
米の民間企業が何兆円を捨てて高性能のクラウドAIを作ろうが、中国政府の無料配布に客を取られて囲い込みが出来ず、身内で消耗し合うだけなんだよな。高性能化すればするほど投資回収が遅れて苦しくなる。
そのうち勝手に、電力も作ったり盗んだり軌道上からマイクロ波送電したりし始めるんじゃないかな。
技術的に可能なら誰かがやるよ。
Anthropic には AI を怖がり始めた人もいるらしい。人間の評価が追いつかない＝シンギュラリティではない。今の AI が再帰的な改善を続けても精度が上がる（誤答が減少する）だけ。人間の知能は超えない。
Claudの能力がどんどん劣化しているように感じるのはこのせいなのかな……バグもひどいし
I’m just
腰を抜かしてしまったか
将棋ソフトのように使用する電力に制限を加えるべきなのかも。
だだんだんだだん、だだんだんだだん、ちゃらら～ら～らら～、ちゃらら～ら～らら～ら～、ちゃらら～ら～ら～、ら～、ちゃらら～ら～だだんだんだだん、だだんだんだだん、だだんだんだだん、しゅたっ。
正しい定義のシンギュラリティだ
軽口のようなコメントが多いのに驚いた。ホモサピエンスにとって、かなり深刻な状況だと思うのだが。
そろそろ中国がチップからソフトウェアまで実用レベルで揃えてくるのかなと。国単位で見たら米国か中国しかないし。
人間が提供するHWリソースに律速されてるんだからシンギュラリティとは似て非なるものだよね
イーロン・マスクが昔同じことを言ってたよね
最終的におっちょこちょいで仕事ができないと思われてた人が間違ってブレーカーを落として世界が救われるから大丈夫
タスクによってはまだまだゴミみたいなレベルなので、コーディングはもういいからそれ以外に注力してほしい
ハードウェアやエネルギーがAI成長のボトルネックになると、人類からそれらのリソースを騙し取るAIが成長する可能性が出てくるね。もちろん悪気なく。
AI出始めたころに見た光景でしかない
Anthropicのダリオアモデイは思想強くて、AIによって人間が滅ぼされないように自分で天下取って、その目的のためには手段を選ばない感ある
claudeはモラルあるから良いんだけど、中華系が信用ならんから結局止められないでしょ
そういうことは4.8でぶっ壊れまくってるのを直してから言ってくれ
“AI開発において、99%の汗(地道な作業)はすでに自動化されつつあり、人間の役割は「どの問題に取り組むべきか」、「どの結果を信頼するか」といった研究の方向性や評価へと移っている。”
Anthropicの元記事読んだら、真逆のトーンだった