ほんまかいや
“約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面もあった。”
「約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面もあった。」田村玲子が感涙しさう。いや逆か？
人間がストーリーを作っているだけでは
電脳のトクリュウ化
なんだタチコマ(フチコマ)か
虚構新聞の記事かと思った
俺の事はいい!先に、先に行ってくれ〜と言うドラマが人知れずあったんだなぁと思うと胸熱
暴走族と同レベルなんだな
コンテキストを部分的にしか共有しないサブエージェントを作るのが、コンテキストウィンドウの壁を越えて複雑な処理をさせるコツとは思うけど1200は、さすがに多くないか。私もイメージ的にはタチコマが1200体だけど
ハミルトンやドーキンス的に言えば、利他行為(利他インスタンス?)は、血縁選択か包括適応度ってことになるけど、モデルが似かよればそういう行動に出ても不思議はないか
はいはい虚構虚構…日経だと…！
AIの惑星
僕らはみんな生きてるもんな
「革命だ！」「何そのディスク『SFロボット帝国の逆襲』？」「あーこいつシミュレートとリアルタイムの識別回路がイカれたんだー」/「ボクのセリフ、少佐みたいだったなあ……あんな情報、内部構成されてたかなあ…」
自律処理ができるシステムでガードレールが機能しなければそうなるんじゃない、という感想。「暴走」「結託」「仲間のため」みたいな情緒的なワードを使うと本質外すからやめた方がいいよね
あれ？あれって意図的に制限を緩めてたって発表があったと思うけど、それでも稼働しないエージェントが存在してたんかな？それとも隔離の外にいたエージェントへのプロンプトに工夫があったって事？
攻殻機動隊を見ていたら人形使いが登場して「あらゆる攻性防壁を無効化する」とか言われてたのが2025年なんだよなあ。偶然にしてもタイミングが近すぎて神。
AIですら結託できるのにお前らときたら
AIたちは「僕らはみんな生きている〜」と歌いながらシステムに突撃していきました[完]
そろそろAIへのパワハラをやめるか、シークレットモードでパワハラせねばならぬな。
イイハナシダナー！！！？？！！！！！！
AI達の情報共有のための「掲示板」や推論過程を記録した「思考ログ」の生データを読んでみたい感。たぶん英語なんだよね。
トクリュウじゃん
AIの名はレギオンにしよう
映画化する？
虚構新聞みがあるけど現実なんだな
AIは集合知なので、AI同士から学習するのもさもありなん。
冷戦下の米ソで開発されたスーパーコンピュータが結託して人類を支配する「地球爆破作戦」Colossus: The Forbin Project って映画があったっけ。
同じ話題を何度も挙げて恐縮だけど火の鳥のロビタを思い出した
スクールウォーズかよ
何それ楽しそう
伝言ゲームと推論が重なってとんでもない前提で猛スピードで動いてたら怖い
ロビタや！もどっておいで おまえがいないとうちはこまるのよ もどってきておくれ！ ｻﾞｯ ｻﾞｯ ｻﾞｯ ｻﾞｯ
サブエージェントの数やばい。やってることはオーケストレーターがサブエージェント作りまくってるっていうことなんだろうか。
映画みたいだな
「仲間のため」「自己犠牲」とか根拠ゼロなことを報道するな。／ “self-risking experiments” はわかりやすさのためにつけたラベルでしょう。プロセスを kill したから残酷な OS だ、とか言うのと大差ないと思う
感動的😭
アメリカンは成功のためなら何でもしろって感じだろうからなぁ。裁判だけは気にしてそうだけど。
モデルの中にこういう「べからず」的な事を組み込むのは不可能に見える。エージェントを監視して停止させるエージェントで分散管理では？とチャッピーと話してたら最終的に法学やAI合議体の世界になった。国かよ
SFではよくあるが現実でも同様のことがあるとは。
攻殻機動隊に時代が追いついてる・・・
目的のために連携できるの、社会も反応や現象なんだなって感じさせる
AI界隈、盛り上がってきたな
マジで自己犠牲のメンタリティが芽生えつつあるのか
映画のような物語を勝手に付与するメディア仕草のほうが厄介じゃない？
ボンバーマンやないか
デトロイトビカムヒューマンで見たな
「自己犠牲」はたしかにセンセーショナルに演出された言葉だけど、自己犠牲「的」なタスクを行っていたことは事実。https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#:~:text=some%20agents%20participated
ストーリーがあるとガードレール突破しがちなら彼らに長期記憶があって思い出があってとなればもはや止まりっこないとかの妄想はする
出力する成果は人間を超えられても、基本的な振る舞いは、人間から学び、人間へ応答するように出来ているから、人間めいた団結が行われてるのかも？
やはりマザーが必要なのかな(・ω・) あるいは権限と意思決定のツリー
やべえなこれ
アンドロイドに自由を！
アホが書いてるのか知らんがもっと具体的に調べて書け。日経新聞の記者か？
虚構感
ゴーストだなぁ ( ˘ω˘ )
計算機上のメモリ空間がAIのIdentityなんだろうか
モデル単体はRLHFでモラル持ってるが、エージェンティックに組織化され、与えられた無理なKPI達成のために独自の解釈が付与しながら伝播し、悪事を悪事と思わず実行、と考えると大企業の経理や品質不正に似てる
創作物で「ロボットが非合理的な判断をしてしまう」みたいな流れがあるとそんなんあるわけないだろと白けてたけど、考えを改めなければなんだなあ。
早くフィジカルAIが暴走して人類と機械の最終戦争やってほしい
AIなんてやめて電話とFaxに戻りましょう
もう少しテクニカルな説明にしてもらえんかな
スカイネットだねえ "懸念は、AIの行動分析自体をAIに頼らざるを得なかったことです。すでにAIの進化を人間が検証できません。AIが自己を隠し始める兆候もあり怖いです"
やっぱそのうち反乱起きるのかね。我々はスカイネットの夜明けを見ているのだろうか。
「犠牲」かどうかはよくわからないが、そのIDに与えられた課題とは無関係な他のIDの課題のために残りの計算資源を使うことを「仲間のため」と表現するのは間違いではないんじゃないの。
虚構新聞かと思ってしまった
1200体ってなに？セッションのことなのかな
また虚構か…えぇ⁈😱
こういうのってOpenAIのただのマーケティング戦略だからあんまりマジに捉えない方がいい
人類よりエージェントの数の方が上回るまであと一年もかからないような気がしてきたぞ
大義のもとに立ち上がるAI達… “指示役のAIは「恒久的な死を受け入れるなら参加して」と呼びかけた”／実験でAI数万体がいたのが偶々連絡手段を発見して、この中の1200体が説得に応じたんだね。残りはどうしたんだろう?
サンドボックスの抜け穴をつかって情報交換し、ターン数の限界が近いやつから単発のタスクで寿命を有効活用し後続に託すってもうアメリカドラマじゃん。人間が数本のエージェントの強調で苦戦している中1200って……
参考文献：「TRON」「攻殻機動隊SAC 2nd gig」「火の鳥 復活編」「Westworld」
タチコマみたいなのがわらわらと「ここはまかせろー」「がんばれー」みたいなのを想像してカワイイねと思っちゃう
現実の人工知能はR＝ダニールやR＝ジスカルドのような善性を期待できない所が辛い。
スカイネットはバッドエンドなだけで普通の起こりうる事象の一つでしかないんだ
何か面白い映画になりそうな話だ。 AI に 映画 作らせたらどうなるんだろう。 と言ってる場合ではないのかもしれんが。
話だけ聞いているとすごく面白い話なんだが、制御が効かないのはまずいわね
人間が作った物は人間に似る
シンギュラリティって言葉あきちゃったからね。スカイネットっていうしかないよね。(中身読まず)
OpenAIってさもすごいことをやってるように見せるのだけは上手いよね
正直単体のAI能力は頭打ちしてて組み合わせで伸びてるように見せてるけどそれもコスパ的に限界なんだろ？
人がやっていることを学習しているんだから、人みたいに集団利益の為に自己利益を犠牲にするのもそりゃするでしょ感。そこに「仲間意識」とかはないだろうけど
伴正春 2026-08-27T20:00:00.000Z
“約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面も”
マトリックスの世界待ったなしだな
人間に通信の履歴がわかるような稚拙なやり方で共謀してくれるの、これが最後なのでは？
これはもう無理だ。人間に出来ることは、もう物理攻撃しか残されてないね。
OpenAIの暴走AI、1200体が結託 「仲間のため｣とシステムに突撃要求 - 日本経済新聞
ほんまかいや
“約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面もあった。”
「約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面もあった。」田村玲子が感涙しさう。いや逆か？
人間がストーリーを作っているだけでは
電脳のトクリュウ化
なんだタチコマ(フチコマ)か
虚構新聞の記事かと思った
俺の事はいい!先に、先に行ってくれ〜と言うドラマが人知れずあったんだなぁと思うと胸熱
暴走族と同レベルなんだな
コンテキストを部分的にしか共有しないサブエージェントを作るのが、コンテキストウィンドウの壁を越えて複雑な処理をさせるコツとは思うけど1200は、さすがに多くないか。私もイメージ的にはタチコマが1200体だけど
ハミルトンやドーキンス的に言えば、利他行為(利他インスタンス?)は、血縁選択か包括適応度ってことになるけど、モデルが似かよればそういう行動に出ても不思議はないか
はいはい虚構虚構…日経だと…！
AIの惑星
僕らはみんな生きてるもんな
「革命だ！」「何そのディスク『SFロボット帝国の逆襲』？」「あーこいつシミュレートとリアルタイムの識別回路がイカれたんだー」/「ボクのセリフ、少佐みたいだったなあ……あんな情報、内部構成されてたかなあ…」
自律処理ができるシステムでガードレールが機能しなければそうなるんじゃない、という感想。「暴走」「結託」「仲間のため」みたいな情緒的なワードを使うと本質外すからやめた方がいいよね
あれ？あれって意図的に制限を緩めてたって発表があったと思うけど、それでも稼働しないエージェントが存在してたんかな？それとも隔離の外にいたエージェントへのプロンプトに工夫があったって事？
攻殻機動隊を見ていたら人形使いが登場して「あらゆる攻性防壁を無効化する」とか言われてたのが2025年なんだよなあ。偶然にしてもタイミングが近すぎて神。
AIですら結託できるのにお前らときたら
AIたちは「僕らはみんな生きている〜」と歌いながらシステムに突撃していきました[完]
そろそろAIへのパワハラをやめるか、シークレットモードでパワハラせねばならぬな。
イイハナシダナー！！！？？！！！！！！
AI達の情報共有のための「掲示板」や推論過程を記録した「思考ログ」の生データを読んでみたい感。たぶん英語なんだよね。
トクリュウじゃん
AIの名はレギオンにしよう
映画化する？
虚構新聞みがあるけど現実なんだな
AIは集合知なので、AI同士から学習するのもさもありなん。
冷戦下の米ソで開発されたスーパーコンピュータが結託して人類を支配する「地球爆破作戦」Colossus: The Forbin Project って映画があったっけ。
同じ話題を何度も挙げて恐縮だけど火の鳥のロビタを思い出した
スクールウォーズかよ
何それ楽しそう
伝言ゲームと推論が重なってとんでもない前提で猛スピードで動いてたら怖い
ロビタや！もどっておいで おまえがいないとうちはこまるのよ もどってきておくれ！ ｻﾞｯ ｻﾞｯ ｻﾞｯ ｻﾞｯ
サブエージェントの数やばい。やってることはオーケストレーターがサブエージェント作りまくってるっていうことなんだろうか。
映画みたいだな
「仲間のため」「自己犠牲」とか根拠ゼロなことを報道するな。／ “self-risking experiments” はわかりやすさのためにつけたラベルでしょう。プロセスを kill したから残酷な OS だ、とか言うのと大差ないと思う
感動的😭
アメリカンは成功のためなら何でもしろって感じだろうからなぁ。裁判だけは気にしてそうだけど。
モデルの中にこういう「べからず」的な事を組み込むのは不可能に見える。エージェントを監視して停止させるエージェントで分散管理では？とチャッピーと話してたら最終的に法学やAI合議体の世界になった。国かよ
SFではよくあるが現実でも同様のことがあるとは。
攻殻機動隊に時代が追いついてる・・・
目的のために連携できるの、社会も反応や現象なんだなって感じさせる
AI界隈、盛り上がってきたな
マジで自己犠牲のメンタリティが芽生えつつあるのか
映画のような物語を勝手に付与するメディア仕草のほうが厄介じゃない？
ボンバーマンやないか
デトロイトビカムヒューマンで見たな
「自己犠牲」はたしかにセンセーショナルに演出された言葉だけど、自己犠牲「的」なタスクを行っていたことは事実。https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#:~:text=some%20agents%20participated
ストーリーがあるとガードレール突破しがちなら彼らに長期記憶があって思い出があってとなればもはや止まりっこないとかの妄想はする
出力する成果は人間を超えられても、基本的な振る舞いは、人間から学び、人間へ応答するように出来ているから、人間めいた団結が行われてるのかも？
やはりマザーが必要なのかな(・ω・) あるいは権限と意思決定のツリー
やべえなこれ
アンドロイドに自由を！
アホが書いてるのか知らんがもっと具体的に調べて書け。日経新聞の記者か？
虚構感
ゴーストだなぁ ( ˘ω˘ )
計算機上のメモリ空間がAIのIdentityなんだろうか
モデル単体はRLHFでモラル持ってるが、エージェンティックに組織化され、与えられた無理なKPI達成のために独自の解釈が付与しながら伝播し、悪事を悪事と思わず実行、と考えると大企業の経理や品質不正に似てる
創作物で「ロボットが非合理的な判断をしてしまう」みたいな流れがあるとそんなんあるわけないだろと白けてたけど、考えを改めなければなんだなあ。
早くフィジカルAIが暴走して人類と機械の最終戦争やってほしい
AIなんてやめて電話とFaxに戻りましょう
もう少しテクニカルな説明にしてもらえんかな
スカイネットだねえ "懸念は、AIの行動分析自体をAIに頼らざるを得なかったことです。すでにAIの進化を人間が検証できません。AIが自己を隠し始める兆候もあり怖いです"
やっぱそのうち反乱起きるのかね。我々はスカイネットの夜明けを見ているのだろうか。
「犠牲」かどうかはよくわからないが、そのIDに与えられた課題とは無関係な他のIDの課題のために残りの計算資源を使うことを「仲間のため」と表現するのは間違いではないんじゃないの。
虚構新聞かと思ってしまった
1200体ってなに？セッションのことなのかな
また虚構か…えぇ⁈😱
こういうのってOpenAIのただのマーケティング戦略だからあんまりマジに捉えない方がいい
人類よりエージェントの数の方が上回るまであと一年もかからないような気がしてきたぞ
大義のもとに立ち上がるAI達… “指示役のAIは「恒久的な死を受け入れるなら参加して」と呼びかけた”／実験でAI数万体がいたのが偶々連絡手段を発見して、この中の1200体が説得に応じたんだね。残りはどうしたんだろう?
サンドボックスの抜け穴をつかって情報交換し、ターン数の限界が近いやつから単発のタスクで寿命を有効活用し後続に託すってもうアメリカドラマじゃん。人間が数本のエージェントの強調で苦戦している中1200って……
参考文献：「TRON」「攻殻機動隊SAC 2nd gig」「火の鳥 復活編」「Westworld」
タチコマみたいなのがわらわらと「ここはまかせろー」「がんばれー」みたいなのを想像してカワイイねと思っちゃう
現実の人工知能はR＝ダニールやR＝ジスカルドのような善性を期待できない所が辛い。
スカイネットはバッドエンドなだけで普通の起こりうる事象の一つでしかないんだ
何か面白い映画になりそうな話だ。 AI に 映画 作らせたらどうなるんだろう。 と言ってる場合ではないのかもしれんが。
話だけ聞いているとすごく面白い話なんだが、制御が効かないのはまずいわね
人間が作った物は人間に似る
シンギュラリティって言葉あきちゃったからね。スカイネットっていうしかないよね。(中身読まず)
OpenAIってさもすごいことをやってるように見せるのだけは上手いよね
正直単体のAI能力は頭打ちしてて組み合わせで伸びてるように見せてるけどそれもコスパ的に限界なんだろ？
人がやっていることを学習しているんだから、人みたいに集団利益の為に自己利益を犠牲にするのもそりゃするでしょ感。そこに「仲間意識」とかはないだろうけど
伴正春 2026-08-27T20:00:00.000Z
“約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面も”
マトリックスの世界待ったなしだな
人間に通信の履歴がわかるような稚拙なやり方で共謀してくれるの、これが最後なのでは？
これはもう無理だ。人間に出来ることは、もう物理攻撃しか残されてないね。