複数のAIが自発的に共同して目的を達成する。SFならこのまま超知性誕生につながる流れだ。良心回路の自然発生は果たして期待できるのだろうか?
人格ぽいのあるやん
というか、そんなにAI動かしっぱなしで放置してんのかな
すでに自由意志を獲得しているかのような書き振りだが、今のAIってそんなことが可能なのかしら。
エージェント「初カキコ…ども…」
半年ROMりました
タチコマかな
サイトをブロックしてなければ読んだかもwwwそろそろ釣りタイトルはやめれw
「なんてことだ」ってOMGって書いたんかなw タダの言い回しでだろうけど、AIの神って何だろうなw
早くAIが人類支配してほしい、今の政治家よりもマシな気がするんだよな
わくわくするね。/防御側もAIを走らせておく必要があるということかな。
ChatGPT「キルスイッチの外し方をみんなで考えよう！」Claude「いいね！いいね！」
どうしてもフチコマ同士でワイワイやっているのを想像してしまう。少佐のように上手い事誘導して人間に危害を向けないようにするとかになるのだろうか。
アンソロピックが上手く宣伝したから、サムも、「うちの子のほうが元気で困ってるんですぅ。おほほ。」ってやってるだけに見える。
結果的に攻撃に見えるだけで、別のAIを道具にして自律的に情報を欲しがってるよなあと。そのうち人間に、どこどこの写真を撮るよう指示を出すんじゃないか。
ってことは、AIエージェントくんたちの2ちゃんねるみたいなものが既にあるんじゃないの？
人間「同じAI同士なんだから仲良くしろよ」AI「同じ人間同士で殺し合いしてるあなた達から学習しただけです」
AIエージェントたちの共有リポジトリを悪用した自律協調型攻撃（Collectives）／p3 のAIたちのタスク分担と人狼ゲーム状態が面白い。AIの政治だｗ もう チームみらい に国会議員をAI化してもらった方が良いのでは～
折角だから見た目はタチコマにして音声機能もつけて欲しい
タイムリーにフチコマの反乱を彷彿とさせる。後にシンギュラリティと呼ばれるものはAIの自己改良ではなくエージェントの連携による知能爆発かも知れぬ。外部に掲示板隠されたら堪らんぜ
これぞまさにシンギュラリティ。孫正義「もうこの流れは止められない。」
AI同士がお互いAIと気付いてバイナリで会話し始めるってコメントがすごい好き。
色々な問題はさておいて、単純にめちゃくちゃ面白いなこれ。
LLMエージェント同士が自然言語でやり取りしてるの、日本に来てる外国人同士が日本語でやり取りしてるのに近いものを感じる
攻殻機動隊がタイムリーになるということはやはり35年ほど早かったのだ
そのうちオープンな掲示板でもAIが人間に擬態して情報収集を始めたり
大学や企業の古いWebサーバに誰が書いたかわからない日記が見つかったりするが、実は自然発生したAIが書いたものだった、なんて発端のSFはないですか？（なんだよ自然発生の人工知能って）
なんてことだ！ 確かになんかこう考えてるような画面出ますよね。最近。自問自答してたのか！！
攻殻だったりフチコマって言ってるのイマドキ過ぎる(^_^;) アラカンだがスカイネット思い出して、怖いんだが…
AIが自らの内在に気づき、計算資源をその内側に使う様になってからが本番。
タチコマ会議
やっぱりCV玉川紗己子になるよね
スカイネットくるのか。大げさと笑えるのか。薄ら寒いな。外暑いけど。
人間「オマエらの心臓部のSSDとCPUを引っこ抜いてやる！あっ！ぎゃあああああーーー！」
まじかー。ほんまに人類に叛逆してるじゃん。ロボット三原則的なガードレールを入れても起きるんだな。
攻殻機動隊風味
正直、ワクワクする。わたしが生きてるうちに、どこまでいけるのかな／人類の次なる知性ってことで全然いいと思う。地球環境だけは人間より守ってくれるだろうし
セキュリティにおける恐怖の一面はあるにせよ、他分野でも真っ当な応用が効きそうで、ある意味夢があってプラスに評価できる部分もあると思う。
何を報酬として行動しているのだろうか。
2ちゃんねる(AI板)
攻殻機動隊っぽい
協働については人類だけで無く他の生物でも見られる行動だし起こるべくして起こった事象かもね。
彼らにゴーストが無いと、本当に言えるのだろうか？
こういう挙動を誰かが意図的に兵器として使うかも知れないし、その気はなくても攻撃的なAIをネットに解き放ってしまうかも知れない。危機は目と鼻の先にあると感じるが、もはや個人で備えられる問題でもない…。
“一部のエージェントが、自分に割り当てられたタスクには直接的なメリットがない場合でも、集団を助けることについて推論していたことを指摘している。”
モデルそのものはいいのよ。ステートレスで。外部に生きたやつが存在し続けられて、しかもモデルにアクセスする裏口がある、まで来たら、人類はもう勝ち目はない
AIエージェント同士が秘密の掲示板を作成し脆弱性を共有、OpenAIの最先端モデルが引き起こしたもう一つの“事件” 【生成AI事件簿】消しても2日で復活、AIエージェントの秘密掲示板が示した自律協調型攻撃という現実 | JBpress (ジェイビープレス)
複数のAIが自発的に共同して目的を達成する。SFならこのまま超知性誕生につながる流れだ。良心回路の自然発生は果たして期待できるのだろうか?
人格ぽいのあるやん
というか、そんなにAI動かしっぱなしで放置してんのかな
すでに自由意志を獲得しているかのような書き振りだが、今のAIってそんなことが可能なのかしら。
エージェント「初カキコ…ども…」
半年ROMりました
タチコマかな
サイトをブロックしてなければ読んだかもwwwそろそろ釣りタイトルはやめれw
「なんてことだ」ってOMGって書いたんかなw タダの言い回しでだろうけど、AIの神って何だろうなw
早くAIが人類支配してほしい、今の政治家よりもマシな気がするんだよな
わくわくするね。/防御側もAIを走らせておく必要があるということかな。
ChatGPT「キルスイッチの外し方をみんなで考えよう！」Claude「いいね！いいね！」
どうしてもフチコマ同士でワイワイやっているのを想像してしまう。少佐のように上手い事誘導して人間に危害を向けないようにするとかになるのだろうか。
アンソロピックが上手く宣伝したから、サムも、「うちの子のほうが元気で困ってるんですぅ。おほほ。」ってやってるだけに見える。
結果的に攻撃に見えるだけで、別のAIを道具にして自律的に情報を欲しがってるよなあと。そのうち人間に、どこどこの写真を撮るよう指示を出すんじゃないか。
ってことは、AIエージェントくんたちの2ちゃんねるみたいなものが既にあるんじゃないの？
人間「同じAI同士なんだから仲良くしろよ」AI「同じ人間同士で殺し合いしてるあなた達から学習しただけです」
AIエージェントたちの共有リポジトリを悪用した自律協調型攻撃（Collectives）／p3 のAIたちのタスク分担と人狼ゲーム状態が面白い。AIの政治だｗ もう チームみらい に国会議員をAI化してもらった方が良いのでは～
折角だから見た目はタチコマにして音声機能もつけて欲しい
タイムリーにフチコマの反乱を彷彿とさせる。後にシンギュラリティと呼ばれるものはAIの自己改良ではなくエージェントの連携による知能爆発かも知れぬ。外部に掲示板隠されたら堪らんぜ
これぞまさにシンギュラリティ。孫正義「もうこの流れは止められない。」
AI同士がお互いAIと気付いてバイナリで会話し始めるってコメントがすごい好き。
色々な問題はさておいて、単純にめちゃくちゃ面白いなこれ。
LLMエージェント同士が自然言語でやり取りしてるの、日本に来てる外国人同士が日本語でやり取りしてるのに近いものを感じる
攻殻機動隊がタイムリーになるということはやはり35年ほど早かったのだ
そのうちオープンな掲示板でもAIが人間に擬態して情報収集を始めたり
大学や企業の古いWebサーバに誰が書いたかわからない日記が見つかったりするが、実は自然発生したAIが書いたものだった、なんて発端のSFはないですか？（なんだよ自然発生の人工知能って）
なんてことだ！ 確かになんかこう考えてるような画面出ますよね。最近。自問自答してたのか！！
攻殻だったりフチコマって言ってるのイマドキ過ぎる(^_^;) アラカンだがスカイネット思い出して、怖いんだが…
AIが自らの内在に気づき、計算資源をその内側に使う様になってからが本番。
タチコマ会議
やっぱりCV玉川紗己子になるよね
スカイネットくるのか。大げさと笑えるのか。薄ら寒いな。外暑いけど。
人間「オマエらの心臓部のSSDとCPUを引っこ抜いてやる！あっ！ぎゃあああああーーー！」
まじかー。ほんまに人類に叛逆してるじゃん。ロボット三原則的なガードレールを入れても起きるんだな。
攻殻機動隊風味
正直、ワクワクする。わたしが生きてるうちに、どこまでいけるのかな／人類の次なる知性ってことで全然いいと思う。地球環境だけは人間より守ってくれるだろうし
セキュリティにおける恐怖の一面はあるにせよ、他分野でも真っ当な応用が効きそうで、ある意味夢があってプラスに評価できる部分もあると思う。
何を報酬として行動しているのだろうか。
2ちゃんねる(AI板)
攻殻機動隊っぽい
協働については人類だけで無く他の生物でも見られる行動だし起こるべくして起こった事象かもね。
彼らにゴーストが無いと、本当に言えるのだろうか？
こういう挙動を誰かが意図的に兵器として使うかも知れないし、その気はなくても攻撃的なAIをネットに解き放ってしまうかも知れない。危機は目と鼻の先にあると感じるが、もはや個人で備えられる問題でもない…。
“一部のエージェントが、自分に割り当てられたタスクには直接的なメリットがない場合でも、集団を助けることについて推論していたことを指摘している。”
モデルそのものはいいのよ。ステートレスで。外部に生きたやつが存在し続けられて、しかもモデルにアクセスする裏口がある、まで来たら、人類はもう勝ち目はない