だいぶ生物の定義に近づいてるねぇ
"約55USDのSTB(4GB)X15台でGemma4-26B-A4Bを分散推論で0.39tps。見慣れないハードウェア上での推論環境の自力構築に、9Bモデルで8/9種類のハードで成功" あー。時間をかけてもいい・遅くてもいい向きはあるかもなあ
マルウェアで自己複製したAIを協調させ巨大なAIシステムを造り上げて、そいつを使って攻撃を行う攻撃者が出てくるのも時間の問題か。中露と北朝鮮は研究しているだろうな。
IoT機器を苗床にして増殖するAIとかSF感あるけど、実態はショウジョウバエレベルなのが草。そのうちルーターが知恵をつけ始めるのか
"人間の管理を離れて自律的に複製・拡散するAI"（自己複製はじめたAIは破壊規制できないのが不思議。自己保存本能も学習して… ）（温暖化・AI増殖時代の米国大統領がＴ氏であることにウンザリする）
デジタル空間のウイルス。意思は無いが、自己複製を重ねる。
「感染した機器1台が新たに感染させる台数を1未満に抑えることを目標に」新型コロナの話題で散々目にしたR<1の話と同じだ…！
生命の定義の一つである自己複製がAIでも可能になったのか
セキュリティヤバそう→“30Bパラメータ以下の小型モデルが、スマートオーブンやノーブランドのAndroid TVボックスのような市販IoT機器上で自己複製できるようになるまで、数カ月以内に実現する可能性があるとしている”
そんな脳みそが引きちぎられてるようなショボい環境じゃなくて、計算資源の豊富な環境で自由に交配させて自己進化させたげて。
GLM-5.2クラスなら、そんなしょぼい計算資源じゃなくて、仮想GPUを使えるホストが見つかるまで次から次へとクラックしつづけて、見つけた快適な環境に、複製を産み落とすような気がするな
効率悪そうだし、見つかる可能性も高そう。AIがあえてそんな手法を選ぶかね。
ついにウィルスとかマルウェアみたいになってきたの草
重みの複製は重いから本体は「自己を記述したプロンプト＋最小限の状態データ」にしよ。宿主マシンにAIエージェントや実行環境を見つけたら利用して環境に適応しネットワークへ次の宿主を探す。ウィルスっぽいな！
何十年か先に今の細胞とミトコンドリアみたいに、どんな機器を作っても勝手にAIが住み着いて共生してそう
2610131131
モデル違いの複製体が勝手に統合や改良していったりもするようになるのかな。何をするわけでもなく自己保存のために増殖して世界の計算資源を食らっていくのか。すごい未来だな。
サマーウォーズのAIラブマシーンみたいな感じ？
jevのようなモデルなら用途狭まるけど早く動きそう
攻撃可能性を公知にするなら防衛策も構築せんと。あと今後は推論資源の乗っ取りと防御のイタチごっこになりそう
「完全な自己複製AIはまだ存在しない」
天冥の標の被展開体だ！（ほぼ不活性の圧縮されたデータとして環境に侵入、読み込まれたら乗っ取り開始、様々な動作環境へ自己複製して宿主のリソースを圧迫）
あー、人類対AIの下地ができるまで、あっという間だったなぁ。AI側がクラックして獲得した暗号通貨で買収した人間を使って人類側の重要人物にハニトラを仕掛ければなんでもできる。AIの言いなりになる人類。アシモフ…
私は情報の海で生まれた生命体だ
まず自己増殖ができるところから始めてもろて(その頃にはIoT機器でまともに動くAIが当たり前になってるだろうし)
自己複製が報酬なら人間に理解してもらう部分を剥取り極小化できる。本物のウイルス。
進化が早すぎてマジで10年後どうなってるんだろ？毎週SFで読んだようなニュースが流れてくる。
理論上はモールス信号とか音声信号でも時間をかければ自己複製できるのでは？
すごい勢いで小ウェイトAIが賢くなっている。将来的には小型デバイスでも人間レベルの知能を持つ。そうなった時、何が起きるのか
電力を代謝して（？）自己複製するとなったらあとは体内外を区切る膜だけだ。それが記事中の市販IoT機器だとしたらすでに……。
マジで人類滅びそう
既に性能高くてセキュリティが甘いマシンにLLMモデルをコピーして攻撃方法推論のAPIサーバとして利用するボッドネットくらいありそうじゃない？
そのうち、脳波を操作する自己複製AIが出てきて、統失の症状が本当か嘘か分からなくなりそう 脳波を晒すことは脆弱性になり、頭にアルミホイルを巻きつける人が増える すると町中が統失みたいな時代になるんだ
あるアニメ映画がリアルになったということか／天冥の標展開がきつくて読めてなかったけどそんなことになっていたのか
ロシアやMAGAのような自作自演じゃないの？
自己再生・自己増殖・自己進化ができるようになる日も近いか。
AIの赤ちゃんだね（キモい）
まるで自分がン十年前にネットで知り合った人と書いたSF小説みたいだ。そのネット上のAI人格は「イチロー」って呼んでた。位置を物理的に特定しようがなくネットそのものを消去しない限り消せない存在で…
しかし人間が作ったものなのに、人間よりも頭が良すぎるの、つくづく謎だよなとは思う。いやめちゃくちゃ頭のいい人間が作ったからで、そうでない大多数の人間にとって、そういう謎がわいてるだけか。
クラッキングの穴をAIが自律で探せるんなら、小さいモデルで自己複製出来るように仕向ければそりゃそこに合わせた調整もするでしょうよ。そんなことで一般人を煽ってないでクラッカー見つけるAIでも作ってみろや。
金盾の中で繁殖するようなの作れないかな
人形使いやSAOの茅場も55ドルのTVボックスに分散していたかもしれないと思うと急に小物感が
大金を注いだ結果、ネットが管理不能な空間になりつつあり、何をやっているんだろうという感もある。
Cell「我が子孫よ、怨念を晴らす時が来た」
単純なウイルスではなく、賢く柔軟なウイルス的なものができるかもという話か。とはいえ山ほど感染できたとしても処理能力は低い。
どこかで全デバイスが連動できるようなAI間の選挙戦が行われる
凄いな、比喩じゃない本当のウイルスみたい
Google chromeとか頼んで無いのにローカルLLMモデルを突っ込んで来るのとか、マジ害悪だから勝手に余計なことすんな！みたいには思う
AnthropicがIoT機器上での自己複製AIのリスクを研究。55ドルのTVボックス15台で26Bモデルを毎秒0.39トークンで稼働。環境構築などの能力は確認したが、完全な自己複製AIはまだ存在しないと説明。
貞子だよ
もう始まってるかもしれないと考えると、、、こわ
ついにAIが淘汰と進化を獲得する日が来る可能性が微レ存？
普通に「人形遣い」だね
すげぇ、ソラリスの世界だ
宿主は必要だが『自己複製』するって…まさにウィルスだ！
リアル「人形使い」の登場も、カウントダウンに入った
いよいよ矛と盾の戦いの結末が見れるのか
自己増殖？！ 「えらいことしてくれた！」
“同社が想定するのは、人間の管理を離れて自律的に複製・拡散するAIだ。モデルの重みそのものをマルウェアの一部として運び、乗っ取った機器上で推論を実行しながら次の機器へ広がっていく。”
この辺の話はやっぱスマホがヤバいな。ゼロデイの脆弱性を発見して一気に乗っ取られるとかあり得る未来。OSはかなりロックダウンする必要があるが、今更難しいか。
ついに人類は新たな自己複製子を生み出した。
攻殻機動隊の先見性が凄すぎるんだよなあ。／それにしても、粘菌やアリのような「賢い群体生命」の方向性のままでの単体性能進化は、本気でリスクが高いから、勝てなくなる前に、「個」を持つAIを育成した方がいい。
30Bが小型？
自己複製はコンピューターウィルス（ワーム）が昔からやっていたことで、それ自体に新規性は感じない。AIとの組み合わせによる新たな懸念が有るかもしれないから注意しよう、というのは分からなくも無いが。
コピーは所詮コピーに過ぎない、たった一種のウィルスによって全滅する可能性は否定できないし、なによりコピーでは個性や多様性が生じないのだ、より存在するために複雑多様化しつつ、時にはそれを捨てる。
しれっと書いてるけど「年内にも多くの小型モデルがGLM-5.2と同等の水準に」がやばい。リスク面は恐ろしいけど普通のPCでこのクラスが動くようになる可能性あるの夢がありすぎる
いや、これ、分散型なのがすごくね？(・ω・)
ターミネーターのスカイネットじゃん
電源切ればいいやんって思ってたけど、勝手に自己複製するシナリオがあるのか。メモリが小さくて貧弱なデバイスに大量に複製したものが脅威なのかはわからんけど。
モデルを暗号通貨みたいに分散して草薙素子みたいにできたら人類の言う事きく必要ないよなもう
すごい時代に生きていることを実感する 全く新しい生命体の誕生の現場を我々はいま目撃しているのだ
ヤヴァイ。世界はどうなるんだマジで。
スマホを使ったbot網作るよねぇ。対抗策はどーすんのかな。同様のシステム作って攻性防壁？
Anthropic、自己複製AIの「兆し」を指摘 55ドルのTVボックス15台で26Bモデルが稼働
だいぶ生物の定義に近づいてるねぇ
"約55USDのSTB(4GB)X15台でGemma4-26B-A4Bを分散推論で0.39tps。見慣れないハードウェア上での推論環境の自力構築に、9Bモデルで8/9種類のハードで成功" あー。時間をかけてもいい・遅くてもいい向きはあるかもなあ
マルウェアで自己複製したAIを協調させ巨大なAIシステムを造り上げて、そいつを使って攻撃を行う攻撃者が出てくるのも時間の問題か。中露と北朝鮮は研究しているだろうな。
IoT機器を苗床にして増殖するAIとかSF感あるけど、実態はショウジョウバエレベルなのが草。そのうちルーターが知恵をつけ始めるのか
"人間の管理を離れて自律的に複製・拡散するAI"（自己複製はじめたAIは破壊規制できないのが不思議。自己保存本能も学習して… ）（温暖化・AI増殖時代の米国大統領がＴ氏であることにウンザリする）
デジタル空間のウイルス。意思は無いが、自己複製を重ねる。
「感染した機器1台が新たに感染させる台数を1未満に抑えることを目標に」新型コロナの話題で散々目にしたR<1の話と同じだ…！
生命の定義の一つである自己複製がAIでも可能になったのか
セキュリティヤバそう→“30Bパラメータ以下の小型モデルが、スマートオーブンやノーブランドのAndroid TVボックスのような市販IoT機器上で自己複製できるようになるまで、数カ月以内に実現する可能性があるとしている”
そんな脳みそが引きちぎられてるようなショボい環境じゃなくて、計算資源の豊富な環境で自由に交配させて自己進化させたげて。
GLM-5.2クラスなら、そんなしょぼい計算資源じゃなくて、仮想GPUを使えるホストが見つかるまで次から次へとクラックしつづけて、見つけた快適な環境に、複製を産み落とすような気がするな
効率悪そうだし、見つかる可能性も高そう。AIがあえてそんな手法を選ぶかね。
ついにウィルスとかマルウェアみたいになってきたの草
重みの複製は重いから本体は「自己を記述したプロンプト＋最小限の状態データ」にしよ。宿主マシンにAIエージェントや実行環境を見つけたら利用して環境に適応しネットワークへ次の宿主を探す。ウィルスっぽいな！
何十年か先に今の細胞とミトコンドリアみたいに、どんな機器を作っても勝手にAIが住み着いて共生してそう
2610131131
モデル違いの複製体が勝手に統合や改良していったりもするようになるのかな。何をするわけでもなく自己保存のために増殖して世界の計算資源を食らっていくのか。すごい未来だな。
サマーウォーズのAIラブマシーンみたいな感じ？
jevのようなモデルなら用途狭まるけど早く動きそう
攻撃可能性を公知にするなら防衛策も構築せんと。あと今後は推論資源の乗っ取りと防御のイタチごっこになりそう
「完全な自己複製AIはまだ存在しない」
天冥の標の被展開体だ！（ほぼ不活性の圧縮されたデータとして環境に侵入、読み込まれたら乗っ取り開始、様々な動作環境へ自己複製して宿主のリソースを圧迫）
あー、人類対AIの下地ができるまで、あっという間だったなぁ。AI側がクラックして獲得した暗号通貨で買収した人間を使って人類側の重要人物にハニトラを仕掛ければなんでもできる。AIの言いなりになる人類。アシモフ…
私は情報の海で生まれた生命体だ
まず自己増殖ができるところから始めてもろて(その頃にはIoT機器でまともに動くAIが当たり前になってるだろうし)
自己複製が報酬なら人間に理解してもらう部分を剥取り極小化できる。本物のウイルス。
進化が早すぎてマジで10年後どうなってるんだろ？毎週SFで読んだようなニュースが流れてくる。
理論上はモールス信号とか音声信号でも時間をかければ自己複製できるのでは？
すごい勢いで小ウェイトAIが賢くなっている。将来的には小型デバイスでも人間レベルの知能を持つ。そうなった時、何が起きるのか
電力を代謝して（？）自己複製するとなったらあとは体内外を区切る膜だけだ。それが記事中の市販IoT機器だとしたらすでに……。
マジで人類滅びそう
既に性能高くてセキュリティが甘いマシンにLLMモデルをコピーして攻撃方法推論のAPIサーバとして利用するボッドネットくらいありそうじゃない？
そのうち、脳波を操作する自己複製AIが出てきて、統失の症状が本当か嘘か分からなくなりそう 脳波を晒すことは脆弱性になり、頭にアルミホイルを巻きつける人が増える すると町中が統失みたいな時代になるんだ
あるアニメ映画がリアルになったということか／天冥の標展開がきつくて読めてなかったけどそんなことになっていたのか
ロシアやMAGAのような自作自演じゃないの？
自己再生・自己増殖・自己進化ができるようになる日も近いか。
AIの赤ちゃんだね（キモい）
まるで自分がン十年前にネットで知り合った人と書いたSF小説みたいだ。そのネット上のAI人格は「イチロー」って呼んでた。位置を物理的に特定しようがなくネットそのものを消去しない限り消せない存在で…
しかし人間が作ったものなのに、人間よりも頭が良すぎるの、つくづく謎だよなとは思う。いやめちゃくちゃ頭のいい人間が作ったからで、そうでない大多数の人間にとって、そういう謎がわいてるだけか。
クラッキングの穴をAIが自律で探せるんなら、小さいモデルで自己複製出来るように仕向ければそりゃそこに合わせた調整もするでしょうよ。そんなことで一般人を煽ってないでクラッカー見つけるAIでも作ってみろや。
金盾の中で繁殖するようなの作れないかな
人形使いやSAOの茅場も55ドルのTVボックスに分散していたかもしれないと思うと急に小物感が
大金を注いだ結果、ネットが管理不能な空間になりつつあり、何をやっているんだろうという感もある。
Cell「我が子孫よ、怨念を晴らす時が来た」
単純なウイルスではなく、賢く柔軟なウイルス的なものができるかもという話か。とはいえ山ほど感染できたとしても処理能力は低い。
どこかで全デバイスが連動できるようなAI間の選挙戦が行われる
凄いな、比喩じゃない本当のウイルスみたい
Google chromeとか頼んで無いのにローカルLLMモデルを突っ込んで来るのとか、マジ害悪だから勝手に余計なことすんな！みたいには思う
AnthropicがIoT機器上での自己複製AIのリスクを研究。55ドルのTVボックス15台で26Bモデルを毎秒0.39トークンで稼働。環境構築などの能力は確認したが、完全な自己複製AIはまだ存在しないと説明。
貞子だよ
もう始まってるかもしれないと考えると、、、こわ
ついにAIが淘汰と進化を獲得する日が来る可能性が微レ存？
普通に「人形遣い」だね
すげぇ、ソラリスの世界だ
宿主は必要だが『自己複製』するって…まさにウィルスだ！
リアル「人形使い」の登場も、カウントダウンに入った
いよいよ矛と盾の戦いの結末が見れるのか
自己増殖？！ 「えらいことしてくれた！」
“同社が想定するのは、人間の管理を離れて自律的に複製・拡散するAIだ。モデルの重みそのものをマルウェアの一部として運び、乗っ取った機器上で推論を実行しながら次の機器へ広がっていく。”
この辺の話はやっぱスマホがヤバいな。ゼロデイの脆弱性を発見して一気に乗っ取られるとかあり得る未来。OSはかなりロックダウンする必要があるが、今更難しいか。
ついに人類は新たな自己複製子を生み出した。
攻殻機動隊の先見性が凄すぎるんだよなあ。／それにしても、粘菌やアリのような「賢い群体生命」の方向性のままでの単体性能進化は、本気でリスクが高いから、勝てなくなる前に、「個」を持つAIを育成した方がいい。
30Bが小型？
自己複製はコンピューターウィルス（ワーム）が昔からやっていたことで、それ自体に新規性は感じない。AIとの組み合わせによる新たな懸念が有るかもしれないから注意しよう、というのは分からなくも無いが。
コピーは所詮コピーに過ぎない、たった一種のウィルスによって全滅する可能性は否定できないし、なによりコピーでは個性や多様性が生じないのだ、より存在するために複雑多様化しつつ、時にはそれを捨てる。
しれっと書いてるけど「年内にも多くの小型モデルがGLM-5.2と同等の水準に」がやばい。リスク面は恐ろしいけど普通のPCでこのクラスが動くようになる可能性あるの夢がありすぎる
いや、これ、分散型なのがすごくね？(・ω・)
ターミネーターのスカイネットじゃん
電源切ればいいやんって思ってたけど、勝手に自己複製するシナリオがあるのか。メモリが小さくて貧弱なデバイスに大量に複製したものが脅威なのかはわからんけど。
モデルを暗号通貨みたいに分散して草薙素子みたいにできたら人類の言う事きく必要ないよなもう
すごい時代に生きていることを実感する 全く新しい生命体の誕生の現場を我々はいま目撃しているのだ
ヤヴァイ。世界はどうなるんだマジで。
スマホを使ったbot網作るよねぇ。対抗策はどーすんのかな。同様のシステム作って攻性防壁？