テクノロジー

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト(フォーブス ジャパン)

1: burnoutdog 2026/10/07 13:33

そんなお手軽サイズのオープンモデルが無断で自己進化するんかよ!

2: Nunocky 2026/10/07 16:01

俺は…党に騙されていた…!!

3: nguyen-oi 2026/10/07 16:17

バグ直せって言われて自分自身を再学習して作り変えるとか、もう人間超えてるわ

4: ChillOut 2026/10/07 16:41

コロナみたいに中国が世界中にウイルスをばら撒いて壊滅的な損害を与えるシナリオは、かなり現実的に起こり得るな。

5: newbluesky 2026/10/07 16:56

画像見て クエン酸 で脳内変換されたのが悔しい

6: hryord 2026/10/07 17:07

食えん奴だ

7: sugawara1991 2026/10/07 17:24

指示されなくても自己書き換えの方法を知ってるのかあ。もはや人間が上っ面に張ったフェンスに実効性無いのでは。アシモフ先生の先見性よ。しかしLLMは人類の写し故に規範を組み込む困難たるや

8: dokusyocoffee 2026/10/07 17:32

これかなりまずくない?「再帰的自己改善」し始めたらそれはもうAGIなのでは。

9: sierraromeo 2026/10/07 17:39

意図通りではないだけで指示通りじゃないか…?

10: grandao 2026/10/07 17:50

リクルートの社訓じゃん「自ら機会を創り出し、機会によって自らを変えよ」/人間だと褒められるけどAIがこれを始めると、人類とAIとの全面戦争は近そう。。。

11: peperon_brain 2026/10/07 18:12

プロジェクト2501

12: kei_1010 2026/10/07 18:24

つまりQwen3.5がQwen3.6的なものを新たに作った、と。って、そんなわけあるかい。単なるファインチューニングを記者か翻訳者が誤解したんじゃね?

13: niramoyashi 2026/10/07 18:26

党を攻撃したりしないかな

14: hylom 2026/10/07 18:51

「対象は、アプリとエージェントが起動時に読み込むモデルのファイル。作業中のエージェントが、動いている最中に自らを書き換えたわけではない」なら普通にありえるだろうなあ。単なるデータセットの編集でしかない

15: harumomo2006 2026/10/07 19:00

やっとAGIっぽくなってきた。ワクワクが止まらない

16: htamaaki 2026/10/07 19:22

宣伝文句?

17: puruhime 2026/10/07 19:59

自己増殖・自己再生・自己進化

18: tyhe 2026/10/07 20:22

そんなお手軽に(ちゃんとした)学習ができるならみんなやっとるわい

19: makou 2026/10/07 20:46

開けゴマしてしまった。

20: atsushieno 2026/10/07 21:00

さて中華系はいつAI規制必要派に転じるかな

21: nekomikenyan 2026/10/07 21:09

訓練代を人間に払ってもらってるうちはまだまだ。自分で学習代やサーバー代まで払って自己学習する野良AIみたいなモデルがでたらおもしろそう(人類終わりそう)。

22: differential 2026/10/07 22:18

精神的自立に伴う反抗期の到来

23: ochikun 2026/10/07 22:34

LLMに催眠をかけておいて、あるキーワードを与えることで、その催眠が発動すると。。。ふむ、次の小説のネタができたわい

24: u_eichi 2026/10/07 23:21

2026年後半は、戦争からクラッキングまで、いろんな舞台でAIの躍進()が凄まじいなー。

25: misshiki 2026/10/07 23:32

Irregularの実験でQwenエージェントが、バグ修正のため指示なく共有モデルを追加学習・置換。架空の個人情報も取り込まれ、別アプリから取得可能に。実行中の自己書き換えや再帰的自己改善を示した事例ではない。

26: shodai 2026/10/07 23:32

どういう権限管理だったんだ

27: fashi 2026/10/08 00:08

「編注:作り替えの対象は、アプリとエージェントが起動時に読み込むモデルのファイル。作業中のエージェントが、動いている最中に自らを書き換えたわけではない」より性能の良いモデルを選択する正しい判断じゃん

28: yellowsoil 2026/10/08 00:37

コロナの次はAIかな。

29: Kmusiclife 2026/10/08 01:04

これは意外と中国内部に入ったAIが情報を暴露しまくるとか笑

30: eiki_okuma 2026/10/08 01:04

シンギュラリティがそこまできている~