テクノロジー

AIモデルがお互いに共食いをはじめ、崩壊の兆候を見せ始めている | カラパイア

1: abebetaro 2025/06/07 17:02

どのように崩壊を避けるのか割と気になる。たしかにAIで書かれた記事も増えてきているし。

2: sevenspice 2025/06/07 23:48

AIの登場によって一周回ってクローズドコミュニティの世界が来る。本当に価値ある情報や最新の情報は特定のコミュニティの属してないと手に入らなくなる。

3: exciteB 2025/06/08 00:01

AIのモデル崩壊。/個人も企業もスタンドアロンで生成AIを使う技術が重要になるんかな。ウイルス防御的な。/(なぜ完全情報ゲームの囲碁将棋AIがブコメで出てくるのか…。)

4: osugi3y 2025/06/08 02:11

“出力がおかしくなりゴミのようなコンテンツを吐き出すようになったという。”見ろAIがゴミのようだ。とムスカなら言ったはずであろう。

6: tomoP 2025/06/08 04:14

こうなることは簡単に予想できたので、画像生成の方ではウォーターマークによる対策が初期にほんの少し議論されてた気もするけど、もうなあなあになってそう

7: hinonono 2025/06/08 05:36

オカルト記事のカラパイアを真に受けるなよ/自前で強化学習する将棋AIは崩壊してないし、AI開発元には大量のコンテンツデータを自前で抱えてる所も多いし、似たシステムである人間が先に崩壊してもいない。

8: PJ_purejam 2025/06/08 06:29

“ネットが、すでに生成AIの粗悪コンテンツで埋め尽くされたゴミの山と化している”やっぱりそうか。

9: circled 2025/06/08 06:31

囲碁みたいに人間の手を学習させたAIよりも、ルールだけ教えて自分で数打ちまくって学習させたAIの方が遥かに優秀だったのだから、人間から学ぶ段階を過ぎたら、AIのみの学習で人間の常識の殻を破るのも大事では?

10: shugetsu-sai 2025/06/08 06:34

"Garbage In, Garbage Out" GIGO「ゴミを入れればゴミが出る」質の悪いデータを入力すれば当然のように質の悪い出力になる。これはAIに限った事ではありません、どんなに優秀な数式でも用いるデータがゴミなら結果もゴミです。

11: colonoe 2025/06/08 07:06

共食いっていうからAI生成物を学習させる話だと思ったら検索の話か。だったら信頼できる情報源を出すようにするだけど解決するだろう。馬鹿らしい

12: zsehnuy_cohriy 2025/06/08 07:09

RAGの方が非倫理的ってのは同意するが……これまでのネットは知識の宝庫ってのは流石に言い過ぎだろう、クソと宝がグチャグチャに混ざってただろ。で今までどうやって学習させてたって話よ

13: augsUK 2025/06/08 07:52

学習には合法的に入手してなさそうな論文や有料ニュースを使っているのだろうけど、検索はそうはいかないからろくでもないソースに引っ張られることは増えていそう。

14: tyhe 2025/06/08 08:52

これまでは品質の低い物が大多数を占めていた訳では無いので、品質の低いものが大量生産されるようになって大多数を占めるようになった時にどうなるかは気になる。

15: InvisibleStar 2025/06/08 09:04

囲碁AIと大きく違うのは、碁は打った手が正解だったかをAIが勝敗から知れるのに対し、LLMはそうでないという点。例えば生活保護に関する誤情報を回答して、それを信じた人が困窮したとしてもLLMがそれを知ることはない

16: hunglysheep1 2025/06/08 10:02

そろそろロボットが街中を歩いて欲しい。"書を捨てよ町へ出よう"って言葉もある。文章だけでは学習の限界があるよ/とはいえ今のAIに上手く好奇心を実装するのも大変だろうが

17: kamezo 2025/06/08 10:12

もともと玉石混交だったネット空間にAIが石をたくさん増やしてくれたので、AIのまともな食い物(情報)が(相対的に)激減した? そこに共喰いのイメージを重ねた? どんな寓話だ。

18: pekee-nuee-nuee 2025/06/08 10:51

インターネットがグレイグーになっちゃう

19: ivory105 2025/06/08 10:54

ネットの情報、半分くらいゴミか毒だから…。ゴミを食ってゴミを大量に吐き出してたらそりゃゴミしか残らなくなるよ。良くも悪くもだけど出力が手軽すぎるからゴミ製造機と言っても過言ではない

20: ET777 2025/06/08 11:04

😢

21: otchy210 2025/06/08 11:14

世界中の国会図書館に未学習の質の高い情報が超大量に眠ってるから、それらの学習が終わるまでは問題無いよ。OCR や、なんなら文字を教えることもなく、AI がスキャン画像から直に言語を学ぶ日もいずれ来るだろう。

22: suikyojin 2025/06/08 12:13

完全に信頼できる情報源なんて無いから、信頼できる情報源に頼るなんて方法は使えない。論理的、物的に検証して精度を高めるしかない。今のところ、人間しかやれない。

23: tnishimu 2025/06/08 12:14

人間もゴミ溜めみたいなSNSで見た知識を学習して再出力しているからな、崩壊の兆候を見せ始めている。

24: keshitai 2025/06/08 12:28

ブログ書いてもAIに学習されてアクセス数に結びつかないとなると、書く人が減って閉鎖されて、アフィブログのろくでもない情報しか残らなくなるやつだ

25: sororo9797 2025/06/08 12:45

これはAIにとってのアプリオリな総合判断とは何か?を突き詰める時期が来ているのでは?

26: tomono-blog 2025/06/08 12:52

囲碁将棋はオープンゲームだから、どんどん強くなれた。

27: auto_chan 2025/06/08 13:13

エーアイのためにわれわれ奴隷が懸命に生態脳を動かして天然の学習データを提供し続けないといけない。でも身体を通じた意識の帯域は狭すぎる。よし!人を一日じゅう寝かして脳演算力を提供するビジネスを始めよう!

28: snapchat 2025/06/08 15:11

"こうした劣化を予防するために、Google、OpenAI、AnthropicといったAI関連企業は、「RAG」と呼ばれる手法を試している" →最近RAGを覚えてワクワクして使っているの分かるけど、AIモデル作る人たちがRAGをやるわけじゃない。

29: totoronoki 2025/06/08 16:13

そのうち、一定数の人間は隔離され「生成AIが誕生しなかった世界」の設定で暮らす人々と、「生成AIが誕生しなかった世界」からデータを収集する人々に分かれるのではないか。トゥルーマン・ショーみたいに。

30: matchy2 2025/06/08 19:47

人間がSNSに垂れ流しているモノのほうがよっぽどクズだとは思うがな

31: Network 2025/06/08 20:16

結局、殻は人間の思考であり記号設置問題なんだよね。あ、AIが出力した内容を学習することと蒸留は何が違うのか識者に説明して欲しい。あと便所の落書きをAIが学習したとして今回の共食いと何が違うのか解説して。

32: misshiki 2025/06/10 17:38

“困ったことに、これまで知識の宝庫だったはずのネットが、すでに生成AIの粗悪コンテンツで埋め尽くされたゴミの山と化している”

33: ikihaji_kun 2025/06/10 20:07

AI生成物を延々とネットに垂れ流すパソコンおじさんはAIを劣化させる反AI