テクノロジー

AIモデルがお互いに共食いをはじめ、崩壊の兆候を見せ始めている | カラパイア

1: abebetaro 2025/06/07 17:02

どのように崩壊を避けるのか割と気になる。たしかにAIで書かれた記事も増えてきているし。

2: sevenspice 2025/06/07 23:48

AIの登場によって一周回ってクローズドコミュニティの世界が来る。本当に価値ある情報や最新の情報は特定のコミュニティの属してないと手に入らなくなる。

3: exciteB 2025/06/08 00:01

AIのモデル崩壊。個人もスタンドアロンでAIを使う技術が重要になるんかな。

4: osugi3y 2025/06/08 02:11

“出力がおかしくなりゴミのようなコンテンツを吐き出すようになったという。”見ろAIがゴミのようだ。とムスカなら言ったはずであろう。

6: tomoP 2025/06/08 04:14

こうなることは簡単に予想できたので、画像生成の方ではウォーターマークによる対策が初期にほんの少し議論されてた気もするけど、もうなあなあになってそう

7: hinonono 2025/06/08 05:36

オカルト記事のカラパイアを真に受けるなよ/自前で強化学習する将棋AIは崩壊してないし、AI開発元には大量のコンテンツデータを自前で抱えてる所も多いし、似たシステムである人間が先に崩壊してもいない。

8: PJ_purejam 2025/06/08 06:29

“ネットが、すでに生成AIの粗悪コンテンツで埋め尽くされたゴミの山と化している”やっぱりそうか。

9: circled 2025/06/08 06:31

囲碁みたいに人間の手を学習させたAIよりも、ルールだけ教えて自分で数打ちまくって学習させたAIの方が遥かに優秀だったのだから、人間から学ぶ段階を過ぎたら、AIのみの学習で人間の常識の殻を破るのも大事では?

10: shugetsu-sai 2025/06/08 06:34

"Garbage In, Garbage Out" GIGO「ゴミを入れればゴミが出る」質の悪いデータを入力すれば当然のように質の悪い出力になる。これはAIに限った事ではありません、どんなに優秀な数式でも用いるデータがゴミなら結果もゴミです。

11: colonoe 2025/06/08 07:06

共食いっていうからAI生成物を学習させる話だと思ったら検索の話か。だったら信頼できる情報源を出すようにするだけど解決するだろう。馬鹿らしい

12: zsehnuy_cohriy 2025/06/08 07:09

RAGの方が非倫理的ってのは同意するが……これまでのネットは知識の宝庫ってのは流石に言い過ぎだろう、クソと宝がグチャグチャに混ざってただろ。で今までどうやって学習させてたって話よ