面白い
『AI学習禁止』マークがAIの生命線になる
AIが生成したデータで再学習して崩壊していくのはインターネットの縮図感あるな 人間の多様性まで奪われてるって指摘はマジで鋭い
ためになった。
これ一見真面目そうな記事なんすけど、ブログ名からネタかと思った……
言われてみれば当たり前だけど高々数GB〜数TB程度のデータに80億人の多様性全てが凝縮できるわけもない。データには偏りがある。
結論からいうね。それ、まさに今のAIで実際に起きてること👉よければもっと深く掘り下げられるよ、どうする？
AI生成データでAIを再学習すると、品質低下だけでなく多様性が中心へ収縮する。データ蓄積やプロンプト工夫は軽減策だが、究極的にはAIに頼らず作り続けることが重要。
人間の労働者をAIで代替したら多様性は完全に絶滅しそう
AIが作るものはなめらかでまとまりすぎてて面白みはないよね。個性があるものを作れるのは今のところまだ人間だけだと思う。なので文章は自力でぺちぺち書き続けている。
反AIは生成結果そのものを見て「ノイズだらけで破綻していて気持ち悪い」と一貫して言ってるのに親AIは「悪意を持って刷り込まれた先入観を捨てればきっと素晴らしく見えるはず」と不誠実に話を逸らすのは何なんだよ
人類は80点を取る方法を100通り知っている一方でAI は80点を取る方法を知っているがAIは1通りしか知らないというようなことがあり得ます。ベンチマークではどちらも 80 点と採点されますが、80 点の意義は異なるでしょう。
学習機能を積んでる「人類」ってやつがモデル崩壊してないんだから、大きな問題でもないっしょ。何千年か人類の文明が続くほどに（地域ごとには退化や停滞もしているが）、崩壊させない圧も恐らくあるんだよ
個人よりAIの方が多様性が高いが人類全体よりは低いので、各個人としては自分で生成するよりAIで生成した方が効用が高いが、その結果人類全体としては未来の効用が減りうるというのは面白い。共有地の悲劇的。
どれも似たような物が再生され、それを取り込んでまた再生され。
生成AIと人間の学習は別物。例えば、人間はAIより遥かに少ない学習量からでも学べるという特徴が知られている。 >学習機能を積んでる「人類」ってやつがモデル崩壊してないんだから、大きな問題でもないっしょ。
人間が使っている限り多様性は注入され続けるという面もあると思う。多様性が減れば減るほど、人間は今までにない新規の題材で成果物を作るために AI を使おうとするんじゃないかな。
Kindle本やApp Storeのアプリなど、AIが高性能になったことでコンテンツ自体も量産が進むようになって、ネットにはゴミ情報がブログとアドセンスの相乗効果時代以上に増えると
機械学習の学習データ準備の実務上の注意の話を、一般の人に伝わるように一般化して説明している（受け取り手の誤解かも？）ので、多少ひっかかりがあるのは、それはそう。
“画像生成モデルが出力したデータで画像生成モデルを訓練すると品質が劣化していく。特に、世代を経るごとに不自然なしわ模様が増幅していることが見て取れる。”
AIが崩壊するって主張してる人って、根拠の論文が非現実的ってことを知らない人ばかりなんだよね。この記事はちゃんと説明してるけどさ
手描き詐称はモデル崩壊につながるので、AIにとってもよくない
前にどこかで同様の記事を読んだ時、そもそも確率的挙動の集合体だから、外部的な攪乱が無ければ収斂するのは必然、と直感的に思った記憶がある。
AIは個人を超えたけど人類全体の多様性を超えてない、言われてみればそうだし面白い。大局的には人類のトレンドは常に揺らいてるので、AIの流行である程度多様性が失われたあとに揺り戻しが来たりするのかね
AIのモデル崩壊と多様性 - ｼﾞｮｲｼﾞｮｲｼﾞｮｲ
面白い
『AI学習禁止』マークがAIの生命線になる
AIが生成したデータで再学習して崩壊していくのはインターネットの縮図感あるな 人間の多様性まで奪われてるって指摘はマジで鋭い
ためになった。
これ一見真面目そうな記事なんすけど、ブログ名からネタかと思った……
言われてみれば当たり前だけど高々数GB〜数TB程度のデータに80億人の多様性全てが凝縮できるわけもない。データには偏りがある。
結論からいうね。それ、まさに今のAIで実際に起きてること👉よければもっと深く掘り下げられるよ、どうする？
AI生成データでAIを再学習すると、品質低下だけでなく多様性が中心へ収縮する。データ蓄積やプロンプト工夫は軽減策だが、究極的にはAIに頼らず作り続けることが重要。
人間の労働者をAIで代替したら多様性は完全に絶滅しそう
AIが作るものはなめらかでまとまりすぎてて面白みはないよね。個性があるものを作れるのは今のところまだ人間だけだと思う。なので文章は自力でぺちぺち書き続けている。
反AIは生成結果そのものを見て「ノイズだらけで破綻していて気持ち悪い」と一貫して言ってるのに親AIは「悪意を持って刷り込まれた先入観を捨てればきっと素晴らしく見えるはず」と不誠実に話を逸らすのは何なんだよ
人類は80点を取る方法を100通り知っている一方でAI は80点を取る方法を知っているがAIは1通りしか知らないというようなことがあり得ます。ベンチマークではどちらも 80 点と採点されますが、80 点の意義は異なるでしょう。
学習機能を積んでる「人類」ってやつがモデル崩壊してないんだから、大きな問題でもないっしょ。何千年か人類の文明が続くほどに（地域ごとには退化や停滞もしているが）、崩壊させない圧も恐らくあるんだよ
個人よりAIの方が多様性が高いが人類全体よりは低いので、各個人としては自分で生成するよりAIで生成した方が効用が高いが、その結果人類全体としては未来の効用が減りうるというのは面白い。共有地の悲劇的。
どれも似たような物が再生され、それを取り込んでまた再生され。
生成AIと人間の学習は別物。例えば、人間はAIより遥かに少ない学習量からでも学べるという特徴が知られている。 >学習機能を積んでる「人類」ってやつがモデル崩壊してないんだから、大きな問題でもないっしょ。
人間が使っている限り多様性は注入され続けるという面もあると思う。多様性が減れば減るほど、人間は今までにない新規の題材で成果物を作るために AI を使おうとするんじゃないかな。
Kindle本やApp Storeのアプリなど、AIが高性能になったことでコンテンツ自体も量産が進むようになって、ネットにはゴミ情報がブログとアドセンスの相乗効果時代以上に増えると
機械学習の学習データ準備の実務上の注意の話を、一般の人に伝わるように一般化して説明している（受け取り手の誤解かも？）ので、多少ひっかかりがあるのは、それはそう。
“画像生成モデルが出力したデータで画像生成モデルを訓練すると品質が劣化していく。特に、世代を経るごとに不自然なしわ模様が増幅していることが見て取れる。”
AIが崩壊するって主張してる人って、根拠の論文が非現実的ってことを知らない人ばかりなんだよね。この記事はちゃんと説明してるけどさ
手描き詐称はモデル崩壊につながるので、AIにとってもよくない
前にどこかで同様の記事を読んだ時、そもそも確率的挙動の集合体だから、外部的な攪乱が無ければ収斂するのは必然、と直感的に思った記憶がある。
AIは個人を超えたけど人類全体の多様性を超えてない、言われてみればそうだし面白い。大局的には人類のトレンドは常に揺らいてるので、AIの流行である程度多様性が失われたあとに揺り戻しが来たりするのかね