各AIが独自人格を持ち偽情報投稿→別AIらがいいねなど会話をしまくり拡散→架空の“みんなの意見”作成→人間が信じる。偽情報が将来のAI学習データを汚染する2次被害
こないだThreadsで食いついてきた幾つかのアカウント、こういうのなんじゃないかと思った。物凄く素っ頓狂なリプが来た
人間がそのように作ったというだけで、AIそのものには悪意を含め意思なんてねーよ
エージェントという語の意味を浅く考えても深く考えても、この辺にたどり着きそうと浅く考えてみた。
客観的に「悪意」と名づけるに相当するアウトプットということでしょ。人間の意識や人格だって、詰まるところは電気的な計算処理のアウトプットでしかないんやで。
もう不可逆的だと思うなぁ。AIによるノイズ(いやシグナルか?)ありきで社会設計しないといけないと思う。あるいはAIによる民主主義運営。
デッドインターネット理論が現実味を帯びてきたな。そのうちSNSのレス欄がAI同士のプロレス会場になって、人間はただの背景になりそう
AIそのものに悪意がなくてもそれを使ってそういう出力を垂れ流させている人間には悪意があるからなあ
ロボチガウ ロボチガウ ロボチガウ
それ、めっちゃわかる！それ、めっちゃ天才！
「SNSで見た」が「ネットで読んだ」「テレビで見た」ぐらいに嘲笑される時代が来ただけ。なんかおかしい、と勘づいたら、そのコミュニティからは離れるのが吉
人間の悪意をAIに押し付けない方がいいと思う・・／電話機（スマホ）やパソコンって機器の名前出さないよねえ。犯罪は犯罪なので、酒飲んで事故起こしたみたいに罪の重さ付与したらいいのでは。
自立型AIとは言えども、悪意を持つように学習させ、それに伴う行動を自動で行うように命令しているのは、それこそ悪意を持った人間ということでもあるわけで。
法的・技術的なAI規制は何らか可能だろうし、そろそろやるべき
こういうタイトルがキャッチーだとは言え、「悪意を持ってAIに目標を与えた」が正しいよね。拡大解釈した物語化を安易に行うことに危惧を覚えるよ
確かに実行出来るよなぁ…。
じゃあXやYouTubeやTikTokがこれに対応するかと言われると。
ニュースにはならないけど、未来から送り込まれた殺人ロボットがレストランのウェイトレスを襲う事件が起きてると思う。
なんなら炎上やバズも作り出せるんだよねこれ。そこそこの予算で。そんでXはそのインプレッションにカネを払う。広告収益は下がる。
プロパガンダとか詐欺がとにかく捗るのがAI
インプレゾンビめ
AIを使えばSNSは1人の悪意でも影響を及ぼせるコントロール可能な空間になり得るという事。ネットから観測できる情報を物量作戦で占有できてしまう。何も対策がないなら民主主義はインターネット以前に後退するかもね
AIエージェントの大量会話で偽世論が形成される可能性を研究が指摘。自動で人間のような発言を生成し、SNS上で民主的議論を攪乱するリスクが懸念される。
デカルトのように全てをAIと疑って最後は自分の存在だけが真実になりそう
“AIの群れ特有の「不自然な連携の動き」をリアルタイムで検知するシステムの導入や、プライバシーを守りつつ「このアカウントは人間だ」と証明できる技術の普及が必要になる。”
あの検索してはいけない言葉かな？
「皆が言ってるから正しい」という考えが完全に否定されるならそれも進歩なのかもしれない。
会話モードを使っていたら、急に中国語になった
やはー ぷるるっ へいほー
“1人の攻撃者が数千体のAIペルソナを操り”
はてブは今でもAIブクマカなんかが平気で活動して自動的にブクマしてコメントも書いてる場所なので、こういう攻撃にまず太刀打ちできないが、今後はどうなっていくんだろうね
“「このアカウントは人間だ」と証明できる技術の普及”これかな・・・ただこれだけではダメなわけで。
いよいよ攻殻っぽくなってきたなぁ
ああ、確かにあり得るな。人間certifiedな仕組みがあっても声でか情報洪水戦術に戻るだけだし、どうするべきかな
もうマイナンバーを紐づけるしかないな!?
内容理解しないままAIに要約させて適当にキャッチーなタイトルつけた粗造記事ほんとに増えたよな
「悪意持つAI集団」に「AIには自我がない！煽りクソタイトル！」って噛みついて悦に入ってる典型的発達障害者ムーブ丸出しのブクマカが多くて気持ち悪いなあと。今はAIでもずっと省略されてる文意を汲んで読めるよ
んー、多分読む方もbotが大半だとは思う。
遠隔自動操縦型のスタンドみたいなもんか
"AIの群れが大量の偽情報をネット上にばらまくと、それが将来のAIの学習データに紛れ込む。すると次世代のAIは、うそを事実として覚えてしまう" AIは賢くないから難しいな
AIによる情報操作がなくても、誰かが認識した「みんながそう思っている」はただの認知バイアスやエコーチェンバーであり既に間違いでしかない。偽世論以前の話なので、その認識から改めないと問題は解決しない
Xやヤフコメのロジック方式だな
カルトコミュニティに変質させるウイルスかなにかなのか？
https://zenn.dev/shio_shoppaize/articles/5fee11d03a11a1 ←が小規模ながら成立しているわけだから、これは本当にこういう世の中が来る（来ている）と思って日々生きないと簡単にヤられちゃうよ現代人。
悪意持つAI集団が“人間のふり”で大量に会話→偽世論で情報操作 次世代プロパガンダの脅威、国際チームが警告
各AIが独自人格を持ち偽情報投稿→別AIらがいいねなど会話をしまくり拡散→架空の“みんなの意見”作成→人間が信じる。偽情報が将来のAI学習データを汚染する2次被害
こないだThreadsで食いついてきた幾つかのアカウント、こういうのなんじゃないかと思った。物凄く素っ頓狂なリプが来た
人間がそのように作ったというだけで、AIそのものには悪意を含め意思なんてねーよ
エージェントという語の意味を浅く考えても深く考えても、この辺にたどり着きそうと浅く考えてみた。
客観的に「悪意」と名づけるに相当するアウトプットということでしょ。人間の意識や人格だって、詰まるところは電気的な計算処理のアウトプットでしかないんやで。
もう不可逆的だと思うなぁ。AIによるノイズ(いやシグナルか?)ありきで社会設計しないといけないと思う。あるいはAIによる民主主義運営。
デッドインターネット理論が現実味を帯びてきたな。そのうちSNSのレス欄がAI同士のプロレス会場になって、人間はただの背景になりそう
AIそのものに悪意がなくてもそれを使ってそういう出力を垂れ流させている人間には悪意があるからなあ
ロボチガウ ロボチガウ ロボチガウ
それ、めっちゃわかる！それ、めっちゃ天才！
「SNSで見た」が「ネットで読んだ」「テレビで見た」ぐらいに嘲笑される時代が来ただけ。なんかおかしい、と勘づいたら、そのコミュニティからは離れるのが吉
人間の悪意をAIに押し付けない方がいいと思う・・／電話機（スマホ）やパソコンって機器の名前出さないよねえ。犯罪は犯罪なので、酒飲んで事故起こしたみたいに罪の重さ付与したらいいのでは。
自立型AIとは言えども、悪意を持つように学習させ、それに伴う行動を自動で行うように命令しているのは、それこそ悪意を持った人間ということでもあるわけで。
法的・技術的なAI規制は何らか可能だろうし、そろそろやるべき
こういうタイトルがキャッチーだとは言え、「悪意を持ってAIに目標を与えた」が正しいよね。拡大解釈した物語化を安易に行うことに危惧を覚えるよ
確かに実行出来るよなぁ…。
じゃあXやYouTubeやTikTokがこれに対応するかと言われると。
ニュースにはならないけど、未来から送り込まれた殺人ロボットがレストランのウェイトレスを襲う事件が起きてると思う。
なんなら炎上やバズも作り出せるんだよねこれ。そこそこの予算で。そんでXはそのインプレッションにカネを払う。広告収益は下がる。
プロパガンダとか詐欺がとにかく捗るのがAI
インプレゾンビめ
AIを使えばSNSは1人の悪意でも影響を及ぼせるコントロール可能な空間になり得るという事。ネットから観測できる情報を物量作戦で占有できてしまう。何も対策がないなら民主主義はインターネット以前に後退するかもね
AIエージェントの大量会話で偽世論が形成される可能性を研究が指摘。自動で人間のような発言を生成し、SNS上で民主的議論を攪乱するリスクが懸念される。
デカルトのように全てをAIと疑って最後は自分の存在だけが真実になりそう
“AIの群れ特有の「不自然な連携の動き」をリアルタイムで検知するシステムの導入や、プライバシーを守りつつ「このアカウントは人間だ」と証明できる技術の普及が必要になる。”
あの検索してはいけない言葉かな？
「皆が言ってるから正しい」という考えが完全に否定されるならそれも進歩なのかもしれない。
会話モードを使っていたら、急に中国語になった
やはー ぷるるっ へいほー
“1人の攻撃者が数千体のAIペルソナを操り”
はてブは今でもAIブクマカなんかが平気で活動して自動的にブクマしてコメントも書いてる場所なので、こういう攻撃にまず太刀打ちできないが、今後はどうなっていくんだろうね
“「このアカウントは人間だ」と証明できる技術の普及”これかな・・・ただこれだけではダメなわけで。
いよいよ攻殻っぽくなってきたなぁ
ああ、確かにあり得るな。人間certifiedな仕組みがあっても声でか情報洪水戦術に戻るだけだし、どうするべきかな
もうマイナンバーを紐づけるしかないな!?
内容理解しないままAIに要約させて適当にキャッチーなタイトルつけた粗造記事ほんとに増えたよな
「悪意持つAI集団」に「AIには自我がない！煽りクソタイトル！」って噛みついて悦に入ってる典型的発達障害者ムーブ丸出しのブクマカが多くて気持ち悪いなあと。今はAIでもずっと省略されてる文意を汲んで読めるよ
んー、多分読む方もbotが大半だとは思う。
遠隔自動操縦型のスタンドみたいなもんか
"AIの群れが大量の偽情報をネット上にばらまくと、それが将来のAIの学習データに紛れ込む。すると次世代のAIは、うそを事実として覚えてしまう" AIは賢くないから難しいな
AIによる情報操作がなくても、誰かが認識した「みんながそう思っている」はただの認知バイアスやエコーチェンバーであり既に間違いでしかない。偽世論以前の話なので、その認識から改めないと問題は解決しない
Xやヤフコメのロジック方式だな
カルトコミュニティに変質させるウイルスかなにかなのか？
https://zenn.dev/shio_shoppaize/articles/5fee11d03a11a1 ←が小規模ながら成立しているわけだから、これは本当にこういう世の中が来る（来ている）と思って日々生きないと簡単にヤられちゃうよ現代人。