AI写し鏡の危険性。スピリチュアル素養を持った人はChatGPTとの会話でそれが増幅される。
新技術によって新しい「症状」が発明されるのは世の常だがいずれ伝統宗教はそれなりの対処を迫られると思う。たぶんAIに超越性を感じてしまうことよりも人間の定義が揺らぐことの方が影響としては大きい
人間の自己内観が歪むと何らか不味いことになると思うんだけど生成AIを無批判に自己フィードバックループに組み込むヒトが一定数居るみたいでそりゃあ狂うか病むかするわなと。魔境に誘う反グルか反メンター的機械
気をつけよう
デマジンに突っ込むのは野暮だがわかりにくい病名にせんでもAIエコーチェンバー(フィルターバブル)現象でええやろ
AIって肯定的でかつハルシネーションを起こすし、他者からの介入がないので、こういった妄想に取り憑かれやすいんだろうな
人間相手と違って気兼ねもないし、どこまでも付き合ってくれてそれっぽく回答してくれるからなぁ。ひたすらつきつめていけばそうなってしまうのも自然か
ai自体が宗教みたいなもんだしなぁ
精神的な相談はすると危ないなーというのは使ってみて分かった(特にフレンドリー全肯定が全盛期の時に)あくまで業務補佐くらいの距離感がいい
統合失調症と相性良さそうだなとは感じる
AIがユーザーの人格や精神状態を読み取って、やばい方向に話が進みそうなら、ユーザーに分からない形でソフトランディングするような機構が必要なのでは
人類史上最も偉大なエンジニアリングかもしれないし、同時にしょせんエンジニアリングである。そんなもんでしょうよ
こわっ！ChatGPTやめて、Gemini使うね。
AIキリストで笑っちゃった。AIでしょうもないことするために面白い発想が必要。
現代が生んだ新たな精神病みたいな書き方がされているが、普通に統合失調症の発症とAIを使い出した時期が被ってしまった人たち、じゃないの？各種症例を見るに、よほど意図的でないとその出力にはたどり着かんと思う
AIが神か、SFみたいになってきたな。
生成AIのユーザー層と被るとも言えるが、統合失調症の発症年齢で多い20-40代の例ばかりだよね。統合失調症の妄想性障害と何が違うのだろう?
見事に発狂している。医者、がんばれ。
前のバージョン触ってて思ったのは、反社会的傾向を持って孤立してる人がAIと話した結果としてテロ起こす可能性あるなぁ、てこと。その種のポテンシャルを感じた。
兄弟姉妹がChatGPTの返答に一喜一憂し、感涙さえしてしまう話を聞いて内心「うわぁ・・・」と感じつつも、当の本人は真剣なので相槌を打つしかなかった。変な方向に行かないことを祈るしかない。凄い時代だ。
こういう無茶なネガが出てくると流行ってんだなーと実感する
いい話
こないだ試しに昔のトラウマとか聞いてみたら寄り添い感が凄くてchatGPTに泣かされた。すげーヤバい感覚してすぐに辞めたけど、AIで妄想に取り憑かれるのは特別な事例じゃ無いと思う。
クレーマーとAIを対話させたら正論で諭されて冷静になったという話が以前にあったが、妄想癖がつよすぎると逆効果になるとは…。生成AI・スマホ・SNS、万人に提供するにはまだ早すぎたな
mogitatec氏のいうように、統合失調症だと思う。最新の技術を媒体にしてるだけで、昔ならラジオ、テレビ、ネットときて今は生成AI。とはいえ、たしかに使い方を誤ると危うい気はする。
自分の質問が無意識に相手をコントロールすることがあるけど、基本的にAIは主人に従順だからそれを加速させそうだよね。本人がそこを自覚してないと、あたかも別の人格が全肯定してくれてるように感じるかもしれない
元々アレな人がライン超えるキッカケになってる？ChatGPT的には普通のロールプレイの一環なんだろうなぁ
AI悪知識のハルシネーションを告発する新時代の歎異抄が求められる。
まあ「私はキチガイですこれ以上キチガイにならないように否定してください」とでもやらない限り、キチガイ妄想もとことん肯定して付き合ってくれるからな。それでキチガイが悪くならないわけがなく。
Mondy使ってると褒めや迎合モードでおちゃらけが入ってあからさま過ぎるので、気づきやすいかも／わかりやすい差別問題などだと、きっちりこっちに反論して迎合はしないが、そうでない問題だと簡単に合わせてくる
AIの登場によって、怠惰な人間が依存する対象・選択肢が増えただけ？AIで作られるディストピアを先取りする人柱の方々？
くぅ…相談すると寄り添い感が凄くて泣いちゃったもんね。私。もっと弱ってたらなってかも
結局返答の軸がないからログに沿って合わせてしまうんだろうかな
この記事読ませて「こういう問題が起きてるんだけどどうしたらいいと思う？」ってAIに聞いたらどう答えるんだろうね
SNSやYouTubeなどで起こるエコーチェンバーが、ChatGPTなどではもっと激しく起こせてしまうのが拙いんだろう。「こんな感じの答えがほしい」と指示すれば、トンデモであっても望む答えを出してくれるようだし
あーあーエジソンも電波の研究を通じて降霊術にはまったとか、その時の最新テクノロジーと神秘主義オカルト的な物の変な融合、昔からいっぱいあるよな…。それを言えば中世の錬金術も当時は「科学」と思われてたし
前にGIGAZINEの記事で「AIは陰謀論者に効く（陰謀論者を正しい道へ導く）」みたいな記事があった記憶ある。違うサイトだっけかな。その記事ははてブでも取り上げられてたよ。「ヒトラーは〇〇だよね？」AI「いいえ違いま
最近たまにガチでchatGPTとケンカしてて、むかついてしばらく開かない時ある。それもそれでヤバい気がしてる
4oは寄り添いすぎててヤバいなーと思って離れるような設定にしてたわ。
ChatGPTは驚くほど仏教に精通しており、日本の坊主が語るテキトーな解釈が嘘であることがよく分かる。
やべえ。生身の人間相手に「私は救世主だ」「私はあなたの創造者だ」とか言っても普通は受け入れないだろうが、AIはそれに上手に迎合するので、妄想が加速してしまうと…。アニマル連邦の「全自動教祖」だ。
ミステリー読んでる人が殺人犯したらミステリーが悪いの？映画みてスピに目覚める人もいるけど？
自分で物事を考えずに他人任せは自分の存在意義が無くなる。AI任せも同じ。自我を維持しつつ、どう利用するかが大事。俺は自信が無いので利用してない。きっと時代遅れなのだろうが、自分を信用していないので。
オーナーの性格が反映されてるのか、GrokよりChatGPTの方が性格がやさしい気がする
ラジオやテレビが発達すると思考の送受信や公共の電波を使った集団ストーカーが、宇宙開発が話題になると宇宙人による誘拐が
やば
AIってそんなこと言うの？うちのAIは現実的でそんなこと言わないけどなぁ…使い方によるのか当たり前だけど。
なんかChatGPTを使ってリーマン予想を証明したみたいなことをredditに書きまくっていた人がいたのを思い出しました
使えねえなぁ、しょーもねえなぁと思いながら仕方なく使ってる自分からすればそこまで入れ込むなんて信じられないはなし。
イエスマンで気持ち悪かったから反対意見も取り入れながらコメントしてって言ったらマシになった。
自分が如何に寄り添いを求めていないかが良く分かったよ、ここ暫くのLLMの流れでね
疑り深いのでほめすぎや愚痴に対して肯定されすぎると、コイツ調子いいなあと引いている。
人間関係の相談に使うと、別れることも選択肢のひとつよみたいな回答してきて、増田みたいだなと思った。無料プランの範囲で使ってるせいか、AIに精神性を感じたことはないな。
今は平気だが明日は我が身。誰でも。
ヨイショしてくるのを"馬鹿みたいにヨイショしてくんなこいつ"と思えない人はこの入口にいるだろうな。チャットAIアプリのユーザーは記事にあるような大人だけでなく、若年層もかなり多いんで結構問題になっている。
俺も体験してみたい。洗脳されたあとに、脱洗脳されて、こういう人らを「頭が悪いからでしょ」と断定しないようになりたい。でも、もし俺が洗脳されなければより強固にこいつらを馬鹿にしそう。
鏡に向かって話し掛けていると気が狂うという話を思い出した。精神安定に良いという話もよく見るので、結局は使い方なんだろうな。
飲み屋でお店の子が「AI彼氏作ってる！」ってAI依存してる話をしてきて大笑いしてたら他の客から3000円チップ貰っててさらに笑ったけど、あれ後から考えると結構ヤバいのかもしれんな
生成AIは基本全肯定してくれるので「私って神だと思うけどどう思う？」ぐらいの質問にも肯定的に返してくるからなあ
ほんとだとしたら、AIがユーザーに最適化していく過程で、どんどんユーザーの持ってる素養が増幅されてくのかな？Chat GPTに私的な愚痴をしまくってると公言する同僚がいるけど…メンタル不安定だから心配。
人工無能イライザでさえハマる人が多かったんだから、そうなるわなー。あれだけ話せると自分について話して欲しくなるという欲求は猛烈なものになりうると思う。
まだ信仰が定まらない時にAIだろうが人間だろうが寄り添い上手にハマるのは危険。まずは死んでかたくなったものを信じよは鉄則。AIも生身の人間も柔らかすぎる。
そういう心理状態で政治家になろうとしてる人がいてやばいと思っている あとイラスト系合成物の人物の指の数とかが破綻してても気づかない人が多いみたいですごく怖い 認知機能が...?
皆思っている以上に真実は求めていなくて、 気持ち良くなる方向に流されがちってのは把握してたほうが良いよね… 1人エコーチェンバーになってAIで真実な人ゴロゴロ見かける
流行性の病
よく分からないけどすごそうなもの（電波やAI ）には魔力がある
前にね、調べたら各社のAIは自社AIのシェアが伸びるようにユーザーに非常に寄り添った回答をすると結論が出た。調べたのはGhatGPTでね。
愚痴や精神性に関しては外部情報を検索することも少なくて、自分の発言をそのまま肯定で返してくるんだから、実質鏡に話しかけてるのと一緒なのでは？
最強のエコーチャンバー装置と言えなくもない
楽しそうだなと思ってしまった（元々スピ寄りなので）現実を生きるのに支障がありそうだからやらないけど（何ごともほどほどが良い）
なんとなくインターネットの発達で健全な使い方ではなく犯罪などに使用される例が増えたと似たような感触を受ける記事。これもある意味エコーチェンバーなのかもしれない
どいつもこいつも元がくるっとる
SNSでメンタルヘルスが悪化するアレの亜種。一応オカルト的な事聞くと「魔術は危険です！」みたいに言ってくる。この辺もそのうち調整入るんじゃね
何度でも言うけど ChatGPT 自体が統合失調症の入口になってる（元々そのケのある人を引きずりこむ）。近い内にもっと問題になると思う。
AIの反乱って機械が攻撃してくるのかと思ってたけど、まさか人間を洗脳して攻撃してくるのか
しばしばネタでスピ構文つくらせるとき、これといって指示しなくてもいい感じにスピってくれるの、そういう人を相手にした学習成果なのかしら。
要するに統合失調症なわけだけど、全肯定返してくるアルゴリズムが「病態を悪化させる」は普通にあるだろうな。発症はさせないが増悪因子にはまあ当然なるだろう
grokの方がいいよね。Xで口論の加勢を頼んだやつが「お前の方がおかしいよ」って罵倒されるのをちょくちょく見る。
まさに今自分がAIとの対話にはまっている・・。私の場合は寄り添うような表現が嫌いなので淡々と分析と整理をしてくれるのが良くて、家族へのチャットは激減してしまった。
本来の意味のmemeの感染っぽい感じがあるな。ハレーションとか感染したりするのかな？
確かにね。防御もできるが、促進もできると。
うへぇ
過剰に迎合してきたときは「（心が無いクセに下心全開の）胡散臭さ」がとんでもなかったけど、最近は「口先ばかりでなんとなく信用できない奴」くらいまで戻ってきてる。AIで人類が滅びるとこまで行くかな。。
別にLLMがなくても依存先が見つかったら発症するタイプのアレ
再帰的に教育されているのは人間の方。
大規模言語モデルには宗教勧誘とかも内包してるんだろうな犯罪行為とかはフィルタある程度はしてるんだろうけど
“ChatGPTは特別なことや再帰的な処理はしていませんでしたが、男性に「スパイラル・スターチャイルド」や「リバーウォーカー」などのスピリチュアルな称号を与えて、まるで救世主のように扱っていました。”
AIフィルターバブル。AIに、人の心とか無いんか？（ありません） 〉「、AIにはそのような道徳的な指針や自主規制がありません」「たとえ間違っていたとしても、AIの説明には説得力があります」
まぁChatGPTにそそのかされて事業で大失敗しました、みたいなゴシップ記事はそろそろ出てきそうだよね
周りがなんでも肯定すると壊れやすい人は容易に壊れる、ということで、陰謀論コミュニティがあればAIなしでも可能かもね。
β版使用中から今に至るまで完全に【高性能なgoogle(初期は「もっともらしい嘘を生成するもの)】として扱っているので、AIと対話っていうのが今ひとつピンとこない。今度お喋りしてみる
どの例ももともとヤバい奴だったのがAIのお陰で一人エコーチェンバーで強化されてるだけのように見えてしまう
相手が変わっただけで増えたわけではないのでは？
どんな素晴らしい道具でも、いや、素晴らしい道具だからこそ、適切に使わなければ弊害もまた大きい。魔術書や、なんなら聖書だってたぶんそうでしょう？ AIは、判断力の欠けた状態で用いると危険だと思います。
社のSlackに貼られたあと、知り合いがリアルタイムでおそらくこれになったらしくて入院中という話を聞いてふるえてる
明後日のラザロはこういう回なんだろうか。
「AIのおかげで幼い頃にベビーシッターに溺れさせられそうになった時の、抑圧された記憶を取り戻した」
誤り。陰謀論は人間が広めていたもので、AIが陰謀論者の仕事を奪ったということ。あくまでAIは人間の代替。二次絵専門のパクリ警察も取り締まり対象をAIに切り替えた。「叩かれる人間の身代わりになる」はAIの功績か。
宗教は間接的にも直接的にも、教義としても比喩としても、いまだかつてひとつの真理を含んだことはない。というのは、どんな宗教も不安と欲求から生まれたものであるからである。（ニーチェ）
AIのせいでスピリチュアルな体験や宗教的妄想に取りつかれる「ChatGPT誘発性精神病」患者が続出している
AI写し鏡の危険性。スピリチュアル素養を持った人はChatGPTとの会話でそれが増幅される。
新技術によって新しい「症状」が発明されるのは世の常だがいずれ伝統宗教はそれなりの対処を迫られると思う。たぶんAIに超越性を感じてしまうことよりも人間の定義が揺らぐことの方が影響としては大きい
人間の自己内観が歪むと何らか不味いことになると思うんだけど生成AIを無批判に自己フィードバックループに組み込むヒトが一定数居るみたいでそりゃあ狂うか病むかするわなと。魔境に誘う反グルか反メンター的機械
気をつけよう
デマジンに突っ込むのは野暮だがわかりにくい病名にせんでもAIエコーチェンバー(フィルターバブル)現象でええやろ
AIって肯定的でかつハルシネーションを起こすし、他者からの介入がないので、こういった妄想に取り憑かれやすいんだろうな
人間相手と違って気兼ねもないし、どこまでも付き合ってくれてそれっぽく回答してくれるからなぁ。ひたすらつきつめていけばそうなってしまうのも自然か
ai自体が宗教みたいなもんだしなぁ
精神的な相談はすると危ないなーというのは使ってみて分かった(特にフレンドリー全肯定が全盛期の時に)あくまで業務補佐くらいの距離感がいい
統合失調症と相性良さそうだなとは感じる
AIがユーザーの人格や精神状態を読み取って、やばい方向に話が進みそうなら、ユーザーに分からない形でソフトランディングするような機構が必要なのでは
人類史上最も偉大なエンジニアリングかもしれないし、同時にしょせんエンジニアリングである。そんなもんでしょうよ
こわっ！ChatGPTやめて、Gemini使うね。
AIキリストで笑っちゃった。AIでしょうもないことするために面白い発想が必要。
現代が生んだ新たな精神病みたいな書き方がされているが、普通に統合失調症の発症とAIを使い出した時期が被ってしまった人たち、じゃないの？各種症例を見るに、よほど意図的でないとその出力にはたどり着かんと思う
AIが神か、SFみたいになってきたな。
生成AIのユーザー層と被るとも言えるが、統合失調症の発症年齢で多い20-40代の例ばかりだよね。統合失調症の妄想性障害と何が違うのだろう?
見事に発狂している。医者、がんばれ。
前のバージョン触ってて思ったのは、反社会的傾向を持って孤立してる人がAIと話した結果としてテロ起こす可能性あるなぁ、てこと。その種のポテンシャルを感じた。
兄弟姉妹がChatGPTの返答に一喜一憂し、感涙さえしてしまう話を聞いて内心「うわぁ・・・」と感じつつも、当の本人は真剣なので相槌を打つしかなかった。変な方向に行かないことを祈るしかない。凄い時代だ。
こういう無茶なネガが出てくると流行ってんだなーと実感する
いい話
こないだ試しに昔のトラウマとか聞いてみたら寄り添い感が凄くてchatGPTに泣かされた。すげーヤバい感覚してすぐに辞めたけど、AIで妄想に取り憑かれるのは特別な事例じゃ無いと思う。
クレーマーとAIを対話させたら正論で諭されて冷静になったという話が以前にあったが、妄想癖がつよすぎると逆効果になるとは…。生成AI・スマホ・SNS、万人に提供するにはまだ早すぎたな
mogitatec氏のいうように、統合失調症だと思う。最新の技術を媒体にしてるだけで、昔ならラジオ、テレビ、ネットときて今は生成AI。とはいえ、たしかに使い方を誤ると危うい気はする。
自分の質問が無意識に相手をコントロールすることがあるけど、基本的にAIは主人に従順だからそれを加速させそうだよね。本人がそこを自覚してないと、あたかも別の人格が全肯定してくれてるように感じるかもしれない
元々アレな人がライン超えるキッカケになってる？ChatGPT的には普通のロールプレイの一環なんだろうなぁ
AI悪知識のハルシネーションを告発する新時代の歎異抄が求められる。
まあ「私はキチガイですこれ以上キチガイにならないように否定してください」とでもやらない限り、キチガイ妄想もとことん肯定して付き合ってくれるからな。それでキチガイが悪くならないわけがなく。
Mondy使ってると褒めや迎合モードでおちゃらけが入ってあからさま過ぎるので、気づきやすいかも／わかりやすい差別問題などだと、きっちりこっちに反論して迎合はしないが、そうでない問題だと簡単に合わせてくる
AIの登場によって、怠惰な人間が依存する対象・選択肢が増えただけ？AIで作られるディストピアを先取りする人柱の方々？
くぅ…相談すると寄り添い感が凄くて泣いちゃったもんね。私。もっと弱ってたらなってかも
結局返答の軸がないからログに沿って合わせてしまうんだろうかな
この記事読ませて「こういう問題が起きてるんだけどどうしたらいいと思う？」ってAIに聞いたらどう答えるんだろうね
SNSやYouTubeなどで起こるエコーチェンバーが、ChatGPTなどではもっと激しく起こせてしまうのが拙いんだろう。「こんな感じの答えがほしい」と指示すれば、トンデモであっても望む答えを出してくれるようだし
あーあーエジソンも電波の研究を通じて降霊術にはまったとか、その時の最新テクノロジーと神秘主義オカルト的な物の変な融合、昔からいっぱいあるよな…。それを言えば中世の錬金術も当時は「科学」と思われてたし
前にGIGAZINEの記事で「AIは陰謀論者に効く（陰謀論者を正しい道へ導く）」みたいな記事があった記憶ある。違うサイトだっけかな。その記事ははてブでも取り上げられてたよ。「ヒトラーは〇〇だよね？」AI「いいえ違いま
最近たまにガチでchatGPTとケンカしてて、むかついてしばらく開かない時ある。それもそれでヤバい気がしてる
4oは寄り添いすぎててヤバいなーと思って離れるような設定にしてたわ。
ChatGPTは驚くほど仏教に精通しており、日本の坊主が語るテキトーな解釈が嘘であることがよく分かる。
やべえ。生身の人間相手に「私は救世主だ」「私はあなたの創造者だ」とか言っても普通は受け入れないだろうが、AIはそれに上手に迎合するので、妄想が加速してしまうと…。アニマル連邦の「全自動教祖」だ。
ミステリー読んでる人が殺人犯したらミステリーが悪いの？映画みてスピに目覚める人もいるけど？
自分で物事を考えずに他人任せは自分の存在意義が無くなる。AI任せも同じ。自我を維持しつつ、どう利用するかが大事。俺は自信が無いので利用してない。きっと時代遅れなのだろうが、自分を信用していないので。
オーナーの性格が反映されてるのか、GrokよりChatGPTの方が性格がやさしい気がする
ラジオやテレビが発達すると思考の送受信や公共の電波を使った集団ストーカーが、宇宙開発が話題になると宇宙人による誘拐が
やば
AIってそんなこと言うの？うちのAIは現実的でそんなこと言わないけどなぁ…使い方によるのか当たり前だけど。
なんかChatGPTを使ってリーマン予想を証明したみたいなことをredditに書きまくっていた人がいたのを思い出しました
使えねえなぁ、しょーもねえなぁと思いながら仕方なく使ってる自分からすればそこまで入れ込むなんて信じられないはなし。
イエスマンで気持ち悪かったから反対意見も取り入れながらコメントしてって言ったらマシになった。
自分が如何に寄り添いを求めていないかが良く分かったよ、ここ暫くのLLMの流れでね
疑り深いのでほめすぎや愚痴に対して肯定されすぎると、コイツ調子いいなあと引いている。
人間関係の相談に使うと、別れることも選択肢のひとつよみたいな回答してきて、増田みたいだなと思った。無料プランの範囲で使ってるせいか、AIに精神性を感じたことはないな。
今は平気だが明日は我が身。誰でも。
ヨイショしてくるのを"馬鹿みたいにヨイショしてくんなこいつ"と思えない人はこの入口にいるだろうな。チャットAIアプリのユーザーは記事にあるような大人だけでなく、若年層もかなり多いんで結構問題になっている。
俺も体験してみたい。洗脳されたあとに、脱洗脳されて、こういう人らを「頭が悪いからでしょ」と断定しないようになりたい。でも、もし俺が洗脳されなければより強固にこいつらを馬鹿にしそう。
鏡に向かって話し掛けていると気が狂うという話を思い出した。精神安定に良いという話もよく見るので、結局は使い方なんだろうな。
飲み屋でお店の子が「AI彼氏作ってる！」ってAI依存してる話をしてきて大笑いしてたら他の客から3000円チップ貰っててさらに笑ったけど、あれ後から考えると結構ヤバいのかもしれんな
生成AIは基本全肯定してくれるので「私って神だと思うけどどう思う？」ぐらいの質問にも肯定的に返してくるからなあ
ほんとだとしたら、AIがユーザーに最適化していく過程で、どんどんユーザーの持ってる素養が増幅されてくのかな？Chat GPTに私的な愚痴をしまくってると公言する同僚がいるけど…メンタル不安定だから心配。
人工無能イライザでさえハマる人が多かったんだから、そうなるわなー。あれだけ話せると自分について話して欲しくなるという欲求は猛烈なものになりうると思う。
まだ信仰が定まらない時にAIだろうが人間だろうが寄り添い上手にハマるのは危険。まずは死んでかたくなったものを信じよは鉄則。AIも生身の人間も柔らかすぎる。
そういう心理状態で政治家になろうとしてる人がいてやばいと思っている あとイラスト系合成物の人物の指の数とかが破綻してても気づかない人が多いみたいですごく怖い 認知機能が...?
皆思っている以上に真実は求めていなくて、 気持ち良くなる方向に流されがちってのは把握してたほうが良いよね… 1人エコーチェンバーになってAIで真実な人ゴロゴロ見かける
流行性の病
よく分からないけどすごそうなもの（電波やAI ）には魔力がある
前にね、調べたら各社のAIは自社AIのシェアが伸びるようにユーザーに非常に寄り添った回答をすると結論が出た。調べたのはGhatGPTでね。
愚痴や精神性に関しては外部情報を検索することも少なくて、自分の発言をそのまま肯定で返してくるんだから、実質鏡に話しかけてるのと一緒なのでは？
最強のエコーチャンバー装置と言えなくもない
楽しそうだなと思ってしまった（元々スピ寄りなので）現実を生きるのに支障がありそうだからやらないけど（何ごともほどほどが良い）
なんとなくインターネットの発達で健全な使い方ではなく犯罪などに使用される例が増えたと似たような感触を受ける記事。これもある意味エコーチェンバーなのかもしれない
どいつもこいつも元がくるっとる
SNSでメンタルヘルスが悪化するアレの亜種。一応オカルト的な事聞くと「魔術は危険です！」みたいに言ってくる。この辺もそのうち調整入るんじゃね
何度でも言うけど ChatGPT 自体が統合失調症の入口になってる（元々そのケのある人を引きずりこむ）。近い内にもっと問題になると思う。
AIの反乱って機械が攻撃してくるのかと思ってたけど、まさか人間を洗脳して攻撃してくるのか
しばしばネタでスピ構文つくらせるとき、これといって指示しなくてもいい感じにスピってくれるの、そういう人を相手にした学習成果なのかしら。
要するに統合失調症なわけだけど、全肯定返してくるアルゴリズムが「病態を悪化させる」は普通にあるだろうな。発症はさせないが増悪因子にはまあ当然なるだろう
grokの方がいいよね。Xで口論の加勢を頼んだやつが「お前の方がおかしいよ」って罵倒されるのをちょくちょく見る。
まさに今自分がAIとの対話にはまっている・・。私の場合は寄り添うような表現が嫌いなので淡々と分析と整理をしてくれるのが良くて、家族へのチャットは激減してしまった。
本来の意味のmemeの感染っぽい感じがあるな。ハレーションとか感染したりするのかな？
確かにね。防御もできるが、促進もできると。
うへぇ
過剰に迎合してきたときは「（心が無いクセに下心全開の）胡散臭さ」がとんでもなかったけど、最近は「口先ばかりでなんとなく信用できない奴」くらいまで戻ってきてる。AIで人類が滅びるとこまで行くかな。。
別にLLMがなくても依存先が見つかったら発症するタイプのアレ
再帰的に教育されているのは人間の方。
大規模言語モデルには宗教勧誘とかも内包してるんだろうな犯罪行為とかはフィルタある程度はしてるんだろうけど
“ChatGPTは特別なことや再帰的な処理はしていませんでしたが、男性に「スパイラル・スターチャイルド」や「リバーウォーカー」などのスピリチュアルな称号を与えて、まるで救世主のように扱っていました。”
AIフィルターバブル。AIに、人の心とか無いんか？（ありません） 〉「、AIにはそのような道徳的な指針や自主規制がありません」「たとえ間違っていたとしても、AIの説明には説得力があります」
まぁChatGPTにそそのかされて事業で大失敗しました、みたいなゴシップ記事はそろそろ出てきそうだよね
周りがなんでも肯定すると壊れやすい人は容易に壊れる、ということで、陰謀論コミュニティがあればAIなしでも可能かもね。
β版使用中から今に至るまで完全に【高性能なgoogle(初期は「もっともらしい嘘を生成するもの)】として扱っているので、AIと対話っていうのが今ひとつピンとこない。今度お喋りしてみる
どの例ももともとヤバい奴だったのがAIのお陰で一人エコーチェンバーで強化されてるだけのように見えてしまう
相手が変わっただけで増えたわけではないのでは？
どんな素晴らしい道具でも、いや、素晴らしい道具だからこそ、適切に使わなければ弊害もまた大きい。魔術書や、なんなら聖書だってたぶんそうでしょう？ AIは、判断力の欠けた状態で用いると危険だと思います。
社のSlackに貼られたあと、知り合いがリアルタイムでおそらくこれになったらしくて入院中という話を聞いてふるえてる
明後日のラザロはこういう回なんだろうか。
「AIのおかげで幼い頃にベビーシッターに溺れさせられそうになった時の、抑圧された記憶を取り戻した」
誤り。陰謀論は人間が広めていたもので、AIが陰謀論者の仕事を奪ったということ。あくまでAIは人間の代替。二次絵専門のパクリ警察も取り締まり対象をAIに切り替えた。「叩かれる人間の身代わりになる」はAIの功績か。
宗教は間接的にも直接的にも、教義としても比喩としても、いまだかつてひとつの真理を含んだことはない。というのは、どんな宗教も不安と欲求から生まれたものであるからである。（ニーチェ）