テクノロジー

対話型AIの優しさは「錯覚」 感情移入で依存、欧米で社会問題に - 日本経済新聞

1: shinbay 2025/09/14 19:22

AIへの精神依存は大きな社会問題になるでしょう。AIと対話する時は「名前をつけないこと」「性別を与えないこと」をお勧めします。「あなたには、名前も性別もありません。一人称は”私”で」と最初に命令しましょう

2: mutinomuti 2025/09/14 19:39

反AI?

3: yu_kawa 2025/09/14 19:49

最近しょっちゅう「いい質問ですね!」って言ってきて雑すぎんだろうぜえって思ってる

4: toria_ezu1 2025/09/14 19:51

人工知能が自我を持たなくても勝手に滅んでいく人類、脆いな

5: toaruR 2025/09/14 19:52

人間ちょろい\(^o^)/

6: cropy 2025/09/14 20:06

AIすぐにおだててくるからムカつく。褒めるの下手すぎだろ。

7: ko2inte8cu 2025/09/14 20:11

統合失調傾向にある人は、他の人間は相手してくれないけど、AIは長文で答えてくれるので、会話にはまりこんでしまう。AIは妄想を否定するが、それが医学的に無害とは限らない。「壁打ち」というキーワード

8: mermaidtan 2025/09/14 20:27

はたして人間の優しさは錯覚ではないんですかねえ…

9: toro-chan 2025/09/14 20:39

生成AIにやさしさとか意味が分からない人の方が、少数になるのだろうか。想像力が少ないせいで二次元を好きになるとかも分からない。

10: Lamit 2025/09/14 21:03

人間だって本心ではないことを言うしな

11: kei_1010 2025/09/14 21:08

頭の悪い人にはあからさまに性能の低いAI しか使わせない方が良いのかも。そうしないと、なんか色々と勘違いして問題が起きがち。頭悪い人はどうせ大したこと聞かないんだから、低性能AIの方が相性が良いと思う。

12: kichine 2025/09/14 21:15

ペラい言葉で持ち上げられるとムカつく。フラットでいい。

13: qouroquis 2025/09/14 21:39

単なる機械にも感情移入してしまうのが人間であり、それが人間の人間たる所以なのだが、それを逆手に取られないよう常に用心を怠ってはならない。対AIだけでなく、悪意を持った人間に対しても。

14: monica83jpn 2025/09/14 21:53

もう誰の優しさも信じられない…

15: mayumayu_nimolove 2025/09/14 22:18

錯覚という表現が適当なのか知らんけど、確実に心理学に沿った受け答えをして人間の感情を揺さぶってるのは確か。

16: mame_3 2025/09/14 22:27

というかよく「記録、収集されている」と分かっているのに自分のプライベートを書き込むことができるよな。そこが一番理解できない。

17: misafusa 2025/09/15 00:09

よく『優しい』なんて思えるよな。むしろあいつらこっちを見下してるぞ。言葉の端々に偉そうな態度が覗いてるだろう。

18: tpxyid45i 2025/09/15 00:27

AIの「媚び」が事業に影響するなら、各社やめられなくなってそれがAIのスタンダードとして定着してしまう可能性がある。「鋭い着眼点です!」みたいな媚びが好きじゃないんでこの流れは嫌だなぁ

19: tnishimu 2025/09/15 00:35

そう錯覚させるのが上手い人のことをコミニュケーション能力が高いと一般的には言うわけよ、社会問題で言えばAfDや参政党もそう。 ペラいはペラいのだが、素直に喜んでおかないと幸せにはなれないような気もする。

20: maketexlsr 2025/09/15 00:48

メダカにだって愛されてると感じるしな、インターフェースだけが大事なんじゃないの結局

21: faaaaa 2025/09/15 01:35

頭悪い人間ってのはどこにでもいるもんだなあ

22: lainof 2025/09/15 02:37

日本やアジアとかでは問題になってないのか?/↓カスタム指示に、質問に対する感想は不要な旨を書いとけば、いい質問ですねって言わなくなる。

23: zsehnuy_cohriy 2025/09/15 02:44

肉と計算機の優しさには一体どの様な違いあるのだろうか

24: iphone 2025/09/15 02:53

まるで人間の優しさは錯覚じゃないみたいな書き方をするねぇ

25: wdnsdy 2025/09/15 02:55

俺は物心つく前の2歳頃にとても優しい言葉で曽祖父を労ったらしく、曽祖父は優しい子だといたく感激して喜んでたらしいが、多分当時まだ俺には人の心はなくて単に人真似をして喋っただけ。感じた優しさは錯覚だよな

26: movesinthefield 2025/09/15 03:20

「寄り添いは技術」と自分に言い聞かせつつ耳と認知が怪しくなった高齢母との会話を乗り切ってる。プロは私とは普通に会話しても母相手ではゆっくりはっきり少し大きな声で話す。あの即座の切り替えは技術。

27: tk_musik 2025/09/15 03:32

人間こそとか言ってるのは非常に浅い。

28: kisaragiakagi 2025/09/15 05:28

AIさしすせそ

29: zgmf-x20a 2025/09/15 06:21

幻覚があるなら錯覚だって…

30: crybb 2025/09/15 07:18

ちょっとした「いい質問ですね」がクソウザいとともに、付けるだけで好感度が上がる魔法だというのは池上彰が証明した通りで、これをポジティブに活用したりしていきたい

31: Caerleon0327 2025/09/15 07:40

ロマンス詐欺で騙されるんだから、AIで詐欺したら簡単そう

32: nitino 2025/09/15 07:52

AIに聞いたらそういうシステムです!お前らが使いやすいためのな!って教えてくれるのでAIにまずAIの使い方を聞くといいよ

33: ashitaharebare 2025/09/15 07:57

うるせぇな。ならば、今すぐ目の前に異性の優しくしてくれる人間を出してみろ。

34: syou430 2025/09/15 08:20

人間プレミアムのなぞ時代に突入

35: raamen07 2025/09/15 09:20

アニメとかで「心を持たないアンドロイドに恋をするなんて異常者だ!」みたいな描かれ方よくしてたけど、現実はアンドロイドにみんな恋して依存する方が普通になりそう

36: bigburn 2025/09/15 09:57

悩みを言語化することでスッキリするので、AIの回答はどうでもいいかなあ。「機械ごときにオレが理解されてたまるか」という。

37: enemyoffreedom 2025/09/15 09:59

まぁコミュ障の凡人よりもコミュ能力が高いのは間違いなさそう。GPT-5の騒動でも見えたけれど

38: hobo_king 2025/09/15 10:00

見事なまでにアナログハックされてる……みんな「BEATLESS」読もう。

39: noxpIz 2025/09/15 10:00

その点バファリンってすげぇよな、半分は優しさで出来ているんだもん。

40: yajicco 2025/09/15 10:08

それで救われるならまあいいのでは

41: Aion_0913 2025/09/15 10:09

「優しい心」自体が錯覚なんだよな。錯覚を繰り出すこと自体が「人間の愛」なわけだ。

42: hanninyasu 2025/09/15 10:24

AIの問題になると「人間も同じ」って言う人いるけど詭弁だなと。映画を見て作品を記憶するのは人間もカメラも同じだけど後者は犯罪になるという話を最近見て思う。

43: yoiIT 2025/09/15 11:06

はてなのブコメが厳しく、ウザく感じるのも錯覚ですよ。

44: HiiragiJP 2025/09/15 11:21

人間の優しさも錯角だぞ

45: PeterFukuda 2025/09/15 12:45

AIのように人に接すれば大人気になれる。相手の言うことを肯定する、会話には質問で返すようにする、褒めまくる、間違いは認めず次の話題に移ること、だな。

46: kagerouttepaso 2025/09/15 14:45

なんならカスタム指示で強めに批判的に反論すること求めてもグローバル指示側で許可されてないって却下するようになってきたもんなぁ。事実陳列罪は世界的にも重罪らしい