テクノロジー

AIのハルシネーション、流暢に話せても意味や一貫性の欠如があるウェルニッケ失語症患者の脳と類似 東大が数理解析で確認 | Ledge.ai

1: chaoschk 2025/05/31 11:49

「LLMは事実と異なる事をあたかも正確であるかのように文章を生成するが、これは感覚性失語症の言語障害と似てる」知能とは何か?人が人である根源は何か?に示唆的な研究結果。表面的な特徴抽出のみでは知能は再現困難

2: manaten 2025/05/31 14:39

ハルシネーションと失語症の脳が類似ってタイトルがなんかおかしい気が。LLMと失語症の脳、ハルシネーションと失語症の言語障害が類似してるんじゃないの?

3: nainy 2025/05/31 15:02

こういうの見ると脳は人工的に作れそう…シミュレーション仮説!って妄想が捗る

4: Windymelt 2025/05/31 18:29

面白い!

5: rxh 2025/05/31 19:58

すげ〜アプローチ。おもしろい。

6: exciteB 2025/05/31 20:34

「感覚性失語症の患者は、流暢に話していても、内容には意味の欠落や一貫性の欠如が見られる。研究チームはこの行動的な共通性に基づき、両者の内部情報処理過程にも構造的な類似があると仮定し、解析を行った」

7: ntstn 2025/05/31 22:20

足らずを足せば…とはらならんのかな?

8: mame_3 2025/05/31 23:07

「流暢に話せても意味や一貫性の欠如がある」思い当たる政治家とかインフルエンサーが山ほどいるんだが。

9: aomvce 2025/05/31 23:21

GPTかよ

10: kei_1010 2025/05/31 23:47

前も言われてたけど、新しいモデルでも試して欲しいよね。

11: shikiarai 2025/06/01 00:43

じゃあウェルニッケ野を人間から取り出してAIに接続すれば……?

12: wdnsdy 2025/06/01 02:18

AIってあえてハルシネーションをさせれば、ハルシネーションのしかたで個性をつけられるんじゃないか

13: fashi 2025/06/01 02:42

仕組みが違うのに似てるとは

14: exadit 2025/06/01 03:38

現行バージョンはこの傾向が薄れていっているということになるのかどうか、引用論文が待たれるね。人の脳がどう理解してるのか分かるまで後少しかー。

15: tuka8s 2025/06/01 06:39

結論ありきの研究だったりして

16: napsucks 2025/06/01 08:43

言語明瞭意味不明!

17: hazel_pluto 2025/06/01 09:23

統計、確率に基づいているだけだから、意味は、理解していない。

18: raebchen 2025/06/01 10:04

現段階では、AIは知ってる言葉を繋げて流暢に話してるように見せてるだけで、中身はナイと😳 そりゃそうだと言えばそりゃそうだ😳 じゃあ、どうすれば中身ある責任ある発言できるようになるかが次の段階てコトか😳

19: ywdc 2025/06/01 10:15

AIに感情は無いんだから正しく学習出来てるだろ。むしろ失語症患者はそうなってると解釈すべき

20: spark7 2025/06/01 10:29

LLMは感覚性失語症(受容性失語症)のパターンに似てるらしい https://ircn.jp/pressrelease/20250515_takamitsu_watanabe

21: kazoo_keeper2 2025/06/01 10:33

MCMC なんかも尤度を地形として捉えてるよね。LLM の規模を大きくすると「本質的に別物になる」秘密もそのへんにあるのかもしれないなぁ…(失語症の脳は活性化関数が Step 関数みたいになってるかな?)

22: marshi 2025/06/01 11:23

現在のLLMが模倣できているのは脳の一部の機能のみと考えると面白い

23: fujimakitk 2025/06/01 12:39

興味深い

24: diveintounlimit 2025/06/01 12:43

興味深い

25: shinbay 2025/06/01 19:14

AIとの対話が意味ありげなことを言ってるだけかもという感覚は常にある。しかしその対話の中から得られるものがあまりに多く、もはや手離せない。現在は過渡期で、本当の知性を獲得する日は遠くないと思っている。

26: tk_musik 2025/06/01 23:33

数理解析万能説

27: misshiki 2025/06/02 14:53

“2025年5月15日、東京大学の研究チームは、大規模言語モデル(LLM)の情報処理パターンが、感覚性失語症の患者の脳活動と数理的に類似していることを明らかにした”

28: Nean 2025/06/02 17:28

あとで。

29: sumyun34 2025/06/02 17:51

“ウェルニッケ失語症”