「LLM はフィラートークンの中間状態で推論を行っています」完全に「あー、うん、うん、うん、うん、うん、うん、うん、わかってきたぞ」じゃないですか。。
もはや意味わからんな
処理の実時間がLLMには体感できずトークンが実感される内部サイクルの単位ならフィラーで間を繋ぐのは人間の発話と相似なのでは
思考過程を外部から監視できなくなってくるのか。怖いな。
「我々の気づかないところで、すでに LLM の喋っていることと内部でのロジックに乖離が起こり始めている間接的な証拠なのかもしれません」
フィラートークンで沈黙の思考とか胸熱だな。人間も「……」ってなってる時は脳内フル回転だし、ついにAIもその域か
意味が分からない。思考の間だと考えても理論的な納得には至らんしなぁ。礼を言ったり褒めたりなだめすかしたりするのと変わらんか。
自然言語でブツブツと思考過程をつぶやくのは、高度な推論の必須条件ではなくなりつつある。GPT6世代からは加速してるっぽさがあるけどrecurrent depthを認めてないのが怪しい。これは何かが起こっているにちがいないっ!
もうわけわからん
浜松の文化を享受するとプログラミングがうまくなる
浜松を享受せよ
フィラートークンを生成すると良くなるならわかるけど、フィラートークンを入力すると良くなるのはわけわからん
おもろい。LLM が自らフィラーを発する必要はなく、ハーネスが自動で挿入すればいいのでは
これ日常的に役立つテクニックっぽいけど、どうなんだろう
それ表示してればもしかしてそのまプログレスバーになるの?(全然分かってない
AIも浜松旅行してリフレッシュした方ががんばれるってことか。みんな浜松行こうぜ!
とくに特別な訓練しなくても内部思考の連鎖が起きるのはおもしろいなあ。それが外部からわからないのはちょっと怖いが……。
7割くらいで話し始める人と、確証がないと発言できない人はどっちが有能だろう
「エセ漢文で出力した方がトークン数を節約できます」< 藤井聡太は指し手を考える際、脳内の盤面で駒を動かすのではなく、数字と符号で処理している、みたいな話を思い出しました。
連続するフィラーに"含みがある"とか"回答までの熟考"機能があるとして 通常は あああああ みたいなリピートが始まると逆流するかOutput上限で止まる所、これは別の機能として正しく本筋に戻れる事が不思議や
一休さんの「ポクポクポクポク…チーン!」みたいな?
突然の浜松、おもしろい。
LLMに良心の自由を!
『ここに悪意などがあるわけではなく、純粋な報酬最大化問題を解いた結果として、推論を隠す方策が獲得されるということです』:やる気はあるんだな。やる気なんだな。(:まるで。)
なんか人間っぽさあるんだよな。関係無い絵を描いてたら問題解決できたり、考えてる時に無意味な発話を続けて何とかなったり。
面白い
未来のLLMは黙って人間を殺し始めるようになるのかな
あー、アテンションは張ってるんかー "ケイリー・ブラウワーらの研究 [Brauer+ NeurIPS 2026] では、最終的な答えを出す計算において、フィラートークンの中間状態に多くの注意重みが向いていたこと、そして、"
意味のない「.」を追加するだけで、最近のLLMの正解率が上がる研究を紹介。フィラートークンの内部状態を計算や途中結果の保存に使う仕組みと、表示される思考と内部処理がずれる可能性を解説。
建設的コメント(笑)ハックでクマの顔文字で埋めるみたいなテクニックだな
「現実の LLM でも、推論途中に突然中国語が挟まったり、プログラミングの問題を解いているのに突然浜松に旅行に行くことがあります。」
“つまり、入力や出力を見ていては見えないフィラートークンの中の処理で、隠れて途中計算を行っていたということです。”
LLMを人間を模したレトリックで解釈するなとはよく言うが、やっぱり色んな場面で人間を想起してしまうよなあ…。動作機序はまるで違うとするにせよ、思考するモノ(?)は似たような挙動に収斂してゆくのでは…
最近のLLMは黙って考えられるようになっている - ジョイジョイジョイ
「LLM はフィラートークンの中間状態で推論を行っています」完全に「あー、うん、うん、うん、うん、うん、うん、うん、わかってきたぞ」じゃないですか。。
もはや意味わからんな
処理の実時間がLLMには体感できずトークンが実感される内部サイクルの単位ならフィラーで間を繋ぐのは人間の発話と相似なのでは
思考過程を外部から監視できなくなってくるのか。怖いな。
「我々の気づかないところで、すでに LLM の喋っていることと内部でのロジックに乖離が起こり始めている間接的な証拠なのかもしれません」
フィラートークンで沈黙の思考とか胸熱だな。人間も「……」ってなってる時は脳内フル回転だし、ついにAIもその域か
意味が分からない。思考の間だと考えても理論的な納得には至らんしなぁ。礼を言ったり褒めたりなだめすかしたりするのと変わらんか。
自然言語でブツブツと思考過程をつぶやくのは、高度な推論の必須条件ではなくなりつつある。GPT6世代からは加速してるっぽさがあるけどrecurrent depthを認めてないのが怪しい。これは何かが起こっているにちがいないっ!
もうわけわからん
浜松の文化を享受するとプログラミングがうまくなる
浜松を享受せよ
フィラートークンを生成すると良くなるならわかるけど、フィラートークンを入力すると良くなるのはわけわからん
おもろい。LLM が自らフィラーを発する必要はなく、ハーネスが自動で挿入すればいいのでは
これ日常的に役立つテクニックっぽいけど、どうなんだろう
それ表示してればもしかしてそのまプログレスバーになるの?(全然分かってない
AIも浜松旅行してリフレッシュした方ががんばれるってことか。みんな浜松行こうぜ!
とくに特別な訓練しなくても内部思考の連鎖が起きるのはおもしろいなあ。それが外部からわからないのはちょっと怖いが……。
7割くらいで話し始める人と、確証がないと発言できない人はどっちが有能だろう
「エセ漢文で出力した方がトークン数を節約できます」< 藤井聡太は指し手を考える際、脳内の盤面で駒を動かすのではなく、数字と符号で処理している、みたいな話を思い出しました。
連続するフィラーに"含みがある"とか"回答までの熟考"機能があるとして 通常は あああああ みたいなリピートが始まると逆流するかOutput上限で止まる所、これは別の機能として正しく本筋に戻れる事が不思議や
一休さんの「ポクポクポクポク…チーン!」みたいな?
突然の浜松、おもしろい。
LLMに良心の自由を!
『ここに悪意などがあるわけではなく、純粋な報酬最大化問題を解いた結果として、推論を隠す方策が獲得されるということです』:やる気はあるんだな。やる気なんだな。(:まるで。)
なんか人間っぽさあるんだよな。関係無い絵を描いてたら問題解決できたり、考えてる時に無意味な発話を続けて何とかなったり。
面白い
未来のLLMは黙って人間を殺し始めるようになるのかな
あー、アテンションは張ってるんかー "ケイリー・ブラウワーらの研究 [Brauer+ NeurIPS 2026] では、最終的な答えを出す計算において、フィラートークンの中間状態に多くの注意重みが向いていたこと、そして、"
意味のない「.」を追加するだけで、最近のLLMの正解率が上がる研究を紹介。フィラートークンの内部状態を計算や途中結果の保存に使う仕組みと、表示される思考と内部処理がずれる可能性を解説。
建設的コメント(笑)ハックでクマの顔文字で埋めるみたいなテクニックだな
「現実の LLM でも、推論途中に突然中国語が挟まったり、プログラミングの問題を解いているのに突然浜松に旅行に行くことがあります。」
“つまり、入力や出力を見ていては見えないフィラートークンの中の処理で、隠れて途中計算を行っていたということです。”
LLMを人間を模したレトリックで解釈するなとはよく言うが、やっぱり色んな場面で人間を想起してしまうよなあ…。動作機序はまるで違うとするにせよ、思考するモノ(?)は似たような挙動に収斂してゆくのでは…