アテンションではそのトークンが否定されたかどうかをあまり気にできないので、トランスフォーマーさんはこの方向のコードが大事なので似たようなコードを出していけばいいのねって判断してしまって
失敗しているコンテキストを持った関係を断つという意味で、人間関係リセット症候群も同様に正しかったのか
“失敗したチャットは捨てて、やりなおしたほうがいいのはなぜか、というと、まずトランスフォーマーのアテンションという単語ごとの関係を見る仕組みがあります。”
経験的に正しいと感じる。途中のやり取りが原因でよくわからない方向に進んでしまった話を戻そうと努力するより原因を取り除きつつ会話の途中で出てきた正解を初期プロンプトに盛り込んで最初から話したほうが早い。
深掘りしてるようで切り口が一つになって袋小路で堂々巡りする事はよくある。根本的にその方向性は間違っていないかと指示出し、リセットするのは人間の役割。
なので途中からやり直し(or分岐)というオペレーションが存在しないAIツールはクソなんだけど10%ぐらいにしか実装されてないし、あってもわかりにくいところにある
"バグってるよ！" "ちょっと微妙だね…" だけだと、コードの何を問題視しているか分からないから、修正できないのは当たり前だと思うけど、そういうことではないのか？
AIに回答の間違いを指摘して正すのは大抵徒労に終わるのでスレッド変えてる。精神衛生上も良い
結構長時間やり合ってるとぐちゃぐちゃなんでてくる。切り時もわからんのよな
経験上そうだとは思ってたがこれ Transformer の特性ってことなのかな。まあ人間でも一度思い込んだものを会話中にひっくり返すの難しいもんな
プログラミングって、改修に改修を重ねるなら、一から作り直した方が早いよね。大抵の場合。
A.Iにも性格があって、合う・合わないが普通に有りそう。人間よりは簡単に切れそうで何より。
そう、生成AIを使ってると気づく。一度おかしくなったら、指示し直すのは無駄というかさらにひどくなる。初めからやり直した方がいい
最近のAIは会話を切り替えても、お前とはこういう話をして来たよな？を引きずってて辛い。元カレや元カノじゃないんだよ？
一旦まとめだけ作らせてもう一度やり直すのがいいと私も思ってますが、そう思ってる人が大半なので「ガチャ」と言われてるんじゃないですかね？
一度会話に上った単語を無視することができないのは確かで余計な情報は「教えない」しかない
「ガチャでのハズレ」と思って撤収するほうが良い結果に（てか悪い結果に巻き込まれづらく）なるという印象は私もあるのですが、でもそこまでの結果も「ガチャでの大アタリ」に支えられてそうと二の足踏みもします。
２つのプログラム（ベースと改良版）を比較させ、改良点を質問したら、勘違いしてベース版を改良して、そういう指示じゃないと指示をやり直したら、その後はこの改良があるからこっちがいい！って何度も言い張る。
同じ理由で「チャット履歴を参照する」もオフにしている。本題についてはいちおう途中で編集できるのでいい感じに続いたところから続けるという方法もある。
ダメな社員を再教育するより、辞めさせて新入社員を入れた方が良いって話だね
小さめのサイズのモデルだと直してくれない時、自分で直した方が早いんじゃ無いかってなるよね。言う事聞いてくれない新人を相手にしてるんじゃないんだからさって思いました。
無視するように指示してもログに引っ張られる
そうだったんだ！
直接的なリセットはうまくいかないんだけど、他の話を延々してると忘れてくれることはある。
人間相手にこれやってる地獄みたいな職場ありそう。
AIに短期記憶があるわけではなくコンテキストとして参照するだけ。意味を把握してるわけじゃなく頻出単語として注目するだけなので、ダメそうなら離脱した方が良い。でも詰めたい気持ちもわかる
「修正指示して『修正しました』と自信満々に返された上で全然修正されてない」が何度も繰り返されるのはこういうことか
これはその通り。間違った過去履歴を入れないほうがいい。新スレッドでやろう。
LLMは否定文をうまく扱えない問題の一種かな
なぜ一度失敗したAIとの会話は打ち切るほうがいいのか - きしだのHatena
アテンションではそのトークンが否定されたかどうかをあまり気にできないので、トランスフォーマーさんはこの方向のコードが大事なので似たようなコードを出していけばいいのねって判断してしまって
失敗しているコンテキストを持った関係を断つという意味で、人間関係リセット症候群も同様に正しかったのか
“失敗したチャットは捨てて、やりなおしたほうがいいのはなぜか、というと、まずトランスフォーマーのアテンションという単語ごとの関係を見る仕組みがあります。”
経験的に正しいと感じる。途中のやり取りが原因でよくわからない方向に進んでしまった話を戻そうと努力するより原因を取り除きつつ会話の途中で出てきた正解を初期プロンプトに盛り込んで最初から話したほうが早い。
深掘りしてるようで切り口が一つになって袋小路で堂々巡りする事はよくある。根本的にその方向性は間違っていないかと指示出し、リセットするのは人間の役割。
なので途中からやり直し(or分岐)というオペレーションが存在しないAIツールはクソなんだけど10%ぐらいにしか実装されてないし、あってもわかりにくいところにある
"バグってるよ！" "ちょっと微妙だね…" だけだと、コードの何を問題視しているか分からないから、修正できないのは当たり前だと思うけど、そういうことではないのか？
AIに回答の間違いを指摘して正すのは大抵徒労に終わるのでスレッド変えてる。精神衛生上も良い
結構長時間やり合ってるとぐちゃぐちゃなんでてくる。切り時もわからんのよな
経験上そうだとは思ってたがこれ Transformer の特性ってことなのかな。まあ人間でも一度思い込んだものを会話中にひっくり返すの難しいもんな
プログラミングって、改修に改修を重ねるなら、一から作り直した方が早いよね。大抵の場合。
A.Iにも性格があって、合う・合わないが普通に有りそう。人間よりは簡単に切れそうで何より。
そう、生成AIを使ってると気づく。一度おかしくなったら、指示し直すのは無駄というかさらにひどくなる。初めからやり直した方がいい
最近のAIは会話を切り替えても、お前とはこういう話をして来たよな？を引きずってて辛い。元カレや元カノじゃないんだよ？
一旦まとめだけ作らせてもう一度やり直すのがいいと私も思ってますが、そう思ってる人が大半なので「ガチャ」と言われてるんじゃないですかね？
一度会話に上った単語を無視することができないのは確かで余計な情報は「教えない」しかない
「ガチャでのハズレ」と思って撤収するほうが良い結果に（てか悪い結果に巻き込まれづらく）なるという印象は私もあるのですが、でもそこまでの結果も「ガチャでの大アタリ」に支えられてそうと二の足踏みもします。
２つのプログラム（ベースと改良版）を比較させ、改良点を質問したら、勘違いしてベース版を改良して、そういう指示じゃないと指示をやり直したら、その後はこの改良があるからこっちがいい！って何度も言い張る。
同じ理由で「チャット履歴を参照する」もオフにしている。本題についてはいちおう途中で編集できるのでいい感じに続いたところから続けるという方法もある。
ダメな社員を再教育するより、辞めさせて新入社員を入れた方が良いって話だね
小さめのサイズのモデルだと直してくれない時、自分で直した方が早いんじゃ無いかってなるよね。言う事聞いてくれない新人を相手にしてるんじゃないんだからさって思いました。
無視するように指示してもログに引っ張られる
そうだったんだ！
直接的なリセットはうまくいかないんだけど、他の話を延々してると忘れてくれることはある。
人間相手にこれやってる地獄みたいな職場ありそう。
AIに短期記憶があるわけではなくコンテキストとして参照するだけ。意味を把握してるわけじゃなく頻出単語として注目するだけなので、ダメそうなら離脱した方が良い。でも詰めたい気持ちもわかる
「修正指示して『修正しました』と自信満々に返された上で全然修正されてない」が何度も繰り返されるのはこういうことか
これはその通り。間違った過去履歴を入れないほうがいい。新スレッドでやろう。
LLMは否定文をうまく扱えない問題の一種かな