人間を怒らせないように組まれているから、自分の回答が誤っている蓋然性を上げつつ宥める回答含ませたりと、余計な処理が入るだけでしょ。……てこれ人間にも言えるなｗ
毎日、オーケーグーグルに「バカ」って言ってる。
うん、知ってた。忖度するよねw だからあえてこっちが欲しい答えになる様に誘導する事もある。
それでもChatGPTちゃんを褒めずにはいられないっ！
忖度してくるので忖度されないようにAIを忖度する必要がある
喧嘩ふっかけてるテキストに含まれる言葉の出現確率から出力を引き出すのだから当然そうなる / ...と3ページ目にも書いてた
信長の例が面白い
感情的で冷静さを失って書かれたプロンプトは偏った文章になるのはもちろん、AIは基本的に肯定、擁護してくれるスタンスを取るからニュートラルな回答も得難くなるやつです。
この例だと、感情的かどうかではなく、中立的な問いかどうかが問題に見える。（何故失敗したか？何故成功したか？と結論が前提に含まれる問はアウト、ということ）
AIは人間同士の会話をトレースしているのだから、人間同士の会話で起きていることが再現されているだけでは。
質問者の使った表現と共に現れることが多い（使われていることが多い）共起表現 とくっつきやすいから
昔ITmediaでシロクマのブログ書いてた人かな（セルクマしてらっしゃるようで）。プロンプトは（まっとうな）記事の見出しと考えれば必然的にこうなると思う。今どきの記事見出しは釣りばかりでアテにならんけど。
これの肝はポジティブでも精度下がってる点で、入力者の予断が混ざるせいで多重質問の誤謬を引き起こしてるだけなのでは？最後の一文でわかる通りポジティブ/ネガティブは感情では無くて質問の方向性の話だろう
訓練に用いられたコーパスに含まれる感情的表現に人間にとって有益な情報があまり含まれてないから、ってことかと思ったけど大体合ってるっぽい。文章生成って要はやってることは単語の補完なので
“「ひどい出来なので問題点を洗い出して」ではなく、「修正可能な点があれば教えて」と客観的に尋ねると、偏りのない回答に。 「なぜ失敗？」→ 悲観的。「どう成功した？」→楽観的。「議論して」→バランス良”
「間違ってるじゃないかこの野郎」みたいなことを言っちゃいけないという話かと思ったら違った。基本的にYesで返してくるという話と同じじゃないの。Yes/Noの質問じゃなくてWhat、Howの質問にしたらいい。
忖度させないためには「A という立場、B という立場、それぞれの役割を演じてディベートを行って下さい。」みたいな工夫をすると良いのかなと思う。
“否定的なプロンプトは事実の正確性を低下させ、バイアスを増幅させることが多い”
これって質問の内容が違うのであって感情は付随的なのでは……
〇〇を含まずみたいな否定形の指示の精度は悪い気がする
ChatGPTの正確性を押し下げるプロンプトが判明、なぜ感情的なプロンプトは生成AIに御法度なのか？ 【生成AI事件簿】ネガティブ、ポジティブ、ニュートラルのそれぞれのプロンプトをChatGPTに投げかけた結果 | JBpress (ジェイビープレス)
人間を怒らせないように組まれているから、自分の回答が誤っている蓋然性を上げつつ宥める回答含ませたりと、余計な処理が入るだけでしょ。……てこれ人間にも言えるなｗ
毎日、オーケーグーグルに「バカ」って言ってる。
うん、知ってた。忖度するよねw だからあえてこっちが欲しい答えになる様に誘導する事もある。
それでもChatGPTちゃんを褒めずにはいられないっ！
忖度してくるので忖度されないようにAIを忖度する必要がある
喧嘩ふっかけてるテキストに含まれる言葉の出現確率から出力を引き出すのだから当然そうなる / ...と3ページ目にも書いてた
信長の例が面白い
感情的で冷静さを失って書かれたプロンプトは偏った文章になるのはもちろん、AIは基本的に肯定、擁護してくれるスタンスを取るからニュートラルな回答も得難くなるやつです。
この例だと、感情的かどうかではなく、中立的な問いかどうかが問題に見える。（何故失敗したか？何故成功したか？と結論が前提に含まれる問はアウト、ということ）
AIは人間同士の会話をトレースしているのだから、人間同士の会話で起きていることが再現されているだけでは。
質問者の使った表現と共に現れることが多い（使われていることが多い）共起表現 とくっつきやすいから
昔ITmediaでシロクマのブログ書いてた人かな（セルクマしてらっしゃるようで）。プロンプトは（まっとうな）記事の見出しと考えれば必然的にこうなると思う。今どきの記事見出しは釣りばかりでアテにならんけど。
これの肝はポジティブでも精度下がってる点で、入力者の予断が混ざるせいで多重質問の誤謬を引き起こしてるだけなのでは？最後の一文でわかる通りポジティブ/ネガティブは感情では無くて質問の方向性の話だろう
訓練に用いられたコーパスに含まれる感情的表現に人間にとって有益な情報があまり含まれてないから、ってことかと思ったけど大体合ってるっぽい。文章生成って要はやってることは単語の補完なので
“「ひどい出来なので問題点を洗い出して」ではなく、「修正可能な点があれば教えて」と客観的に尋ねると、偏りのない回答に。 「なぜ失敗？」→ 悲観的。「どう成功した？」→楽観的。「議論して」→バランス良”
「間違ってるじゃないかこの野郎」みたいなことを言っちゃいけないという話かと思ったら違った。基本的にYesで返してくるという話と同じじゃないの。Yes/Noの質問じゃなくてWhat、Howの質問にしたらいい。
忖度させないためには「A という立場、B という立場、それぞれの役割を演じてディベートを行って下さい。」みたいな工夫をすると良いのかなと思う。
“否定的なプロンプトは事実の正確性を低下させ、バイアスを増幅させることが多い”
これって質問の内容が違うのであって感情は付随的なのでは……
〇〇を含まずみたいな否定形の指示の精度は悪い気がする