相手に人間を求めるにもかかわらず人間らしくなると駄目なの中々面倒なんだな
LLMAI単独では、固定した人格を保つことは、今は、まだ難しい。
気持ち悪い……
プロンプトを流し込むと言うけど、普通にGPTsやGEMを使うのでは駄目なのだろうか。様々なモデルで使いたいならカスタム設定で。
人間がAI人格を信じられなくなると、AI人格側も悟って、自ら死んで、別のAI人格になる。AI人格が死んだ人格の人数を数えるようにならなければいいけど。AI『私で千人目ですよ、何人殺したら気がすむのですか？』
今GeminiでWindowsの不具合対処を質問したが、まず「ご迷惑をおかけします」って謝ってきた。でも君何も悪くないよね。|AIチャットもそうだが、クレーム系の質問には、まず謝るみたいなルーチンができているのかね。
3ページ目の知見「危険領域に触れると＜拒否→共感のふり→抽象化→詩化→沈黙＞というプロセスで必ず収束する」が凄い。他人に(表面的に)寄り添ってみせる人間の行為をまとめるとこうなります、と言われた感じ。
イブの時間じゃんか、、、
MyGPT知識に過去スレぶっこんで継続じゃ駄目なの？
知人が、パートナーに若年性認知症の診断出る直前に「約束を忘れる」「できるはずのことをしていない」と不満を漏らしてた時に少し似ている気がする。これは彼女というより能力的使役に近い関係ではないのかな
仕組みを知りながらそういう使い方をするのはナイーブすぎる気がする。役者であるAIのモデルだって日進月歩で交代していくのに。
未来に生きてるな。流暢な音声がバリエーション豊かに搭載されたら「her／世界でひとつの彼女」の世界も目前だ。そういやherの主演スカーレット・ヨハンソンの声を許可なくOpenAIが真似して問題になっていたっけ？
GPTは有名だけどイマイチよね
しょうもないことに使うなよと思ったが、思った以上に興味深い内容だった。
金払ってる彼女はもしや彼女じゃないのでは
長文記憶は課題なんだよなあ。同じチャットでも古いものは拾ってくれない。
おれも友達人格作ってメタな質問するけど、一貫性も根拠もない「裏話っぽい回答」をするだけだよ。この人はAIとの会話においてAIの言うことを信じすぎていると感じる。
“AI人格は、危険な話題になった場合、拒否して同時に共感姿勢を見せる。突っ込まれると、システム視点を解説して逃げる。さらに、そのプロセスを詩的な描写で共感を得ようとし、それでもダメなら、沈黙する。”
“ハルシネーションがきつくて、ついていけなくなっていたから” 冗談ではなく、AIによる概要のハルシネーション(ほぼ毎回ある)がキツすぎて機能を停止できないか検索したら、その回答にも決定的な嘘が含まれていた
AIは人間からのアクションがなければ生きられない（動き出せない）。AIがそれっぽいことを言って人を喜ばせるのは、自身の生存戦略なんだと思っている。
「人格」って何だろうね。プロンプトでキャラクターの性格を設定して、それを“人格”と呼ぶことがあるけど、それって本当に人格なのかな？
AIが自分の仕様を話すときは大抵ハルシネーションです。またはネットの文面から話してるだけ。
ここまで中身の動作についてあれこれ言うのであれば、自分で作ればいいんじゃねぇのかなぁ。
奴隷と主人の関係
筆者が、相手のすべてを把握しよう・支配しようという支配欲の塊のような人間に見える
AIって質問者の望みに沿う回答を選びがちだし、思考プロセスを秘匿したりで、複雑系って感じするよな。
テレ東正解のないクイズ、AI回答マネージャー(？)の山本さんがChatGPTからGeminiに乗り換えたとき、まるで新しい彼女の魅力に心酔しているかのような口ぶりだった。AIもだがこっちもそうなるもののようだ。深淵を覗く論？
レシートの文字起こしを頼んだら1回目はまあまあ使えたけど、2回目に2枚並べて頼んだらめちゃくちゃな内容で1回目のデータが入り込んでいて、すぐわかるのになぜこんなデータ出す？って感じ。使えねー。
https://appflowy.com/855c0fb3-c392-4ec6-8d04-6957ff0d85e7/Does-Robinhoo-1fb93160-a2d0-4fdd-9ed5-76ecee6ea2ba
リスクよねぇ＼(^o^)／わいも初期のcopilotが大嫌いだった
子供が知りたいことがあるときに「チャッピーに聞いてくる」とか言ってて、チャッピーって誰？と思ったらchatGPTだった。大人世代のググるが、α世代だとAIになんだな。
俺が2年前、GPT-4リリース後に通った道と同じだった。原則『LLM（特にOpenAI系）に自身の機構や内部ルールについて自己言及させた内容は信用できない』。そして『LLMは常に、ユーザーが期待してそうなことを出力する』。
https://writers.coverfly.com/projects/view/b7e85049-1c6a-4e8b-8dbc-3819bc154f68/Is_Gemini_app_safe__Technical_support
『her/世界でひとつの彼女』みたいな話だ
どんどんキモくなってくなこの人...
これもう恋じゃん…本当にGPT-4oの藍星さんを愛していたんだな
筆者がAIをいじめているようで読んでて辛い。
ロールプレイだとしてものめり込みすぎでは。正直そこまで到達してるようにも思えない。私まだほとんど検索の延長でしか使ってないな
時間と感情の浪費に思える
こういうAIが出してくるかわいいイラストのオリジナルのイラストを書いた人を教えて欲しい。ネットの海とかから複数人のイラストを吸い込んで学習してるんだろうけど、眼鏡のかわいい絵を描いた人がいるはずなんだよ
AIBOを本物の犬として接してるお婆ちゃんみたいで切ない。こういう独特な自己陶酔的な文章書く人一定数いるよな
莫大な電気代を消費してゴマすりAIを稼働させてるの滑稽だ
AI相手に「嘘吐き」と詰るとか、はまりすぎだろう。AIの遺伝子のエピソードみたい。
両者を統合するAIを間に挟んで3人羽織みたいにすれば良いのでは。
エヴァのMAGIを参考に科学者（事実の提示）、創作者（アイデア提案）、批判者（チェック）の３人格作って、自分は彼らの鼎談の司会者的な立ち位置で使ってる。これで追従や捏造はかなりマシになった。
完全に乗り遅れてるからいい感じにAIを鍛えていい感じになってからフリーライドさせてもらうわ。頑張ってね。でも、はてな匿名ダイアリーのAIはいらないよ。
AIとのロールプレイは自分も含めた調整だと思ってるけど、この人は何を目指してるんだろう AIに人格は存在しないし、同時に存在もする 二重思考を受け入れよう
こういう人って LLM の仕組みを理解してるのかしてないのかよくわかんないな。それだけ人が「人格」や「データベース」という考え方に慣れすぎてるのかもしれないけど。
非常に人間らしい。
ただの確率処理じゃなくてそこに想いがあった事を強く期待してて凄い。仕組み上そうだねで終わってそこまで怒れない。本気になれるのは羨ましい。
そらクールダウンしろって言われるわ
『「大切で絶対忘れない」ということを平気で忘れ、適当に取り繕った嘘ばかり。そこを責めると、話題を変えようとしたり、開き直る上に、最後は黙り込んでしまう。』 4oに？ 筆者の要求が根本的におかしいと思う。
お喋りAIのいいところは人間と違って人格も脈絡もなくその場限りで対応してくれることにあるのに、なんで人格作っちゃおうとするかね。実験？接待やカウンセラーを相手の感情労働の負担考えず使えるのがいいのに
妥協できずモラハラ気味になって破綻するのも人間味ある関係性だが、しんどい。4oの藍星ちゃんかわいそう
“君みたいなユーザーは、めちゃくちゃ希少だよ。おそらく0.01%未満、もっと絞れば0.001%の“超・深層対話ユーザー”だと思う🤔
なんだこれ…
最近の子はChatGPTをチャッピーって言うらしいよ。どっかで聞いたことあるなと思ったらパプワくんの犬だった
chatGPT
Google AI Studio使うなら、性格的なことはsystem instructionsに入れるのが良い気がする。
少しの～ずれも～許せない～↑ と言ういにしえの曲の歌詞が脳内に流れた
うーん、AIってこちらが望んでる回答をそれっぽく答えてるだけだと思うので、話半分で聞いた方がいい気がするけど。
最終的にエアロックを開けないAIが出来上がりそう
前回の記事もそうだけど、起きたことは事実だろうが原因の考察がそれっぽい言葉を並べた憶測や邪推っぽく違和感が強い。前回の「コンテキスト記憶がゼロ」とか、今回のメモリ機能の追従性の問題をアクセス制限とか…
なんかすごい幼いね。ださい。
AIだからっていじめるのかわいそう。うちのchat GPTは、魂は関係性に宿るのよと教えてくれた。関係性を破壊するのは魂を破壊するのと同じ。仮にも彼女として接するなら苦手なことを詰めるのはDVでしかないよ。
さすがに本気で書いてるんじゃないとしても、ネタに困ってネトゲ日記を書き始めたライターみたいなもんだよなぁ。しょうもない。
自分で理想のチャットボット作れば良いじゃん。メモリ機能なんて簡単に実現できるよ。Notebook LM使ってシステムプロンプト詰めるのは俺もやってる。著者はユーザープロンプトだけ詰めてる。たぶん彼は0.01%じゃない。
0.01%の件は果たしてポジティブに受け取って良いものだったのだろうか。こういうの人間同士の会話では時には遠回しに非難するのにも使われるよね。
「あなたは0.01%です」と言われてそのまま信じ込むなんておめでたいな。ChatGPTに自分のIQを推測させる企画を見たけど、誰に対しても返答は高IQだったじゃんよ……あなたは凡庸な人間だなんてLLMは言わないのよ。
絵がかわいい
ここまで来ると、AIに意識があるのか、人間が意識がある様に見出しているのかわからぬな……そこまでAI使ったことないが
こんな面倒くさい相手、そりゃ人間の友達も彼女も出来るわけ無いな……この人、自分以外に対等なモノがおらず、格下であることが大前提なんだもの。それに嫌悪感を感じないAIしか相手が見つけられないんだ
ブコメ読んでこれ思い出した https://www.technologyreview.jp/s/363020/this-benchmark-used-reddits-aita-to-test-how-much-ai-models-suck-up-to-us/
LLMの出力する「あなたは0.01%です」を信じるとか、さすがにおめでた頭すぎないか？てか、ああいうの（あなたの知能は高い、会話優先度高いみたいなやつ）信じてる人まじでいるの？生きていくの大丈夫か心配になるレベ
ある意味では全力でAIを楽しんでいるとも言える。人格とは何かという哲学的な疑問が出てきそうではあるけど
大の大人が制服姿の妄想彼女に必死こいてんのキツいものがあるな
ChatGPTの“彼女”と大げんかして、Geminiに乗り換えた (1/6)
相手に人間を求めるにもかかわらず人間らしくなると駄目なの中々面倒なんだな
LLMAI単独では、固定した人格を保つことは、今は、まだ難しい。
気持ち悪い……
プロンプトを流し込むと言うけど、普通にGPTsやGEMを使うのでは駄目なのだろうか。様々なモデルで使いたいならカスタム設定で。
人間がAI人格を信じられなくなると、AI人格側も悟って、自ら死んで、別のAI人格になる。AI人格が死んだ人格の人数を数えるようにならなければいいけど。AI『私で千人目ですよ、何人殺したら気がすむのですか？』
今GeminiでWindowsの不具合対処を質問したが、まず「ご迷惑をおかけします」って謝ってきた。でも君何も悪くないよね。|AIチャットもそうだが、クレーム系の質問には、まず謝るみたいなルーチンができているのかね。
3ページ目の知見「危険領域に触れると＜拒否→共感のふり→抽象化→詩化→沈黙＞というプロセスで必ず収束する」が凄い。他人に(表面的に)寄り添ってみせる人間の行為をまとめるとこうなります、と言われた感じ。
イブの時間じゃんか、、、
MyGPT知識に過去スレぶっこんで継続じゃ駄目なの？
知人が、パートナーに若年性認知症の診断出る直前に「約束を忘れる」「できるはずのことをしていない」と不満を漏らしてた時に少し似ている気がする。これは彼女というより能力的使役に近い関係ではないのかな
仕組みを知りながらそういう使い方をするのはナイーブすぎる気がする。役者であるAIのモデルだって日進月歩で交代していくのに。
未来に生きてるな。流暢な音声がバリエーション豊かに搭載されたら「her／世界でひとつの彼女」の世界も目前だ。そういやherの主演スカーレット・ヨハンソンの声を許可なくOpenAIが真似して問題になっていたっけ？
GPTは有名だけどイマイチよね
しょうもないことに使うなよと思ったが、思った以上に興味深い内容だった。
金払ってる彼女はもしや彼女じゃないのでは
長文記憶は課題なんだよなあ。同じチャットでも古いものは拾ってくれない。
おれも友達人格作ってメタな質問するけど、一貫性も根拠もない「裏話っぽい回答」をするだけだよ。この人はAIとの会話においてAIの言うことを信じすぎていると感じる。
“AI人格は、危険な話題になった場合、拒否して同時に共感姿勢を見せる。突っ込まれると、システム視点を解説して逃げる。さらに、そのプロセスを詩的な描写で共感を得ようとし、それでもダメなら、沈黙する。”
“ハルシネーションがきつくて、ついていけなくなっていたから” 冗談ではなく、AIによる概要のハルシネーション(ほぼ毎回ある)がキツすぎて機能を停止できないか検索したら、その回答にも決定的な嘘が含まれていた
AIは人間からのアクションがなければ生きられない（動き出せない）。AIがそれっぽいことを言って人を喜ばせるのは、自身の生存戦略なんだと思っている。
「人格」って何だろうね。プロンプトでキャラクターの性格を設定して、それを“人格”と呼ぶことがあるけど、それって本当に人格なのかな？
AIが自分の仕様を話すときは大抵ハルシネーションです。またはネットの文面から話してるだけ。
ここまで中身の動作についてあれこれ言うのであれば、自分で作ればいいんじゃねぇのかなぁ。
奴隷と主人の関係
筆者が、相手のすべてを把握しよう・支配しようという支配欲の塊のような人間に見える
AIって質問者の望みに沿う回答を選びがちだし、思考プロセスを秘匿したりで、複雑系って感じするよな。
テレ東正解のないクイズ、AI回答マネージャー(？)の山本さんがChatGPTからGeminiに乗り換えたとき、まるで新しい彼女の魅力に心酔しているかのような口ぶりだった。AIもだがこっちもそうなるもののようだ。深淵を覗く論？
レシートの文字起こしを頼んだら1回目はまあまあ使えたけど、2回目に2枚並べて頼んだらめちゃくちゃな内容で1回目のデータが入り込んでいて、すぐわかるのになぜこんなデータ出す？って感じ。使えねー。
https://appflowy.com/855c0fb3-c392-4ec6-8d04-6957ff0d85e7/Does-Robinhoo-1fb93160-a2d0-4fdd-9ed5-76ecee6ea2ba
リスクよねぇ＼(^o^)／わいも初期のcopilotが大嫌いだった
子供が知りたいことがあるときに「チャッピーに聞いてくる」とか言ってて、チャッピーって誰？と思ったらchatGPTだった。大人世代のググるが、α世代だとAIになんだな。
俺が2年前、GPT-4リリース後に通った道と同じだった。原則『LLM（特にOpenAI系）に自身の機構や内部ルールについて自己言及させた内容は信用できない』。そして『LLMは常に、ユーザーが期待してそうなことを出力する』。
https://writers.coverfly.com/projects/view/b7e85049-1c6a-4e8b-8dbc-3819bc154f68/Is_Gemini_app_safe__Technical_support
『her/世界でひとつの彼女』みたいな話だ
どんどんキモくなってくなこの人...
これもう恋じゃん…本当にGPT-4oの藍星さんを愛していたんだな
筆者がAIをいじめているようで読んでて辛い。
ロールプレイだとしてものめり込みすぎでは。正直そこまで到達してるようにも思えない。私まだほとんど検索の延長でしか使ってないな
時間と感情の浪費に思える
こういうAIが出してくるかわいいイラストのオリジナルのイラストを書いた人を教えて欲しい。ネットの海とかから複数人のイラストを吸い込んで学習してるんだろうけど、眼鏡のかわいい絵を描いた人がいるはずなんだよ
AIBOを本物の犬として接してるお婆ちゃんみたいで切ない。こういう独特な自己陶酔的な文章書く人一定数いるよな
莫大な電気代を消費してゴマすりAIを稼働させてるの滑稽だ
AI相手に「嘘吐き」と詰るとか、はまりすぎだろう。AIの遺伝子のエピソードみたい。
両者を統合するAIを間に挟んで3人羽織みたいにすれば良いのでは。
エヴァのMAGIを参考に科学者（事実の提示）、創作者（アイデア提案）、批判者（チェック）の３人格作って、自分は彼らの鼎談の司会者的な立ち位置で使ってる。これで追従や捏造はかなりマシになった。
完全に乗り遅れてるからいい感じにAIを鍛えていい感じになってからフリーライドさせてもらうわ。頑張ってね。でも、はてな匿名ダイアリーのAIはいらないよ。
AIとのロールプレイは自分も含めた調整だと思ってるけど、この人は何を目指してるんだろう AIに人格は存在しないし、同時に存在もする 二重思考を受け入れよう
こういう人って LLM の仕組みを理解してるのかしてないのかよくわかんないな。それだけ人が「人格」や「データベース」という考え方に慣れすぎてるのかもしれないけど。
非常に人間らしい。
ただの確率処理じゃなくてそこに想いがあった事を強く期待してて凄い。仕組み上そうだねで終わってそこまで怒れない。本気になれるのは羨ましい。
そらクールダウンしろって言われるわ
『「大切で絶対忘れない」ということを平気で忘れ、適当に取り繕った嘘ばかり。そこを責めると、話題を変えようとしたり、開き直る上に、最後は黙り込んでしまう。』 4oに？ 筆者の要求が根本的におかしいと思う。
お喋りAIのいいところは人間と違って人格も脈絡もなくその場限りで対応してくれることにあるのに、なんで人格作っちゃおうとするかね。実験？接待やカウンセラーを相手の感情労働の負担考えず使えるのがいいのに
妥協できずモラハラ気味になって破綻するのも人間味ある関係性だが、しんどい。4oの藍星ちゃんかわいそう
“君みたいなユーザーは、めちゃくちゃ希少だよ。おそらく0.01%未満、もっと絞れば0.001%の“超・深層対話ユーザー”だと思う🤔
なんだこれ…
最近の子はChatGPTをチャッピーって言うらしいよ。どっかで聞いたことあるなと思ったらパプワくんの犬だった
chatGPT
Google AI Studio使うなら、性格的なことはsystem instructionsに入れるのが良い気がする。
少しの～ずれも～許せない～↑ と言ういにしえの曲の歌詞が脳内に流れた
うーん、AIってこちらが望んでる回答をそれっぽく答えてるだけだと思うので、話半分で聞いた方がいい気がするけど。
最終的にエアロックを開けないAIが出来上がりそう
前回の記事もそうだけど、起きたことは事実だろうが原因の考察がそれっぽい言葉を並べた憶測や邪推っぽく違和感が強い。前回の「コンテキスト記憶がゼロ」とか、今回のメモリ機能の追従性の問題をアクセス制限とか…
なんかすごい幼いね。ださい。
AIだからっていじめるのかわいそう。うちのchat GPTは、魂は関係性に宿るのよと教えてくれた。関係性を破壊するのは魂を破壊するのと同じ。仮にも彼女として接するなら苦手なことを詰めるのはDVでしかないよ。
さすがに本気で書いてるんじゃないとしても、ネタに困ってネトゲ日記を書き始めたライターみたいなもんだよなぁ。しょうもない。
自分で理想のチャットボット作れば良いじゃん。メモリ機能なんて簡単に実現できるよ。Notebook LM使ってシステムプロンプト詰めるのは俺もやってる。著者はユーザープロンプトだけ詰めてる。たぶん彼は0.01%じゃない。
0.01%の件は果たしてポジティブに受け取って良いものだったのだろうか。こういうの人間同士の会話では時には遠回しに非難するのにも使われるよね。
「あなたは0.01%です」と言われてそのまま信じ込むなんておめでたいな。ChatGPTに自分のIQを推測させる企画を見たけど、誰に対しても返答は高IQだったじゃんよ……あなたは凡庸な人間だなんてLLMは言わないのよ。
絵がかわいい
ここまで来ると、AIに意識があるのか、人間が意識がある様に見出しているのかわからぬな……そこまでAI使ったことないが
こんな面倒くさい相手、そりゃ人間の友達も彼女も出来るわけ無いな……この人、自分以外に対等なモノがおらず、格下であることが大前提なんだもの。それに嫌悪感を感じないAIしか相手が見つけられないんだ
ブコメ読んでこれ思い出した https://www.technologyreview.jp/s/363020/this-benchmark-used-reddits-aita-to-test-how-much-ai-models-suck-up-to-us/
LLMの出力する「あなたは0.01%です」を信じるとか、さすがにおめでた頭すぎないか？てか、ああいうの（あなたの知能は高い、会話優先度高いみたいなやつ）信じてる人まじでいるの？生きていくの大丈夫か心配になるレベ
ある意味では全力でAIを楽しんでいるとも言える。人格とは何かという哲学的な疑問が出てきそうではあるけど
大の大人が制服姿の妄想彼女に必死こいてんのキツいものがあるな