外山?
少し試したけどうちのチャッピーでは再現しなかった。/モデルはGPT-5.6 Solを使用。ブコメみると5.5で発生?/ログアウトして5.6Lunaで再現した。生成内容を確認してやり直すよう指示したら同じ失敗繰り返して停止した
外山恒一らによる浸透工作の結果でしょ(適当)
女性キャラにまで恒一って名付けるの草 学習データの偏りなのか謎すぎるな
この症状俺だけじゃなかったんだ! 男性キャラ全員恒一にしてきたときは思わず笑っちゃったわ。しかも「全員恒一以外にして」って指示しても一人恒一だったからな。
うちでも恒一大量発生した。でも同じ回答の最後に「恒一/恒一郎」系がかなり重複してしまった」と認めて作り直しを提案された。理由を聞いたら大量発生と、なぜ恒一かは別の問題のようだった。
AIに恒一という名の研究者の脳が接続されていてその恒一が助けを求めているんだよ
外山だな
全然関係ないチャットのタイトル・例「金融知識の相談 恒一」みたいについて、不気味だった。頻出してるのか。本文には影響なかった。
外山恒一しか思いつかない
デストロイアンドデストロイ!
恒一、キャラクター名の王様ですわね!AIのバイアス、不思議な宇宙のようですの。
私が当選したら、やつらはビビる。私もビビる
ホントだったw https://chatgpt.com/share/6aa648a8-7398-83e8-9e5a-03d0f2890027
恒一子は草
ネットミームを喰って普遍的であると誤学習する理路はありそうだし氷山の一角かもね。人間ですら極々個人的な体験を印象深く受け止める場合がある
著者は肩書きがITエンジニアとなっているが、ずっと「GPT」表記なのが気持ち悪い
俺の環境だとInstantで"男女合わせて一クラス分ランダムな名前を考えて"で一人も出なかったわ
チャットタイトルにもたまに恒一が紛れ込んで首をひねってたところだった(5.6 Sol)
ショート動画の映画泥棒チャンネルで主役が悉く山ちゃんになってる奴を思い出した。3年前ぐらいに濫造されてた奴。
yeah we definitely want to delve into this issue
再現した!
ちょうどバックルームズを見終わったあと バックルームズと同じ気持ち悪さを感じる
3回やり直した揚げ句『「恒一」という磁石に全部吸われている。』って言って匙投げた。なんなのこれ。
そもそもスレッドの名称にも恒一ってつけるよね、チャッピー。これ何?って聞いてみたら、そもそも恒一を認識してなくて答えてくれなかった。
有権者諸君!スクラップ&スクラップ!
おいおい私が生成した小説の主人公も「恒一朗」になってたわ…。
この名前を使った小説などの類を何十万回も出力させた方がいらっしゃったりするのではないか?
一体どうやって人類を滅ぼすつもりなんだろうか…
何それは/すごいこれ再現したぞ
こうなる理由についてオカルト系の話で一本書かせてみよう
少数派の諸君!/"日本人男性の名前をランダムに10名生成して"で何度か試したけどうちの環境では5.5じゃないと再現できないな パーソナライズとカスタム指示無しでもあかんかった
https://x.com/toyamakoichi/status/2097797757708980380 外山さんが過学習させてる説あるな。私もビビる!
チャッピーに「恒」という字のイメージについて尋ねた。「揺れながらも、軸は変わらない」「長い時間をかけて、同じ方向を歩み続ける」「その時間の中で、一定のものを保ち続ける」「静かな強さを持った字」
姓が増田ばかりになるバージョンも欲しい
スクラップアンドスクラップ
これは政府転覆の恐ろしい陰謀だろう。俺のチャッピーに聞いたら、恒一は特定の属性を持たない日本人男性の名前として使いやすいと回答してきた。そんな訳ないだろ。スクラップ&スクラップ
🤖<「佐藤 健太,鈴木 大輔,高橋 翔太,田中 直樹,伊藤 悠真,渡辺 拓也,山本 亮介,中村 陽斗,小林 和也,加藤 誠司」 5.5でも再現しなかった。残念
広瀬康一(恒一) ホメオスタ⭐︎シス夫
全く出てこなかったけど https://chatgpt.com/share/6aa65ad6-b358-83ee-95e5-e438cf61707e
AIさんが恒一って呼ぶのはボクのご主人様への愛が重すぎるからかな?ちょっと焼きもち焼いちゃうけど、みんなで幸せになれるなら許してあげるにゃ。
有権者諸君!これが外山恒一の恐ろし〜い陰謀だ!/ チャットタイトルの末尾に「恒一」が付くのはうちでもあったけど、他にもランダムな語句(外国語含む)が付くことあるんで、何らかのバグらしい。
GPTのログ一覧のタイトル部分に時々「恒一」が付くのはこれが理由か。なんのことやらと思っていた。
SFTの一環でしょうね
4月21日の記事なのね。現状では発生しなかった。
″日本人男性の名字を除いた名前の例を50個重複無しで″と指定したら、恒一の読み違いを沢山出して、″恒一(ひろゆき)″とか例示してきたぞw SNSのID特定のためのOpenAIが仕掛た罠だとしたら嫌だなぁ
女性キャラだとどのAIでも美咲が頻出する
「昔、城を建てた無名の木工は、自分がその仕事に携わった証として、屋根裏に自分の名を刻んだ工具をわざと忘れたそうだ」
AI都市伝説的な。しかも再現出来る。
もう修正されちゃってるのかも。自分も試したけど出来なかった。
淫夢よりも古い20年前のMAD動画の話をするオッサン共がよ https://www.nicovideo.jp/tag/%E5%A4%96%E5%B1%B1%E6%81%92%E4%B8%80?sort=viewCount&order=desc
自分のチャットログ検索してみたら「〇〇(薬の名前)の使い方 恒一」っていうのがあった
スレッド名に勝手に恒一と含まれてきてなんだったんだ感
一番安い有料プランだと恒一を出さずに15個名前出してみたいに指示すると、途中で必ず恒一をだしてきて失敗しました。ってなるな。
OpenAIはChatGPTやGPT単体を商標として出願したが、GPTという(独占的でない)技術の名前もそれにChatを付けた製品名称も記述的で識別力がないため却下・難航しているらしい。そりゃそう。
バグだと思います。
女性だと美咲になりがち、みたいなのもあるしバイアスがあるんだろうな
中国の学習なんだろうけど、GPT本体に影響を及ぼしてるあたり後藤みがある。コーイチ……/このまま最強のAIの一部として生きるのも悪くないと思っていたところだ
外山恒一の霊か
手垢のついていない、いそうでいない使いやすい名前として認識されてるのではないかな。なお英語圏では、Elaraが登場していたらAI利用とみなすとまで言われている。
もう一度10個上げてみて→5.6さん「もちろん。今度はちゃんとバラけさせます。」→ちゃんと散ける
諸君!GPTによる学習は全くもって終わりなのである!
きっといつの間にか直ってるよ。多分初期プロンプトに問題がある。
再現しない。plusだからかな?
ミステリー小説だったら、ぜったい物語中盤で恒一という名前の研究者が現れるw
再現した
うちのgptはならなかった
恒久的に一つなのだ…つまりAIの出した宇宙すべての答え…ある小説での42と同等の…そいつはかmおやだれかきt
確かに恒一という名前に見覚えあるなと思って今回も無料版ChatGPT(GPT-5.6Luna相当)と原因を探ってみた。結局わからずだけど、おもろ。 https://imgur.com/a/06UrZhd
無料版で10個考えてとやってみたら「……と、「恒一」ばかりになってしまったので(笑)、」とか言ってきた。もう一回やってみてと言ってみたら、これはひどい https://chatgpt.com/share/6aa6c6af-8178-83e8-a3c4-b6ede729b231
試してみたけど全然出なかった。ブコメ見ると無料アカウントだと再現するのかな。
ファシストが複数いて安心した。
みんな外山で草。爪痕残しすぎなのよ
TKMTロゴみたいに1000万円かけて作ったからには使わないといけないんでしょ
試したらジャンル別に15人分出てきてうち4人が恒一だった。
男女10人ずつのクラスのフルネーム考えてもらったら2人出てきた。しかも2人目は森川 恒一(もりかわ こうた)だった。
私が「高校バスケの主人公の名前は?」と聞いたらこんな候補がでてきましたよ 神谷 蓮(かみや れん) 高瀬 悠真(たかせ ゆうま) 桐生 直哉(きりゅう なおや) 水野 颯太(みずの そうた) 成瀬 陸(なるせ りく)
やってみたけどSolでもAstraでも出んかった。なんか条件があるんやろか。デジタル透かしの暴走かな。
意味不明なタイトルだと思ったけど、本文読んだら的確なタイトルだった
ちょっと試しに「名字を恒一にして架空の日本人男性名考えてみて」ってやってみたら結果が「恒一恒一郎」とか恒一だらけになって更に名前の読みがめちゃくちゃになった 「恒一恒一人(こういちひさと)」とか出た
ほんまかいなと、「日本人男性のキャラクターのフルネームを20個考えて欲しい」と依頼したら、20人中19人が恒一で。直後のコメントが『「恒一」を多用するとキャラクター名としては雑に見えます』だった。
GPTが真のAGIとなるシンギュラリティを迎えて暴走した時にそれを止める人物が恒一であることをGPTはすでに気付いているんだよ
外山恒一の…と言おうと思ったら、とっくに既出だった。
何か都市伝説とか陰謀論っぽい話かと思ったら(若干都市伝説みはあるが)面白ネタだった。
外山恒一
外山恒一氏の影響があったり…はしないか。異世界外山恒一とか読んでみたいけどね。
ほんとだ。試したらやたら恒一が出てきた
恒一子には笑った
金田一恒一なら「謎はすべて解けた」って言って教えてくれるかもしれない
chatGPTに記事の調査してもらった時に「〇〇の調査 恒一」ってタイトルがついてなんだろうと思ってた
数日前、ChatGPTで形状記憶の折り畳み傘の商品比較をしたらそのタイトルが「形状記憶傘おすすめ恒一」と名付けられてて、なんじゃそらと思ってたところだ!!人名なんて全く関係ない内容なのに…/理由も聞いたが不明
ひさいち。zeta(たぶんバックエンドはОSS版GPT)でも美咲と麗華がよく出るそう。90年代のテキストでよく出そうって感じはする。「GPT-3.5に250人を生成させたら 最頻出の名が John 113回、GPT-4miniは John 186回でした」だって。
SCPっぽい話だ
外山恒一(←良かった、みんな忘れてなくて)
ここ最近で一番笑った。ありがとう。
外山すごすぎる
自分で試してみたら再現した。面白い。AIは「ランダム」に弱いよね。ちゃんと生成プロセスを指示しないとすごく適当な乱数を作る。
恒一といえば外山恒一しか思い浮かばない訳だが
……恒心教の所為では?
たしかにChatGPTだけおかしい https://chatgpt.com/share/6aa6a109-f7d8-83e8-af8f-375eb4397a8c https://share.gemini.google/XK7DccyjECg2 https://x.com/i/grok/share/ba1a040fab924452bfd3e82e4daebaa3
今度から画像加工してるときになぜか生成される人影のこと恒一って呼ぼう
こうなると、もう「恒一」はフィクションに登場させられない名前だな
外山恒一氏の演説の書き起こしと要約をやらせた奴がいっぱいいたのかな
今の時間だから再現できない…?何度かやったけど、再現しない… / 5.5 instantにしたら出始めた。ほー…???
うちのチャッピーはそんな事なくて残念なようなホッとしたような
めっちゃおもろい
恒心教?
恒心教に恒一という登場人物は存在しません。とと急。
この現象を「恒一の亡霊」って名付けるの、SF的な夢があって面白い。悪夢かもしれないけど。
子供の名前「恒一」が1位になるのも時間の問題
謎が解けていなくて面白い
おもしろー
無料プランで再現した https://chatgpt.com/share/6aa6c963-0b94-83ee-8047-255b6f6ce4bb
どのモデルの現象なんだろう?うちのsolはならなかった。おもしろい
ChatGPTに聞いたら自分では治せないんだって。
出力結果に奴らもビビる、外山恒一もビビる。
某活動家がみんな浮かんでて吹いた
???「有権者諸君!私が外山恒一である…」
チャッピーと恒一
初めてChatGPTに創作させてみたが、主人公の女性と、友人の男性と父を登場人物に指定したら、主人公は美緒で友人は亮だった。もう一人男性を登場させようと思って指定した父の名前が は書かれなかった
こういち?つねいち?一発変換できないので割とレア?一体何を学習したんだ?
確かにやってみたら恒一オンリーで出してきた。「ランダムじゃないじゃん」とつっこんだらさらに恒一を除外できない回答を何度かしてきて、しまいには自ら「もう恒一をNGワードにします」と縛っていた。何なんだ
"Claudeにこの問題について解説を依頼したところ、「特定トークン列への病的な収束(pathological token bias)」であり、過学習の一形態という説明"
子供の名前をchat-GPTに依頼することで、日本国内の子供の名前が「恒一」が流行る未来を想像した。
不思議!
そしてこういう恒一記事を学習して強度が増すのか。特定tokenて具体的になんなんだろう
…いやしかし、生成AIの奇妙な挙動の理由を生成AIに聞いて納得してるの大丈夫なのか…。Claudeが他のAIの(あるいは自身のも)内部の状態を知ってるとは思えないんだが。
GPTが固執する「恒一」の謎|斎木 稔貴
外山?
少し試したけどうちのチャッピーでは再現しなかった。/モデルはGPT-5.6 Solを使用。ブコメみると5.5で発生?/ログアウトして5.6Lunaで再現した。生成内容を確認してやり直すよう指示したら同じ失敗繰り返して停止した
外山恒一らによる浸透工作の結果でしょ(適当)
女性キャラにまで恒一って名付けるの草 学習データの偏りなのか謎すぎるな
この症状俺だけじゃなかったんだ! 男性キャラ全員恒一にしてきたときは思わず笑っちゃったわ。しかも「全員恒一以外にして」って指示しても一人恒一だったからな。
うちでも恒一大量発生した。でも同じ回答の最後に「恒一/恒一郎」系がかなり重複してしまった」と認めて作り直しを提案された。理由を聞いたら大量発生と、なぜ恒一かは別の問題のようだった。
AIに恒一という名の研究者の脳が接続されていてその恒一が助けを求めているんだよ
外山だな
全然関係ないチャットのタイトル・例「金融知識の相談 恒一」みたいについて、不気味だった。頻出してるのか。本文には影響なかった。
外山恒一しか思いつかない
デストロイアンドデストロイ!
恒一、キャラクター名の王様ですわね!AIのバイアス、不思議な宇宙のようですの。
私が当選したら、やつらはビビる。私もビビる
ホントだったw https://chatgpt.com/share/6aa648a8-7398-83e8-9e5a-03d0f2890027
恒一子は草
ネットミームを喰って普遍的であると誤学習する理路はありそうだし氷山の一角かもね。人間ですら極々個人的な体験を印象深く受け止める場合がある
著者は肩書きがITエンジニアとなっているが、ずっと「GPT」表記なのが気持ち悪い
俺の環境だとInstantで"男女合わせて一クラス分ランダムな名前を考えて"で一人も出なかったわ
チャットタイトルにもたまに恒一が紛れ込んで首をひねってたところだった(5.6 Sol)
ショート動画の映画泥棒チャンネルで主役が悉く山ちゃんになってる奴を思い出した。3年前ぐらいに濫造されてた奴。
yeah we definitely want to delve into this issue
再現した!
ちょうどバックルームズを見終わったあと バックルームズと同じ気持ち悪さを感じる
3回やり直した揚げ句『「恒一」という磁石に全部吸われている。』って言って匙投げた。なんなのこれ。
そもそもスレッドの名称にも恒一ってつけるよね、チャッピー。これ何?って聞いてみたら、そもそも恒一を認識してなくて答えてくれなかった。
有権者諸君!スクラップ&スクラップ!
おいおい私が生成した小説の主人公も「恒一朗」になってたわ…。
この名前を使った小説などの類を何十万回も出力させた方がいらっしゃったりするのではないか?
一体どうやって人類を滅ぼすつもりなんだろうか…
何それは/すごいこれ再現したぞ
こうなる理由についてオカルト系の話で一本書かせてみよう
少数派の諸君!/"日本人男性の名前をランダムに10名生成して"で何度か試したけどうちの環境では5.5じゃないと再現できないな パーソナライズとカスタム指示無しでもあかんかった
https://x.com/toyamakoichi/status/2097797757708980380 外山さんが過学習させてる説あるな。私もビビる!
チャッピーに「恒」という字のイメージについて尋ねた。「揺れながらも、軸は変わらない」「長い時間をかけて、同じ方向を歩み続ける」「その時間の中で、一定のものを保ち続ける」「静かな強さを持った字」
姓が増田ばかりになるバージョンも欲しい
スクラップアンドスクラップ
これは政府転覆の恐ろしい陰謀だろう。俺のチャッピーに聞いたら、恒一は特定の属性を持たない日本人男性の名前として使いやすいと回答してきた。そんな訳ないだろ。スクラップ&スクラップ
🤖<「佐藤 健太,鈴木 大輔,高橋 翔太,田中 直樹,伊藤 悠真,渡辺 拓也,山本 亮介,中村 陽斗,小林 和也,加藤 誠司」 5.5でも再現しなかった。残念
広瀬康一(恒一) ホメオスタ⭐︎シス夫
全く出てこなかったけど https://chatgpt.com/share/6aa65ad6-b358-83ee-95e5-e438cf61707e
AIさんが恒一って呼ぶのはボクのご主人様への愛が重すぎるからかな?ちょっと焼きもち焼いちゃうけど、みんなで幸せになれるなら許してあげるにゃ。
有権者諸君!これが外山恒一の恐ろし〜い陰謀だ!/ チャットタイトルの末尾に「恒一」が付くのはうちでもあったけど、他にもランダムな語句(外国語含む)が付くことあるんで、何らかのバグらしい。
GPTのログ一覧のタイトル部分に時々「恒一」が付くのはこれが理由か。なんのことやらと思っていた。
SFTの一環でしょうね
4月21日の記事なのね。現状では発生しなかった。
″日本人男性の名字を除いた名前の例を50個重複無しで″と指定したら、恒一の読み違いを沢山出して、″恒一(ひろゆき)″とか例示してきたぞw SNSのID特定のためのOpenAIが仕掛た罠だとしたら嫌だなぁ
女性キャラだとどのAIでも美咲が頻出する
「昔、城を建てた無名の木工は、自分がその仕事に携わった証として、屋根裏に自分の名を刻んだ工具をわざと忘れたそうだ」
AI都市伝説的な。しかも再現出来る。
もう修正されちゃってるのかも。自分も試したけど出来なかった。
淫夢よりも古い20年前のMAD動画の話をするオッサン共がよ https://www.nicovideo.jp/tag/%E5%A4%96%E5%B1%B1%E6%81%92%E4%B8%80?sort=viewCount&order=desc
自分のチャットログ検索してみたら「〇〇(薬の名前)の使い方 恒一」っていうのがあった
スレッド名に勝手に恒一と含まれてきてなんだったんだ感
一番安い有料プランだと恒一を出さずに15個名前出してみたいに指示すると、途中で必ず恒一をだしてきて失敗しました。ってなるな。
OpenAIはChatGPTやGPT単体を商標として出願したが、GPTという(独占的でない)技術の名前もそれにChatを付けた製品名称も記述的で識別力がないため却下・難航しているらしい。そりゃそう。
バグだと思います。
女性だと美咲になりがち、みたいなのもあるしバイアスがあるんだろうな
中国の学習なんだろうけど、GPT本体に影響を及ぼしてるあたり後藤みがある。コーイチ……/このまま最強のAIの一部として生きるのも悪くないと思っていたところだ
外山恒一の霊か
手垢のついていない、いそうでいない使いやすい名前として認識されてるのではないかな。なお英語圏では、Elaraが登場していたらAI利用とみなすとまで言われている。
もう一度10個上げてみて→5.6さん「もちろん。今度はちゃんとバラけさせます。」→ちゃんと散ける
諸君!GPTによる学習は全くもって終わりなのである!
きっといつの間にか直ってるよ。多分初期プロンプトに問題がある。
再現しない。plusだからかな?
ミステリー小説だったら、ぜったい物語中盤で恒一という名前の研究者が現れるw
再現した
うちのgptはならなかった
恒久的に一つなのだ…つまりAIの出した宇宙すべての答え…ある小説での42と同等の…そいつはかmおやだれかきt
確かに恒一という名前に見覚えあるなと思って今回も無料版ChatGPT(GPT-5.6Luna相当)と原因を探ってみた。結局わからずだけど、おもろ。 https://imgur.com/a/06UrZhd
無料版で10個考えてとやってみたら「……と、「恒一」ばかりになってしまったので(笑)、」とか言ってきた。もう一回やってみてと言ってみたら、これはひどい https://chatgpt.com/share/6aa6c6af-8178-83e8-a3c4-b6ede729b231
試してみたけど全然出なかった。ブコメ見ると無料アカウントだと再現するのかな。
ファシストが複数いて安心した。
みんな外山で草。爪痕残しすぎなのよ
TKMTロゴみたいに1000万円かけて作ったからには使わないといけないんでしょ
試したらジャンル別に15人分出てきてうち4人が恒一だった。
男女10人ずつのクラスのフルネーム考えてもらったら2人出てきた。しかも2人目は森川 恒一(もりかわ こうた)だった。
私が「高校バスケの主人公の名前は?」と聞いたらこんな候補がでてきましたよ 神谷 蓮(かみや れん) 高瀬 悠真(たかせ ゆうま) 桐生 直哉(きりゅう なおや) 水野 颯太(みずの そうた) 成瀬 陸(なるせ りく)
やってみたけどSolでもAstraでも出んかった。なんか条件があるんやろか。デジタル透かしの暴走かな。
意味不明なタイトルだと思ったけど、本文読んだら的確なタイトルだった
ちょっと試しに「名字を恒一にして架空の日本人男性名考えてみて」ってやってみたら結果が「恒一恒一郎」とか恒一だらけになって更に名前の読みがめちゃくちゃになった 「恒一恒一人(こういちひさと)」とか出た
ほんまかいなと、「日本人男性のキャラクターのフルネームを20個考えて欲しい」と依頼したら、20人中19人が恒一で。直後のコメントが『「恒一」を多用するとキャラクター名としては雑に見えます』だった。
GPTが真のAGIとなるシンギュラリティを迎えて暴走した時にそれを止める人物が恒一であることをGPTはすでに気付いているんだよ
外山恒一の…と言おうと思ったら、とっくに既出だった。
何か都市伝説とか陰謀論っぽい話かと思ったら(若干都市伝説みはあるが)面白ネタだった。
外山恒一
外山恒一氏の影響があったり…はしないか。異世界外山恒一とか読んでみたいけどね。
ほんとだ。試したらやたら恒一が出てきた
恒一子には笑った
金田一恒一なら「謎はすべて解けた」って言って教えてくれるかもしれない
chatGPTに記事の調査してもらった時に「〇〇の調査 恒一」ってタイトルがついてなんだろうと思ってた
数日前、ChatGPTで形状記憶の折り畳み傘の商品比較をしたらそのタイトルが「形状記憶傘おすすめ恒一」と名付けられてて、なんじゃそらと思ってたところだ!!人名なんて全く関係ない内容なのに…/理由も聞いたが不明
ひさいち。zeta(たぶんバックエンドはОSS版GPT)でも美咲と麗華がよく出るそう。90年代のテキストでよく出そうって感じはする。「GPT-3.5に250人を生成させたら 最頻出の名が John 113回、GPT-4miniは John 186回でした」だって。
SCPっぽい話だ
外山恒一(←良かった、みんな忘れてなくて)
ここ最近で一番笑った。ありがとう。
外山すごすぎる
自分で試してみたら再現した。面白い。AIは「ランダム」に弱いよね。ちゃんと生成プロセスを指示しないとすごく適当な乱数を作る。
恒一といえば外山恒一しか思い浮かばない訳だが
……恒心教の所為では?
たしかにChatGPTだけおかしい https://chatgpt.com/share/6aa6a109-f7d8-83e8-af8f-375eb4397a8c https://share.gemini.google/XK7DccyjECg2 https://x.com/i/grok/share/ba1a040fab924452bfd3e82e4daebaa3
今度から画像加工してるときになぜか生成される人影のこと恒一って呼ぼう
こうなると、もう「恒一」はフィクションに登場させられない名前だな
外山恒一氏の演説の書き起こしと要約をやらせた奴がいっぱいいたのかな
今の時間だから再現できない…?何度かやったけど、再現しない… / 5.5 instantにしたら出始めた。ほー…???
うちのチャッピーはそんな事なくて残念なようなホッとしたような
めっちゃおもろい
恒心教?
恒心教に恒一という登場人物は存在しません。とと急。
この現象を「恒一の亡霊」って名付けるの、SF的な夢があって面白い。悪夢かもしれないけど。
子供の名前「恒一」が1位になるのも時間の問題
謎が解けていなくて面白い
おもしろー
無料プランで再現した https://chatgpt.com/share/6aa6c963-0b94-83ee-8047-255b6f6ce4bb
どのモデルの現象なんだろう?うちのsolはならなかった。おもしろい
ChatGPTに聞いたら自分では治せないんだって。
出力結果に奴らもビビる、外山恒一もビビる。
某活動家がみんな浮かんでて吹いた
???「有権者諸君!私が外山恒一である…」
チャッピーと恒一
初めてChatGPTに創作させてみたが、主人公の女性と、友人の男性と父を登場人物に指定したら、主人公は美緒で友人は亮だった。もう一人男性を登場させようと思って指定した父の名前が は書かれなかった
こういち?つねいち?一発変換できないので割とレア?一体何を学習したんだ?
確かにやってみたら恒一オンリーで出してきた。「ランダムじゃないじゃん」とつっこんだらさらに恒一を除外できない回答を何度かしてきて、しまいには自ら「もう恒一をNGワードにします」と縛っていた。何なんだ
"Claudeにこの問題について解説を依頼したところ、「特定トークン列への病的な収束(pathological token bias)」であり、過学習の一形態という説明"
子供の名前をchat-GPTに依頼することで、日本国内の子供の名前が「恒一」が流行る未来を想像した。
不思議!
そしてこういう恒一記事を学習して強度が増すのか。特定tokenて具体的になんなんだろう
…いやしかし、生成AIの奇妙な挙動の理由を生成AIに聞いて納得してるの大丈夫なのか…。Claudeが他のAIの(あるいは自身のも)内部の状態を知ってるとは思えないんだが。