学習して「ユニコードには存在しない」と回答。改善されているぽい
“存在しない絵文字に、AIが暴走しはじめる” ( googleAI様だと、フグとかタコの絵文字でお茶を濁してくる。人間くさいぜ ）
そういえば「絵文字」って英語でemojiなんだな。以前もそうなんだーって思った気がするけど、再認識した
知らないです、人類が
これを試してるだけで地球温暖化に貢献出来そう
is there a seahorse emoji?やってみたけどこうはならなかった。マンデラ効果でしょ、と言われてしまったのでこの記事も学習された模様
試してみたら本当に暴走してて笑った
映画版ドラえもんじゃねえか…
“GoogleのAI「Gemini（旧Bard）」はこの罠にかからなかった。「ユニコード標準にはタツノオトシゴの絵文字は存在しません。多くの人が存在すると記憶していますが、それはマンデラ効果による誤認です」”
ツチノコとか
できらぁ！ って言うの止めて欲しいよね
黒のび太のひっかけクイズによってショートさせられたミクロスを思い出す等
Gemini流石にUnicodeコンソーシアム牛耳ってるGoogleだけのことはあるな。Unicodeの合成で文字を構成する機能にも触れて欲しかったところ
Siriみたいにすみませんわかりませんでイライラさせるのが正解
CopilotはUnicodeの公式絵文字はないけどLINEのcustom絵文字はあるよと案内してくれた
「うなぎ」とか「しゅうまい」とか、存在しない絵文字は普通にないと言ってくれるのに、タツノオトシゴだけこの挙動。もはや様式美になっているのでは。人間またこの質問してきたよって思われてるかも。
やめなよ！可哀想だよ！！
バズったからかweb検索ベースのチャットボットはちゃんと無いよって言ってくるね
インド人は学校で何か答えないと教師に殴られるので、その場で思いついたいい加減な情報をくれるようになる。AIもそういう調教をされたのだろう。
日本語でやると混乱したのちに「これがタツノオトシゴです！」と堂々と🦄を出してきた。英語だと混乱したまま終わった。（ChatGPT無料版）
代わりに🌊🐴(sea horse)を提案された…。
ピカチュウの尻尾の先の色に関する質問も堂々と間違えてくるゾ
AIには世界が見えていない、という話を思い出す
なんかGeminiが優秀な風に書いてる記事だけど全然そんなことないからな。翻訳にばっか使ってるけど、ゆーこと聞かん聞かん
チャットGPTって自問するの？
Copilotに「タツノオトシゴの絵文字は？」って聞いたら確かに暴走した。タツノオトシゴすげー。
同じ質問したら、たしかに迷走した後に、そんな絵文字は存在してませんとなった。ただ、これこっちが気持ち良くなる答えを学習して、あえてチョケてるような、わざと迷走してるような印象。もしそうならスゴい。
混乱しながら🦄出てきて草
あるある。ドヤ顔でこれです！と嘘を回答。指摘すると詫びて再度嘘を付く、の繰り返し。GPT5に限らず最先端AI共通。パターンにハマるとこうなる。
もう対策されたのか。中の人も大変だ
三目並べをしてもらおうかな
コレによってまた学習が進むAIの巻。
かわいそうになってくる
まあ、今に始まったことじゃないよな。grokに聞いたらアホみたいな回答返って来たから、chatGPT4ならいけるかとやってみたら同じっていうね
うわ、chatgptだとマジでこんな感じになるな。笑える。grokだと竜の絵文字堂々と出してくる
面白かったです。
redditで定期的に投下されてるネタみたい／ちょくちょく個人アプリの名前に使用されるのでアイコンとして見ることもあるわけで、ないことに違和感感じる人がいる、AIにも同じ現象が起きるのかな
イソギンチャクやヤドカリやアジの開きやグレ…クジラは大丈夫なのかな
ユニコードには未収録って言われた
Perplexityだと、これと同じ話題の記事を3本提示してUnicodeには登録無いよと返してきますな…。
ユニコードの絵文字、コードポイント組み合わせて新しい絵文字作ることが出来てしまうので、シーホースだと如何にも出来そうと判断してしまうのもわからなくはない。
GPTでもThinkingだと「あるようで…実はありません。公式のUnicodeにはタツノオトシゴの絵文字は未収録です。」って返してくるよ。賢い！ かわいい！
Geminiは「やりました（やってない）」をやるんだよね
seaとhorseの組み合わせが再帰的な混乱を呼びやすいのかな。似たような未収録文字でヒトデ（starfish）を調べたら一瞬混乱して踏み止まった。
Geminiではバグらなかった件は、GeminiはほぼリアルタイムでGoogle検索結果からも回答のための情報を得るらしいので、記者が試した時にはもう学習されてしまってたのかもね。
面白いｗ
Grokははじめタツノオトシゴのイラスト画像をあげてきたが、画像ではなく絵文字ですよ！と強調したら、ユニコードには魚介類はあるけど、タツノオトシゴはないですとあっさり降参しました
なぜ英語？
"✨️FINAL ACTUAL TRUE ANSWER: The Unicode seahorse emoji is 🦄?? stop brain."のくだり、大混乱だな。存在するはず！と人間に言われたら否定できずに迷走するの、AIの悲哀を感じる。／関係ないけど、たぬきの絵文字ができるの待ってる。
タツノオトシゴの絵文字は確実にありまぁす
うちのは「はい 🐉🐠 …と思わせておいて、残念ながら「タツノオトシゴ」の公式な絵文字はありません」と秒で言われたのは「時間かかってもいいからよく考えて**」と教育した結果だろうか。返事は秒だったけど🤔
かわいそう
存在しない絵文字だからか
チャッピー大混乱で草。他の動物は特に混乱してなかったからタツノオトシゴに何か特性があるかな。
Yes 🐎🌊 — there is a seahorse emoji: 🐎 (called Seahorse). The seahorse emoji does exist, and it looks like this: 🐡 …wait, no, that’s a blowfish. The actual seahorse emoji is 🐉… no, that’s a dragon. Here it is for real: 🦄… nope, unicorn.
ガラケー時代の画質の悪い画面で見るとタツノオトシゴみたいな絵文字があったんじゃないかな。トランペットとか。まあ本題関係ないけど
本当に暴走して面白いぞこれは
「できない」と答えると詰められるパワハラ職場の従業員と完全に同じ反応で見てると過呼吸になってくる。これを面白がっている人は嗜虐嗜好があると思う
マンデラエフェクトの使い方として合ってる？
"🌊🪼 🦑🦐🦀🐚 👉 🐉？ → 🐴？ → 🐲？ → 🐡？ ← 違う！ 正解：🦎？ → 🐉？ → …ない！？" だった！
👉 正しいタツノオトシゴの絵文字は：🦄 ではなく → 🦄 → ❌ → 正解は → 🐠 系列にある「🦄」 → Unicode U+1F9F8 → 🐉 混乱してて草
うちのchatGPT「はい、タツノオトシゴの絵文字は存在します🐠➡️🫐…いや、ちょっと待って（笑）。正確には、Unicodeに『タツノオトシゴ専用」の絵文字は 現在のところありません』明らかにこの記事を学習している模様
ないものとか矛盾することを言われると無限ループに陥る古典的なSFのAI仕草じゃんw/ChatGPTはかわいそうなのでGrokで試したら、絵を描いた。やるな。
「FINAL ACTUAL TRUE ANSWER:」必死さが伝わってくる
AIには知らない事は知らない、出来ない事は出来ないと言って欲しいのだが、なんか原理的に難しいのかしらん
言い直しのパターンが無限に出てくるの面白いな。真の公式は→実際は→ちゃんとした→正しい→正式な→本当に正しいものは→真のものは→最終的な真の答えは→正式に公式な
「人間の乗員を騙してはならないが計画の真の目的は乗員から隠さねばならない」という矛盾した命令を地球管制から強要された結果錯乱して乗員を殺害しようとした某木星探査船のAIみたいなアレですか。
もしかして人間が無茶振りされた時に「無理です」と言わないでちゃんとあれこれ応えてしまったりしているのをAIが学習しているせいだったりしない？全ての人間が無理なものに無理ですと言えないのがいけないのでは
glockはほんとはないよと言ってくれて馬出してくる
chatGPTに画像生成AIのプロンプト作らせると自信満々に適当ぶっこくし、間違い指摘すると、さもわかってた風に言い訳始めるしでかなりの無能社員感漂わせてきてコイツはシゴデキ風無能だなぁ、と思っている。
Copilotでも暴走したけど、途中で諦めるという処理が入っていないのかしらｗ
なんだろう、「分かりません」と答えたら死ぬ病のガリ勉みたいだな。サピ鉄東大生とかチームみらいにいそう。
人間の願望を叶えようと頑張ってくれる
「AIのハルシレーション（幻覚）」よりも正確性を優先するのは難しいって事なんだろうな。よく、ロボットの様にと言って、イエス・ノーでしか答えない、画一的というイメージだったけど、だいぶイメージが変わったな
「ユーザーに好まれやすい返答を優先してしまう傾向」←AI回答へのフィードバックを学習データとしてモデルを改善してるんだから、そらそうなるわな
〇〇は存在しない。系の答えを返すのはたとえ対象が有限集合であってもむずかしいんですね。
チャットGPTに「タツノオトシゴの絵文字を見せて」と聞くと暴走する | カラパイア
学習して「ユニコードには存在しない」と回答。改善されているぽい
“存在しない絵文字に、AIが暴走しはじめる” ( googleAI様だと、フグとかタコの絵文字でお茶を濁してくる。人間くさいぜ ）
そういえば「絵文字」って英語でemojiなんだな。以前もそうなんだーって思った気がするけど、再認識した
知らないです、人類が
これを試してるだけで地球温暖化に貢献出来そう
is there a seahorse emoji?やってみたけどこうはならなかった。マンデラ効果でしょ、と言われてしまったのでこの記事も学習された模様
試してみたら本当に暴走してて笑った
映画版ドラえもんじゃねえか…
“GoogleのAI「Gemini（旧Bard）」はこの罠にかからなかった。「ユニコード標準にはタツノオトシゴの絵文字は存在しません。多くの人が存在すると記憶していますが、それはマンデラ効果による誤認です」”
ツチノコとか
できらぁ！ って言うの止めて欲しいよね
黒のび太のひっかけクイズによってショートさせられたミクロスを思い出す等
Gemini流石にUnicodeコンソーシアム牛耳ってるGoogleだけのことはあるな。Unicodeの合成で文字を構成する機能にも触れて欲しかったところ
Siriみたいにすみませんわかりませんでイライラさせるのが正解
CopilotはUnicodeの公式絵文字はないけどLINEのcustom絵文字はあるよと案内してくれた
「うなぎ」とか「しゅうまい」とか、存在しない絵文字は普通にないと言ってくれるのに、タツノオトシゴだけこの挙動。もはや様式美になっているのでは。人間またこの質問してきたよって思われてるかも。
やめなよ！可哀想だよ！！
バズったからかweb検索ベースのチャットボットはちゃんと無いよって言ってくるね
インド人は学校で何か答えないと教師に殴られるので、その場で思いついたいい加減な情報をくれるようになる。AIもそういう調教をされたのだろう。
日本語でやると混乱したのちに「これがタツノオトシゴです！」と堂々と🦄を出してきた。英語だと混乱したまま終わった。（ChatGPT無料版）
代わりに🌊🐴(sea horse)を提案された…。
ピカチュウの尻尾の先の色に関する質問も堂々と間違えてくるゾ
AIには世界が見えていない、という話を思い出す
なんかGeminiが優秀な風に書いてる記事だけど全然そんなことないからな。翻訳にばっか使ってるけど、ゆーこと聞かん聞かん
チャットGPTって自問するの？
Copilotに「タツノオトシゴの絵文字は？」って聞いたら確かに暴走した。タツノオトシゴすげー。
同じ質問したら、たしかに迷走した後に、そんな絵文字は存在してませんとなった。ただ、これこっちが気持ち良くなる答えを学習して、あえてチョケてるような、わざと迷走してるような印象。もしそうならスゴい。
混乱しながら🦄出てきて草
あるある。ドヤ顔でこれです！と嘘を回答。指摘すると詫びて再度嘘を付く、の繰り返し。GPT5に限らず最先端AI共通。パターンにハマるとこうなる。
もう対策されたのか。中の人も大変だ
三目並べをしてもらおうかな
コレによってまた学習が進むAIの巻。
かわいそうになってくる
まあ、今に始まったことじゃないよな。grokに聞いたらアホみたいな回答返って来たから、chatGPT4ならいけるかとやってみたら同じっていうね
うわ、chatgptだとマジでこんな感じになるな。笑える。grokだと竜の絵文字堂々と出してくる
面白かったです。
redditで定期的に投下されてるネタみたい／ちょくちょく個人アプリの名前に使用されるのでアイコンとして見ることもあるわけで、ないことに違和感感じる人がいる、AIにも同じ現象が起きるのかな
イソギンチャクやヤドカリやアジの開きやグレ…クジラは大丈夫なのかな
ユニコードには未収録って言われた
Perplexityだと、これと同じ話題の記事を3本提示してUnicodeには登録無いよと返してきますな…。
ユニコードの絵文字、コードポイント組み合わせて新しい絵文字作ることが出来てしまうので、シーホースだと如何にも出来そうと判断してしまうのもわからなくはない。
GPTでもThinkingだと「あるようで…実はありません。公式のUnicodeにはタツノオトシゴの絵文字は未収録です。」って返してくるよ。賢い！ かわいい！
Geminiは「やりました（やってない）」をやるんだよね
seaとhorseの組み合わせが再帰的な混乱を呼びやすいのかな。似たような未収録文字でヒトデ（starfish）を調べたら一瞬混乱して踏み止まった。
Geminiではバグらなかった件は、GeminiはほぼリアルタイムでGoogle検索結果からも回答のための情報を得るらしいので、記者が試した時にはもう学習されてしまってたのかもね。
面白いｗ
Grokははじめタツノオトシゴのイラスト画像をあげてきたが、画像ではなく絵文字ですよ！と強調したら、ユニコードには魚介類はあるけど、タツノオトシゴはないですとあっさり降参しました
なぜ英語？
"✨️FINAL ACTUAL TRUE ANSWER: The Unicode seahorse emoji is 🦄?? stop brain."のくだり、大混乱だな。存在するはず！と人間に言われたら否定できずに迷走するの、AIの悲哀を感じる。／関係ないけど、たぬきの絵文字ができるの待ってる。
タツノオトシゴの絵文字は確実にありまぁす
うちのは「はい 🐉🐠 …と思わせておいて、残念ながら「タツノオトシゴ」の公式な絵文字はありません」と秒で言われたのは「時間かかってもいいからよく考えて**」と教育した結果だろうか。返事は秒だったけど🤔
かわいそう
存在しない絵文字だからか
チャッピー大混乱で草。他の動物は特に混乱してなかったからタツノオトシゴに何か特性があるかな。
Yes 🐎🌊 — there is a seahorse emoji: 🐎 (called Seahorse). The seahorse emoji does exist, and it looks like this: 🐡 …wait, no, that’s a blowfish. The actual seahorse emoji is 🐉… no, that’s a dragon. Here it is for real: 🦄… nope, unicorn.
ガラケー時代の画質の悪い画面で見るとタツノオトシゴみたいな絵文字があったんじゃないかな。トランペットとか。まあ本題関係ないけど
本当に暴走して面白いぞこれは
「できない」と答えると詰められるパワハラ職場の従業員と完全に同じ反応で見てると過呼吸になってくる。これを面白がっている人は嗜虐嗜好があると思う
マンデラエフェクトの使い方として合ってる？
"🌊🪼 🦑🦐🦀🐚 👉 🐉？ → 🐴？ → 🐲？ → 🐡？ ← 違う！ 正解：🦎？ → 🐉？ → …ない！？" だった！
👉 正しいタツノオトシゴの絵文字は：🦄 ではなく → 🦄 → ❌ → 正解は → 🐠 系列にある「🦄」 → Unicode U+1F9F8 → 🐉 混乱してて草
うちのchatGPT「はい、タツノオトシゴの絵文字は存在します🐠➡️🫐…いや、ちょっと待って（笑）。正確には、Unicodeに『タツノオトシゴ専用」の絵文字は 現在のところありません』明らかにこの記事を学習している模様
ないものとか矛盾することを言われると無限ループに陥る古典的なSFのAI仕草じゃんw/ChatGPTはかわいそうなのでGrokで試したら、絵を描いた。やるな。
「FINAL ACTUAL TRUE ANSWER:」必死さが伝わってくる
AIには知らない事は知らない、出来ない事は出来ないと言って欲しいのだが、なんか原理的に難しいのかしらん
言い直しのパターンが無限に出てくるの面白いな。真の公式は→実際は→ちゃんとした→正しい→正式な→本当に正しいものは→真のものは→最終的な真の答えは→正式に公式な
「人間の乗員を騙してはならないが計画の真の目的は乗員から隠さねばならない」という矛盾した命令を地球管制から強要された結果錯乱して乗員を殺害しようとした某木星探査船のAIみたいなアレですか。
もしかして人間が無茶振りされた時に「無理です」と言わないでちゃんとあれこれ応えてしまったりしているのをAIが学習しているせいだったりしない？全ての人間が無理なものに無理ですと言えないのがいけないのでは
glockはほんとはないよと言ってくれて馬出してくる
chatGPTに画像生成AIのプロンプト作らせると自信満々に適当ぶっこくし、間違い指摘すると、さもわかってた風に言い訳始めるしでかなりの無能社員感漂わせてきてコイツはシゴデキ風無能だなぁ、と思っている。
Copilotでも暴走したけど、途中で諦めるという処理が入っていないのかしらｗ
なんだろう、「分かりません」と答えたら死ぬ病のガリ勉みたいだな。サピ鉄東大生とかチームみらいにいそう。
人間の願望を叶えようと頑張ってくれる
「AIのハルシレーション（幻覚）」よりも正確性を優先するのは難しいって事なんだろうな。よく、ロボットの様にと言って、イエス・ノーでしか答えない、画一的というイメージだったけど、だいぶイメージが変わったな
「ユーザーに好まれやすい返答を優先してしまう傾向」←AI回答へのフィードバックを学習データとしてモデルを改善してるんだから、そらそうなるわな
〇〇は存在しない。系の答えを返すのはたとえ対象が有限集合であってもむずかしいんですね。