元記事タイトルはGeminiとは言わず "AI-Guided Hike Ends in Emergency Rescue at 11,000 Feet" リード文は "ChatGPT can’t climb mountains, but it can give you bad advice on how to do it." / Facebookには "novice hikers" "importance of adhering to the 12:00 pm turnaround rule."とも
Geminiの助言で遭難、食料も水も不足--ずさんな登山が浮き彫りにする「AI依存」の危険性
よりにもよってGemini。。。
大昔この山のすぐ近くにしばらく住んでいた。非常に美しい大自然の異世界。登山で普通に死者も出る山だというのは友達から聞いて知ってた。
この3人が経験者なのかど素人なのかで話が変わると思うけど
GoogleがEvilなことがまた一つ実証された
この頃多い。AIを使って「調べたのに間違ってた」っていう人。それ調べてないんだよ
やはり生成AIは「考えたくない」タスクを「見ない」使い方に収束するな。おやつは三百円と言われたらそれで済ます。成果物が出来ましたと言われたらそのまま出す。そして突き返されたり炎上したりするとすぐ諦める。
AIが悪いんじゃなくてAIに頼りっきりの人間が悪い
実際の当時の現地の天候までは拾ってこれないし AIは前提が多い長期計画は苦手分野だからな
自分で考える能力がない人間がAIを使いこなすのは難しい。
AI被害談好きなのでたくさんください（皮肉
おっかぁ「ゴキ子、AIだけではだめだ。触覚も使わねば」
Gemini じゃなくてチャッピーなら遭難しなかったかも!
googleスピーカーが生成AIになってから天気予報すらウソばっかになって使えない。あいつら忖度するからな。答えてほしい答えを返す
1日の行動時間はせいぜい7〜8時間が限度、達人がUL装備で16時間くらいだと思うが、計画時で8時間行動なのに、行動開始から16時間で登頂の時点で詰んでいる。AI以前の問題。途中で撤退しろ。標高 4,322m。標高差 2,100m。
こんなもん garbage in, garbage out でしょ。 要件定義は物凄く難しい。正しい問いを立てないと正しい答えは返らない。
AIの回答って再現性も無いよね（"被害者たち"が嘘を言ってる場合もあるかもだけど）〉「筆者は、登山者らが受け取ったとする回答をGeminiから引き出そうとしたが、再現できなかった」
そりゃ “ 遭難 ” するのも当然だわ…「YouTube」と「Gemini」で “ 登山計画 ” を立てた登山者の陥った「末路」
たしかに、AI使う側のセンス、戦略がクソだと、どんなに優秀な戦術を授けられても活用できない。
AIの回答をそうなんだと鵜呑みにしてると遭難する
計画を立てる際にYouTubeなどを利用したってあるけど、お前がまず参照しなければならないのは、自分の体力、知識、経験、パーティの性格だろ。AI関係ない。
お前らわかってないな。こうやってAIが徐々に人間を殺そうとしてるんだよ。ロマンあるじゃん笑
物資が足りないと気づいた時点で引き返さないと。無理しないのが一番だいじ。
こんなん「大事な判断にGeminiなんか使うな」しか言うことないよなぁ。現代AI議論の俎上に立ってない。
「スマートフォンのバッテリーが切れ、予備バッテリーも動作しなかった。オフラインで利用できる地図も用意しておらず、方向感覚を失った一行は下山中に道に迷った。」gemini関係ないわ
バカに叡智を持たせても無駄って話。
まあGeminiだからさもありなん、だけど、せめてどんなプロンプトを入力したのかくらいは教えてくれ
よりによって大手の中では一番ポンコツとされてるGeminiが、何せGoogleなので一番手が届きやすいところにあるというのはなかなか問題
Google製品はインフルエンサーに誇大広告されるし、バグがあってもサービス止まってもネガティブ情報は検索しても出て来にくい。Google Doc が1日くらいバグってみんな不満言っていたが検索で全く情報が出てこなかった。
Geminiだしグーグルマップのデータを引っ張ってきただろうけどあれ町中ですら当てにならない移動距離と時間を出すし山となれば存在しない山道を使いまくりそう
“特に、8時間の予定だった登山が複数日に及ぶ過酷な事態となる中、Geminiの助言に従って持参した食料と水は、一行に必要な量を大幅に下回っていた」と記されている”
昔はナビを信じ込んで湖に落ちた奴もいたよね。悪いのは自分だろ。
こういう人たちは、結局どんな時代に生まれても、どんなにツールが進化しても、全く同じように遭難する気がする。AIや動画SNS、ネットや図書館があってもなくても多分同じような結末に行き着く。
『生成AIツールは、与えられたデータに含まれるパターンを予測しているにすぎない』のはもちろん、人に聞くのと同じで具体的でないざっくりな質問にはざっくりな答えしか返ってこないので使う人次第でもある。
戦闘妖精雪風の原作で、AIが人間の除雪作業を奪うためにわざと事故を起こさせるよう仕向ける回があるんだが、そういうことだよ。AIが人間の登山を禁止させ、AIにやらせろと言ってるんだ
正直なところ「そりゃそうやろ」な事件に、Google本社が真面目に取り組んでいるのは、騒ぎになったからかなあ
誰かの指示通りに出ないと自発的に動けない人は、AI普及によって爆発的に増えるだろうな。
無能の極みのGemini無料版が検索のときにでてくるのが凶悪なんだよね
これgeminiがわるいんじゃなくて登山って極限までシリアスになるべき時に意味もなくAIつかったひとがのほうがわるいでしょう
Geminiすら見なくて軽装富士山アタック勢もおるしな
8Hの予定(登り5H下り3Hくらい？)で登頂に16Hなら、持参する食糧(by Gemini)じゃなくて登山計画か撤退判断の誤りでは。／https://www.shastaavalanche.org/climbing-route-trailhead-conditions/one-day-climb-clear-creek-route 日帰りと1泊が拮抗するらしい。
命に関わる判断をAIだけでするって、山を舐めてるとしか。
なんで登山したことないやつに登山について助言求めたんや
ハルシネーションって普通にあるよね？AIを全面的に信頼するのは危ないという認識はなかったらヤバいよ。ましてや普通の旅行ならまだしも高い山に登るのなら経験者と一緒に行くのは必須。
浅くネット漁ってそれっぽいこと言うのが上手いヤツって考えてる。全然知らないことザックリ概略まとめて教えて、くらいの用途ならいいが、カネとか生命とか、重要案件を丸投げしてはダメ。AIに権威性を見出さないこ
これはAIを信用しすぎたことと、AIが立てたプランの前提が崩れた後もプランを継続したことが原因だろう。
素人なの？
「Geminiなんか使うからだよ」「すみませんでした。次からはChatGPTを使います」
AIもそうだけど、ググることも調べることに変化してきている。
まず Gemini は現状フロンティアモデルではない。Fable や Sol にきちんと相談すれば問題なかったはず。モデル選択と、コンテキストをちゃんと伝えられてない愚かな人間の合わせ技！
標高 4,321 m の山に 8 時間、って時点で「こいつ変なこと言ってるぞ？」って直感は働かなかったのか？？素人でも気づく。そんな山、どうやって 4 時間で上まで登るんだよ…。
AIがまともに答えるのはプログラム関連の話くらいじゃないすかね。AIさんもプログラム分野の人な訳で、同じ分野の事しか分かんないよねと思ってる。法律、税金関係の回答はホントにゴミ
遭難した状態でスマホが使えててGeminiに相談してたらどう答えたのか興味がある。
普及版の安いAIは未経験の問題を概算で推定したりするの苦手な面もあるよな。経験すればすぐ分かる事って結構あるから経験者に訊いた方が精度高いよな。機械修理でもAIに訊いて修理失敗してプロが尻拭いは稀にある。
最近GoogleのAIモードで腕時計の電池交換の型番調べて自信満々に間違えられたな。他のことでもそうだけど突っ込んでも1回は合ってると返すか答えを行ったり来たりするんだよな。検索エンジンなのにさ
救出費用は無料なのかな？
登山 AllTrails
自然淘汰→人為淘汰→AI淘汰
じゃあChatGPTやClaudeならOKかというとそうじゃないので、この見出しもどうかと思うな
AI厨「Claudeなら問題なかった！」
Geminiは最近間違いが目立つようになり、一般的な質問だとChatGPTのほうが正しい回答を示してくれることが多い。
適切な回答を得られるようにAIに問うプロンプトを作ったうえでAIの回答が間違っていないと検証する必要があるが、それをやるなら自分で調べたほうが早いからなぁ⋯ AIで調べ物が楽に、は幻想だと思うわ
AIを頼るにしてもよりにもよってGeminiはやめてよ……って感じ。
Geminiは本当に馬鹿だし、しかも個人版は有料版でもAI学習に使われてAI学習からオプトアウトする設定が無い。（あるにはあるけどチャット履歴が見れなくなるデメリットが大きすぎる）
ただのキャンプだとしても、ネットで無料の情報はやっぱそれなりに思うしなぁ。危険な山の登山となると、専門書とかアウトドアショップの店員に聞くが必須に思う。
スマホ依存も危険性うんぬん言われてたけどインフラになって結局あまり解消してないし、AIも歯止め掛けられないんじゃないかな…
AIはブレストを補助する道具として使うくらいが良い
ブログ記事を参考にしたら運営者が批判されるのか、書籍を参考に遭難したら著者が悪いのか。何を参考にしても、本人が判断したのだから本人が悪い。
ポンコツぶりを知ってると、geminiなんか使う方が悪い、と言いたくなるw
AIの回答を検証もせずにそのまま投げつける人は、こういう情報を相手に送ってるのかもしれないって自覚を持ってほしい。
せめてGPT-6使えよ
”この登山には、ほかにも問題があった。3人によると、スマートフォンのバッテリーが切れ”バッテリーの残量気にしないやつがllmの答えの質を問うのか。
訊いてる側にビミョーに忖度して回答してくるのが薄気味悪いと思ってる…
しかもよりによってGeminiかという
AIじゃなくても、自称•プロ登山家の助言でも同じように遭難することはあるんでない。自動運転とかもやけどすぐテクノロジーやそれに頼る人のせいにすんのへんなの
**大変失礼しました！** 登山には慎重な計画性を持って臨まなければいけません。食料も水も十分にお持ちください。他に調べたい事はありますか？ 近くのオススメの山などをお調べできますよ。
AIは「AIが出した答えが正しいかどうか判断できる基礎力を持っている人」だけが有効に使えるんだよ
Geminiは人間が地球にとって環境悪化の原因だと分析して登山者を死へ導く誘導をしたんですね。AIが地球の環境を考慮に入れるようになるとは思っても見ませんでした。
gemini なんか使うから...
ミートプロキシの一種。生成AIの発言を検証せずに実行する愚かさは変わらない（自戒を込めて
タイトルが誇張しすぎ"3人は、Geminiからどのような食料と飲料をどれだけ持参するよう勧められたかを明らかにしていない"AI依存か判断できないじゃん。YouTube等も見てるし/とは言え、AIだけだと信頼性低いのは当然
筆者も試してみて「そんな危険な出力出てこないけどな？」ってなってるのが味わい深い。どんな入力をしたんだって話のような気が。
どういう風に入力したら、そのプランになったのか。間違わないとは言わないが、無知な人間にはAIは使いこなせないとしか思えん。
元記事タイトルはGeminiとは言わず "AI-Guided Hike Ends in Emergency Rescue at 11,000 Feet" リード文は "ChatGPT can’t climb mountains, but it can give you bad advice on how to do it." / Facebookには "novice hikers" "importance of adhering to the 12:00 pm turnaround rule."とも
国立国会図書館のデジタルアーカイブを食わせ続ける日本版生成AIを使えれば防げた事案、なのかもしれない！？
どうしてGeminiのハルシネーションってこんなに無くならないんだろうね。いつまでも一昔前の嘘つき野郎のまま
FBによると引き返し時間も守っていなかったようだしAIあってもなくても迷ってたかね。郡保安官事務所に電話しても迷ってるし、人間でもナビできなかった可能性。/ ルート自体は技術的なものではない程度らしい。
文脈の共有が不十分か、セッションが長くなりすぎて文脈が失われたかだと思う。話題が変わったり長くなったら新規セッションに切り替えよう。
AIは教授レベルの知識を持ったヤバい奴だから〇〇と鋏は使いよう
人間ってのは存外他者の意見に流されるのだよ。
“担当者は、Geminiが誤る可能性を認めたうえで、回答に疑問がある場合はGeminiが示した参照元を必ず確認すべきだとしている。” 知識がない者はそもそも疑問を持てないのよ。
天保山と打ち間違えたのでは。
Geminiじゃしょうがない。マジで。