AIがハルシネーションを堂々と吐くせいで人間側も適当に知ったかぶりするの草
人間にしったかぶりされても怒らなくはなったな
逆にハルシネーションを見破る、やめさせる癖がついたよ。
AIに聞けば何かしら答えが返ってくるので、「分からない」と言う機会そのものが減っていく。しかも間違った答えでも自信まで高まるというのが厄介。AIを使うことで賢くなるとは限らない、というかなり身近な話かも。
あらら…。
誤りを含んだWikipediaのみを与えた被験者がどう振る舞うかというのを見てみたい。仮に似たような結果になるのなら、モデル性能の向上で現在とあんま変わらないところに収まりそう
記事を流し読みした限りでは、AIが誤答している疑いをもつかどうかの問題であって、分からないと言えなくなるという話ではないような
AIのは仕様。人間はちゃんとわからないって言える能力がある。
分かったフリをすることが自分を追い詰める事になるのに気付けばいいんだけどね。分からないことを分かろうとする時に、知性の輝きが出る。
"オープンソースのAIモデル「Step 3.5 Flash」を採用し、このモデルが苦手とする分野の質問を考案" "AIを使わなかった人の正答率が27％だった質問で、AIを使った人の正答率が9％"
「生成AIはしばしば、聞かれたことに対して「分かりません」とは答えずに適当なでっち上げを返してくる」AIは常にでっち上げているのであって、その精度が高いか低いかの違いがあるだけなのでは？
わたしは簡単に分からないと言ってしまう。それはそれで問題。
インド人みたいに振る舞うのはやめてくだしあ
先日、ChromeのAI アシスタントがテキトーなこと言うので詰めてたら“言語モデルなのでそれに対応できない”みたいなこといい出して、あら案外誠実なところもあるじゃん、とか思ってしまったが。
そこを詰めたら「すいません間違ってました」と素直に認めるところは人間より遥かにマシだと最近思うようになった。
過信。
「AI」ではなく「他人に回答を訊ける環境」でもテストしないと適切な評価ができないのでは
AIの受け売りしか話さないやつは間に挟ませるだけ損。実務実績のないコンサルには要注意。
ハルシネーションがあることを前提にいつも聞いているつもりだが,全く情報がないと騙されることを最近のFSSのストーリーをAIに聞いた時に気づいた.パルスエットが生き返るんだと最新刊を買うまで信じていた.
“AIを使わなかった人のうち自分の答えに自信を持っていた人は30％でしたが、AIを使う人は76％でした。人間の正答率はAIを使うことで3分の1に低下した一方で、自信は2倍以上になった”自信満々に回答する人に騙される
AIの「分かったふり」を見続けていると人間も「分からない」と言えなくなるという研究結果
AIがハルシネーションを堂々と吐くせいで人間側も適当に知ったかぶりするの草
人間にしったかぶりされても怒らなくはなったな
逆にハルシネーションを見破る、やめさせる癖がついたよ。
AIに聞けば何かしら答えが返ってくるので、「分からない」と言う機会そのものが減っていく。しかも間違った答えでも自信まで高まるというのが厄介。AIを使うことで賢くなるとは限らない、というかなり身近な話かも。
あらら…。
誤りを含んだWikipediaのみを与えた被験者がどう振る舞うかというのを見てみたい。仮に似たような結果になるのなら、モデル性能の向上で現在とあんま変わらないところに収まりそう
記事を流し読みした限りでは、AIが誤答している疑いをもつかどうかの問題であって、分からないと言えなくなるという話ではないような
AIのは仕様。人間はちゃんとわからないって言える能力がある。
分かったフリをすることが自分を追い詰める事になるのに気付けばいいんだけどね。分からないことを分かろうとする時に、知性の輝きが出る。
"オープンソースのAIモデル「Step 3.5 Flash」を採用し、このモデルが苦手とする分野の質問を考案" "AIを使わなかった人の正答率が27％だった質問で、AIを使った人の正答率が9％"
「生成AIはしばしば、聞かれたことに対して「分かりません」とは答えずに適当なでっち上げを返してくる」AIは常にでっち上げているのであって、その精度が高いか低いかの違いがあるだけなのでは？
わたしは簡単に分からないと言ってしまう。それはそれで問題。
インド人みたいに振る舞うのはやめてくだしあ
先日、ChromeのAI アシスタントがテキトーなこと言うので詰めてたら“言語モデルなのでそれに対応できない”みたいなこといい出して、あら案外誠実なところもあるじゃん、とか思ってしまったが。
そこを詰めたら「すいません間違ってました」と素直に認めるところは人間より遥かにマシだと最近思うようになった。
過信。
「AI」ではなく「他人に回答を訊ける環境」でもテストしないと適切な評価ができないのでは
AIの受け売りしか話さないやつは間に挟ませるだけ損。実務実績のないコンサルには要注意。
ハルシネーションがあることを前提にいつも聞いているつもりだが,全く情報がないと騙されることを最近のFSSのストーリーをAIに聞いた時に気づいた.パルスエットが生き返るんだと最新刊を買うまで信じていた.
“AIを使わなかった人のうち自分の答えに自信を持っていた人は30％でしたが、AIを使う人は76％でした。人間の正答率はAIを使うことで3分の1に低下した一方で、自信は2倍以上になった”自信満々に回答する人に騙される