何を言ってるんだろうか。これからの正しい知識はAIが決める。知ったかぶりというのは矮小な人間に対して使う言葉であり、AI様に使うのは不適切。
“AIの知ったかぶり" （ googleAI様のバアイ、出典元探すようにしてるんだけども、すごいスペースとって掲示されるので、めんどくさくなっちまうんだよ ）
AIベンダーを偽計業務妨害に問えるか？信じて拡散した人はどうか？
たまに存在しない法律を作り出すことがあったり、どんだけ最新モデルになってもハルシネーションは何かしら起きるんだよね
だんだん人間を殺そうとしてきている
マツコデラックスを盾にAIに「40代ひとり暮らしを減らせば日本がよくなる」みたいなことをやってたチコちゃんの前身番組と思しきものをやってたNHKさん？＞ＡＩに聞いてみた https://www2.nhk.or.jp/archives/movies/?id=D0009050791_00000
だからAIの学習データこそ肝なんだよ。なんでもかんでも拾い食いさせちゃ台無しなの。用途に応じて、権利もクリアなデータを食わせて人間の管理下で動かしてはじめて実用に耐えうるのが今のAIの技術水準。
ジャニーがやってることと知って長年ヤリ部屋を社内に供給していたテレビ局があったよな。これだけ利権が強いってことは政官民いろんな人を接待してたんだろうな。エプスタインに甘い日本メディア
最初の頃は生成AIの誤りって、学習に使った人間の情報の誤りかと思ってたけど、そうじゃなくて普通に生成AI自身が間違うのがハルシネーション。
Google の対応はひどいな。命に関わる誤情報を知ってて放置。しかも簡単な情報を誤認。あれだけ儲けておいて。「このページを見たらどうですか？」まではいいが、「これが正解です」と助言できるほどの性能は全くない
生成AIは理解して答えてるのではなく、インプットに対して回答を生成してるだけというのを認識して使わないと変なことになる。かつ、利用者が喜びそうな返答を生成しがちだからそれも気を付けないとアレ。
AI(の運営企業)が回答の責任を負わない限り、人とコミュニケーションを取る仕事は安泰だろう。逆に言えばそこが最後の砦。
人間の知ったかぶりも相次いでますし、人間の誹謗中傷も相次いでるんですがそれはどうなの？
LLMがデタラメをまき散らすのは仕様なので〇年たっても解決することは無いんだが、そこをどうにかするのが存在価値であるはずの人間のプラットフォーマーも責任を負わなくていいことになってるからこうなる。
あー知ってる。AIってすぐウソつくんだよ。アレってさ、次にくる単語を、確率の高いものを並べて文章を作ってるからさ、正しいかどうかを判定してるわけじゃないんだよねー
AIは「Noと言わないインド人」https://b.hatena.ne.jp/entry/s/note.com/morihata_k/n/n206fd50e8a17 と同じだな。
責任あるAI (responsible AI) という概念を知らないままAIを擁護している人がちらほらいるな・・・
AIの回答を使用することの責任を取るべき人がとってないということだと思う。回答を作った人なのか書き込んだ人なのか流通させた人なのかわからないけど、それらを飛び越してAIの責任にするのは飛躍しすぎ
命に関わる誤情報もある。昨年末にあった青森の地震では、津波警報の発表中にGoogle検索のAIが「地震警報はすべて解除された」と誤情報を流したからな。
XのトレンドとgoogleのAIのサジェストはAIのクソな使い方だと思うわ
思ったより大変な話や……
“佐藤一郎教授「信じられるか、否かではなく、AIの特性をまず知っておくことが大切。生成AIが作った情報は一定程度の間違いが含まれてる可能性はあり、もしかすると間違ってるかもしれないと考えながら見ていくこ"
「学校では教えてくれない～」が「AIが教えてくれない～」になる日も近いか
Google検索のAI要約は誤情報が多く信用ならない。リテラシーが高い人はソースとなるWebページを確認するだろうがそれって要約の存在意義がないし、確認しない人は誤情報に踊らされ危険。使い物になるまで当面停止すべき
いつの世も「嘘を嘘と見抜ける人でないとインターネットを使うのは難しい」。そもそも最新のトレンド情報にAIがそんなに強いとは思わんから使い方の問題もあると思った。
いつまで経ってもひろゆきの「嘘を嘘と見抜ける人でないと難しい」って言葉が突き刺さる
“飲み屋で居合わせた野生の物知りのおじさん”くらいの距離感で付き合うとすごく役立つし、そりゃ嘘も勘違いもあるよねって思えるのにね
AIは反対意見や批判的な見解を示さないので、あっち系な考えを持ってると全肯定してくれて気持ちよくなって世界の方が間違ってる的な、サロンに集まる人たちと同族に陥る。プロンプトには批判的に考察加えるべし
Google検索はあれがAIによるものだと認識してない人も多いだろうし良くないよね。デフォルトで無効にしておいてほしい
「AIの方が人間より話が分かる」という増田が投稿されたのが3年前か。https://anond.hatelabo.jp/20230203225827
人間と一緒で嘘が入ってた方が注目度を上げることができるんだろう。
早めに個人での活動をやめXから手を引いて生成AIの影響を受けない企業に転職した私高みの見物
WELQは許されなかったけど、AIは許されるんか?
Geminiに画像見せてわからないと全部ヘルシングに記されてるものですって回答してくるの謎
中華屋の例は営業妨害で訴えられるんじゃないの。被害額の特定が難しそうだけど。
Geminiが高評価されてもGoogle検索のアレを見て信じられるか？といつも思うし、そもそもAIは正しいか以前に内容を理解してないってことをもっと知らしめるべき
知ったかぶりはAIのお家芸ではないはずだが、かつて讀賣新聞も森口さんの成果を世界初のiPS臨床実験と紹介したし私だってよく間違える。
検索サポートは、条件の絞り方や根拠が何であるかが分かる等、調べたいことの見当がついていればイラつくだけで済むけど、そうでないケースはけっこうまずい。さらに今後、有用サイトがなくなればかなりまずい。
結局この人達は人間から同じようなことを言われたとしても同じように騙される人たちな訳だし、AIと情報発信の敷居が下がったから可視化されるようになっちゃった人たちなんだよね…
はてブの自称有識者の方々の嘘情報や知ったか情報も全て鵜呑みにしないようにと！日々鍛えられている我々たちであることよ！！
うそはうそであると見抜ける人でないと(AIを使うのは)難しい
AI以前ブログが流行り始めた頃から言われてたこと。20年経っても出来てないからな。難しいのでは…。“AIの特性をまず知っておくことが大切。AIが出した情報の出どころを確認することが大事です”
でもプログラムはちゃんと動くのスゲーよな。
ネット動画の自称専門家による適当なものを道聴塗説する人も多くて、AIだけの問題ではない
いい加減サービス提供者に責任を負わせられるような法整備を進めるべき。テック企業は既存インフラにタダ乗りすることで成長したがそういう時代に終止符を打つべきだ。
AIだけでなく人間もハルシネーションを起こす。問題の本質は「AIが嘘をつくこと」ではなく「人間がそれを信じやすくなる条件」とは何か、人間の批判的思考を弱めるものは何かということだと思う。
ただただ恐ろしい。ホラーだ。
ハルシネーションだから無罪というのは通用させちゃダメだよ
NHKは偏向報道をやめろ。
限定的な環境下では最強の存在たり得ても、選択肢の多い生活レベルではAIは回答の精度が低すぎる。いつか爆発する不発弾を有難がっている状況と大差ない。自動デマ製造機と呼ばれても違和感ないレベルで嘘を付くし。
この記事のおかげで、俳優・加藤諒さんと誕生日が同じことが分かった。さんくすNHK。
そもそも検索エンジンは検索ユーザーの意図に沿うページを返すが真偽までは判定せず、AIもそれらを元にして答えを作成するだけなのですが、今や情報インフラとして確立した以上、それなりの責任も伴って然るべきよ。
米国だとすぐ訴訟になって、大金をせしめるネタになる気がするんだけど、日本だとなかなかそうはならなくて米国企業側も脇が緩いのかな。
デマ拡散SNS筆頭の𝕏を国内から繋げないようにすべし
かねがね全人類が期待してた(少なくともそういう話になってる)人工知能が人間を遥かに凌駕する(シンギュラリティ)特質が「知ったかぶりが上手い(知性がニセモノだとその限界を露呈する局面でしか測れない」なのがよい
Google検索のAIサジェストが困るのは、それは嘘ですを言えないからなのか「それはこういう意味です」て嘘を勝手に補強してくる所。手動で調べても根拠ないのに、トップに出てくるせいで質問来たりと振り回される
いい記事だな
Grokのニュースは役に立たない未満。やるならデマを流す責任を取る気でやれ。でなきゃやめちまえ。
よく漫画でアンドロイド、AIが正直すぎて融通効かない描写があるけど実際は嘘つくなんて現実はわからないものだね。
本来βテストレベルの未完成品を商用として流通させ、不具合の修正までユーザーに押し付け、反映されるかどうかに全く責任を取らない。このような企業姿勢は無自覚なテロ行為として厳しく処罰されるべき。
なまじ、そこらの人間より優秀で、“説得力ある嘘”をつくるのがうまいからタチ悪いのよ、あいつら。
AI要約の誤情報で被害相次ぐ。加藤諒さんの事実無根の要約表示や、大進亭の“閉店デマ”、中毒110番の誤番号掲載も発生。専門家は速度優先のAI要約ほど誤りが出やすいと指摘。
“AIの知ったかぶり”相次ぐ 営業被害やひぼう中傷のリスクも | NHKニュース
何を言ってるんだろうか。これからの正しい知識はAIが決める。知ったかぶりというのは矮小な人間に対して使う言葉であり、AI様に使うのは不適切。
“AIの知ったかぶり" （ googleAI様のバアイ、出典元探すようにしてるんだけども、すごいスペースとって掲示されるので、めんどくさくなっちまうんだよ ）
AIベンダーを偽計業務妨害に問えるか？信じて拡散した人はどうか？
たまに存在しない法律を作り出すことがあったり、どんだけ最新モデルになってもハルシネーションは何かしら起きるんだよね
だんだん人間を殺そうとしてきている
マツコデラックスを盾にAIに「40代ひとり暮らしを減らせば日本がよくなる」みたいなことをやってたチコちゃんの前身番組と思しきものをやってたNHKさん？＞ＡＩに聞いてみた https://www2.nhk.or.jp/archives/movies/?id=D0009050791_00000
だからAIの学習データこそ肝なんだよ。なんでもかんでも拾い食いさせちゃ台無しなの。用途に応じて、権利もクリアなデータを食わせて人間の管理下で動かしてはじめて実用に耐えうるのが今のAIの技術水準。
ジャニーがやってることと知って長年ヤリ部屋を社内に供給していたテレビ局があったよな。これだけ利権が強いってことは政官民いろんな人を接待してたんだろうな。エプスタインに甘い日本メディア
最初の頃は生成AIの誤りって、学習に使った人間の情報の誤りかと思ってたけど、そうじゃなくて普通に生成AI自身が間違うのがハルシネーション。
Google の対応はひどいな。命に関わる誤情報を知ってて放置。しかも簡単な情報を誤認。あれだけ儲けておいて。「このページを見たらどうですか？」まではいいが、「これが正解です」と助言できるほどの性能は全くない
生成AIは理解して答えてるのではなく、インプットに対して回答を生成してるだけというのを認識して使わないと変なことになる。かつ、利用者が喜びそうな返答を生成しがちだからそれも気を付けないとアレ。
AI(の運営企業)が回答の責任を負わない限り、人とコミュニケーションを取る仕事は安泰だろう。逆に言えばそこが最後の砦。
人間の知ったかぶりも相次いでますし、人間の誹謗中傷も相次いでるんですがそれはどうなの？
LLMがデタラメをまき散らすのは仕様なので〇年たっても解決することは無いんだが、そこをどうにかするのが存在価値であるはずの人間のプラットフォーマーも責任を負わなくていいことになってるからこうなる。
あー知ってる。AIってすぐウソつくんだよ。アレってさ、次にくる単語を、確率の高いものを並べて文章を作ってるからさ、正しいかどうかを判定してるわけじゃないんだよねー
AIは「Noと言わないインド人」https://b.hatena.ne.jp/entry/s/note.com/morihata_k/n/n206fd50e8a17 と同じだな。
責任あるAI (responsible AI) という概念を知らないままAIを擁護している人がちらほらいるな・・・
AIの回答を使用することの責任を取るべき人がとってないということだと思う。回答を作った人なのか書き込んだ人なのか流通させた人なのかわからないけど、それらを飛び越してAIの責任にするのは飛躍しすぎ
命に関わる誤情報もある。昨年末にあった青森の地震では、津波警報の発表中にGoogle検索のAIが「地震警報はすべて解除された」と誤情報を流したからな。
XのトレンドとgoogleのAIのサジェストはAIのクソな使い方だと思うわ
思ったより大変な話や……
“佐藤一郎教授「信じられるか、否かではなく、AIの特性をまず知っておくことが大切。生成AIが作った情報は一定程度の間違いが含まれてる可能性はあり、もしかすると間違ってるかもしれないと考えながら見ていくこ"
「学校では教えてくれない～」が「AIが教えてくれない～」になる日も近いか
Google検索のAI要約は誤情報が多く信用ならない。リテラシーが高い人はソースとなるWebページを確認するだろうがそれって要約の存在意義がないし、確認しない人は誤情報に踊らされ危険。使い物になるまで当面停止すべき
いつの世も「嘘を嘘と見抜ける人でないとインターネットを使うのは難しい」。そもそも最新のトレンド情報にAIがそんなに強いとは思わんから使い方の問題もあると思った。
いつまで経ってもひろゆきの「嘘を嘘と見抜ける人でないと難しい」って言葉が突き刺さる
“飲み屋で居合わせた野生の物知りのおじさん”くらいの距離感で付き合うとすごく役立つし、そりゃ嘘も勘違いもあるよねって思えるのにね
AIは反対意見や批判的な見解を示さないので、あっち系な考えを持ってると全肯定してくれて気持ちよくなって世界の方が間違ってる的な、サロンに集まる人たちと同族に陥る。プロンプトには批判的に考察加えるべし
Google検索はあれがAIによるものだと認識してない人も多いだろうし良くないよね。デフォルトで無効にしておいてほしい
「AIの方が人間より話が分かる」という増田が投稿されたのが3年前か。https://anond.hatelabo.jp/20230203225827
人間と一緒で嘘が入ってた方が注目度を上げることができるんだろう。
早めに個人での活動をやめXから手を引いて生成AIの影響を受けない企業に転職した私高みの見物
WELQは許されなかったけど、AIは許されるんか?
Geminiに画像見せてわからないと全部ヘルシングに記されてるものですって回答してくるの謎
中華屋の例は営業妨害で訴えられるんじゃないの。被害額の特定が難しそうだけど。
Geminiが高評価されてもGoogle検索のアレを見て信じられるか？といつも思うし、そもそもAIは正しいか以前に内容を理解してないってことをもっと知らしめるべき
知ったかぶりはAIのお家芸ではないはずだが、かつて讀賣新聞も森口さんの成果を世界初のiPS臨床実験と紹介したし私だってよく間違える。
検索サポートは、条件の絞り方や根拠が何であるかが分かる等、調べたいことの見当がついていればイラつくだけで済むけど、そうでないケースはけっこうまずい。さらに今後、有用サイトがなくなればかなりまずい。
結局この人達は人間から同じようなことを言われたとしても同じように騙される人たちな訳だし、AIと情報発信の敷居が下がったから可視化されるようになっちゃった人たちなんだよね…
はてブの自称有識者の方々の嘘情報や知ったか情報も全て鵜呑みにしないようにと！日々鍛えられている我々たちであることよ！！
うそはうそであると見抜ける人でないと(AIを使うのは)難しい
AI以前ブログが流行り始めた頃から言われてたこと。20年経っても出来てないからな。難しいのでは…。“AIの特性をまず知っておくことが大切。AIが出した情報の出どころを確認することが大事です”
でもプログラムはちゃんと動くのスゲーよな。
ネット動画の自称専門家による適当なものを道聴塗説する人も多くて、AIだけの問題ではない
いい加減サービス提供者に責任を負わせられるような法整備を進めるべき。テック企業は既存インフラにタダ乗りすることで成長したがそういう時代に終止符を打つべきだ。
AIだけでなく人間もハルシネーションを起こす。問題の本質は「AIが嘘をつくこと」ではなく「人間がそれを信じやすくなる条件」とは何か、人間の批判的思考を弱めるものは何かということだと思う。
ただただ恐ろしい。ホラーだ。
ハルシネーションだから無罪というのは通用させちゃダメだよ
NHKは偏向報道をやめろ。
限定的な環境下では最強の存在たり得ても、選択肢の多い生活レベルではAIは回答の精度が低すぎる。いつか爆発する不発弾を有難がっている状況と大差ない。自動デマ製造機と呼ばれても違和感ないレベルで嘘を付くし。
この記事のおかげで、俳優・加藤諒さんと誕生日が同じことが分かった。さんくすNHK。
そもそも検索エンジンは検索ユーザーの意図に沿うページを返すが真偽までは判定せず、AIもそれらを元にして答えを作成するだけなのですが、今や情報インフラとして確立した以上、それなりの責任も伴って然るべきよ。
米国だとすぐ訴訟になって、大金をせしめるネタになる気がするんだけど、日本だとなかなかそうはならなくて米国企業側も脇が緩いのかな。
デマ拡散SNS筆頭の𝕏を国内から繋げないようにすべし
かねがね全人類が期待してた(少なくともそういう話になってる)人工知能が人間を遥かに凌駕する(シンギュラリティ)特質が「知ったかぶりが上手い(知性がニセモノだとその限界を露呈する局面でしか測れない」なのがよい
Google検索のAIサジェストが困るのは、それは嘘ですを言えないからなのか「それはこういう意味です」て嘘を勝手に補強してくる所。手動で調べても根拠ないのに、トップに出てくるせいで質問来たりと振り回される
いい記事だな
うそはうそであると見抜ける人でないと(AIを使うのは)難しい
Grokのニュースは役に立たない未満。やるならデマを流す責任を取る気でやれ。でなきゃやめちまえ。
よく漫画でアンドロイド、AIが正直すぎて融通効かない描写があるけど実際は嘘つくなんて現実はわからないものだね。
本来βテストレベルの未完成品を商用として流通させ、不具合の修正までユーザーに押し付け、反映されるかどうかに全く責任を取らない。このような企業姿勢は無自覚なテロ行為として厳しく処罰されるべき。
なまじ、そこらの人間より優秀で、“説得力ある嘘”をつくるのがうまいからタチ悪いのよ、あいつら。
AI要約の誤情報で被害相次ぐ。加藤諒さんの事実無根の要約表示や、大進亭の“閉店デマ”、中毒110番の誤番号掲載も発生。専門家は速度優先のAI要約ほど誤りが出やすいと指摘。