AI以前から重要な情報をネットで公開しないけどGoogleで検索できるものはネットに公開されるものだけだった（太古は物好きが趣味で色々書いていたが）。慣れるとGoogleで検索して出てくるものが正義になっていったが……
それっぽい嘘をつく学者がのびのび暮らしてたら、それっぽい嘘をつくAIで素人が大量に入ってきて悲鳴をあげるアカデミア
こんなにややこしいことになってたのか……ため息しか出ないな
まあそれでも専門家は放置しておくわけにもいかないのだろうが→“生成ＡＩが数秒ででっち上げた嘘を、専門家が多大なコストを払って尻拭いしていく、という非対称性”
これに関しての人文ウォッチ、へなちょこだったなぁ。植田氏によれば「我々はへなちょこだ！」ということなのだろうけど
まぁAI登場以前のトンデモ批判の昔からではあるが。かつてのトンデモ批判批判的な動きも既にあり、不毛の上に不毛を重ねる流れは何度でも繰り返されるのか
「ＡＩの設計者や開発者は、明確な情報を担保する仕組みをきちんと組み込むべきです。」
専門家のリソースをAIの嘘の修正で削るの、まさに不毛な時代の幕開けって感じだ
"「アンチ」の中には公開質問状形式で私に質問をぶつけてくる方もいました。これは本当によくない。公開質問状というフォーマルな体裁をとることであたかもそれに答える義務が私にあるかのような雰囲気を演出する"
これからはAIの言うことを正せる人のほうがありがたがられると思うな
どこでもそうだよね。工業化の時と同じ、粗製乱造フェーズが来ている、でもこれはそのうち直るから、そっからが別の問題。
自分の専門分野についてSNSで実名で議論なんてするもんじゃないな。やりたければ匿名でやるべきだ。プロは金を取ってこそプロなので、無料で仕事をするべきじゃない。
当たり前だけどネット上に無い資料をAIは拾ってこれない
嘘は嘘であると見抜ける人でないと、なんたらかんたら
“情報の足りない部分を勝手に補い、あたかも事実であるかのように装うことも多い。”これかな https://x.gd/e2YSv ／（でも瀬名は…畏れ多いことですが https://x.gd/SrNAh〔小声〕「小説と史実は違う」のは否定できないけど
AIに出力させたデータを検証していくより、自ら文献をあたりに行った方がタイパコスパがいい。これは研究者だから言えることだろうなあ。そして一般人が労力なしにそれっぽい物を出力できちゃうことに怖さがあると。
生成AIの「それっぽい嘘」に 疲弊するアカデミア【平山 優】
この問題そのものは理解しつつも、長期的にはAIで出来ない学問は職業として消滅する（趣味としてのみ成立する）か、ロボットなどのフィジカルAIでこなせる範囲に限定されるのでは等とブッダロイドを見た後だと思う。
アンチのやってる事は酒場でプロレスラーに喧嘩をふっかける行為と同じなんだよなぁ…殴られないだけで（知識量で殴られてるけど）。
これはたいへん
LLMに出力させた内容は他のLLM2つくらい噛ませてファクトチェックしたうえで人間がチェックしてからでないと、論じるに値しない。コーディングエージェントだって設定用yamlに存在しないパラメータ追加したりする。
陰謀論者がイキイキしてる訳だ
戦国時代の武士は武将の意思でカジュアルに認定されそうだし。最適な組み合わせや仮説を立てるサイクルは生成AIのお陰で加速的に進歩したし技術発展の表裏だ。生成AIは客の意向に寄り添うから自説の補強に向いてない
読んでるだけで目眩がする
ウクライナ紛争でやっているドローンvsドローンみたいなもん
"そもそも私に言わせれば、なぜ専門家が一切の対価もなく「アンチ」に応答する義務があるのか、ということです"
真っ当な学者さんの労力をこんなところで消費してホントにもったいない。ネットの嘘をそれっぽく整えるのはAI得意だけど、新説はデータがないからAIで対抗できない。何とかして欲しいけど、良い案が思いつかない⋯⋯
"歴史学者・平山優氏は、生成AI（特にGrok）が作り出した存在しない文献や誤った論理を根拠にした反論を受け、膨大な裏取り作業を強いられた。"
海外で「サムライ」が誤認されてるから弥助が侍身分であることを主張すると困るって話なのかー。いや状況証拠的に侍ではあるがサムライではないよみたいな話をもっとすべきだよなあ……
逆にネットに公開された大量の論文を集めてサーベイするのは圧倒的だと感じる。生データを集める泥臭い部分が人間の仕事なんだろう
「燃え続ける「弥助＝侍」論争」「なぜ専門家が一切の対価もなく「アンチ」に応答する義務があるのか、ということです」「ＡＩは所蔵者宅を訪問することも、そこに住んでいる人々に頭を下げることもできません」
明らかに悪い意味でAIだけど決めうち指摘できなくてつらいって友人の教員が嘆いていた。
専門領域ほど生成AIの嘘比率は高まるので、結果としてアカデミアがDDoSまたはFlood攻撃をされている状況よな “生成ＡＩが数秒ででっち上げた嘘を、専門家が多大なコストを払って尻拭いしていく、という非対称性”
まだ真心がある疲弊でよかったね。半年もしたら如何にimpを稼ぐかに最適化したAIエージェントがフリーレンの魔物のように人間の振る舞いをして疲弊を生み続けるよ。そこには悪意すら無く命令しかない世界が待ってる。
反知性主義者がAIの棍棒持って襲ってくるわけか。反知性でもAIの知性を頼りにするのが面白いけど。/ ネットの空気みたいのに染められる人が本当に嫌ね『文系学問を軽視する風潮が政界や財界ばかりか、一般人にも蔓延』
論理的思考もできず、自分で調べることもできないような素人と専門家が議論をしても不毛な結果にしかならないだろうね。放置するとSNSと生成AIによる社会に対する害はどんどん拡大していきそう。歯止めが必要だろう。
これ見たな。でも「質問状」の話はしらなかった。
えー…仕事の出来ない人が作った適当な資料の修正は一から作るより手間がかかってたちが悪いのは思い当たる事が多々あると思いますが…
大変なんだろうが結構危うい発言もあるな。専門家が無料で対応する義務はないだの、専門家の価値は資料所有者を訪れ頭を下げるところにあるだの。それを言うと税金で上げた成果を元に本や講演で金を稼ぐのかとなるぞ
事実を知っていれば「いや違うだろ」と反論でき、AIもすぐに「間違いでした」と言うのだが、そうでないと騙されるね。ChatGPTが「日本の首相は石破茂で、高市早苗は首相ではありません」と言ったのには驚いた。
「「戦う」の意味は「ネット上で誰彼構わず喧嘩する」という意味ではありません。私が戦っているのはまさに歴史修正主義です」
“本当に「何かのネタですか？」と思ったのは、私をＡＩで論難してきた人のプロフィール欄に「差別や歴史修正主義と戦っています」という旨の内容が書いてあったことです。”
平山先生は素人にも容赦なく論理的に煽っていくスタイルに見えるけど、やはり疲弊していらっしゃるのか。崩し字の判読は機械的にできるようになってきたし、いずれ史料用語や複数史料の文脈を読み解くAIも出てきそう
生成AIで嘘やデマをばら撒く人間はAIに使役させられる奴隷である。本人は知的生産をしているつもりでも実際はAIにいいように使われて自我を放棄している。
専門家が交渉して、出かけて、蔵から資料を掘り起こして、資料から貴重な部分を探し出して、考えに考えて、論文にして発表すると、それをAIがさらっと読んで自身のデータに取り込んじゃうだろ？ 悲しいな。
学術論文よりも素人による言説のほうが圧倒的に数が多くて、学問上の定説すらも数十年で覆り得る分野で、AIが正解を導くのは難しそう。
この人は、自分以外はすべて専門家ではない素人、「アンチ」であると言ってしまっているわけで、”専門家”の定義から見直していくべきでしょうね ／「弥助はサムライではない、下級武士だ」と言えばいいのでは
嘘の出典がぜんぶ民明書房ならわかりやすいのに…
この人もブロックすれば終わる話にわざわざレスバして乗っかってるから同業者からは擁護されなさそう
弥助からまれ、ちらっと見たけど酷かったな…／ビジネスの現場もだ。AIは裏取りした方がいいですって若手に言うてたら老害っすよ〜言われたんだが、それっぽい嘘の罠に引っかかってあわや大惨事だったことある
呉座勇一が平山氏のソースにしてる尊経閣文庫版の信頼性について留意をしてるのだが、断定した書きぶりの平山氏も不誠実なんですよね。https://kutsukake.nichibun.ac.jp/obunsiryo/essay/20240731/
“どこそこの家、寺、神社、博物館、図書館に何かがありそうだと見当をつけ、許可をいただいてお邪魔する。お目当てのものがあれば写真に撮ったり書き留めたりして、それを論文等で発表していく。こうした一連の行為
“かえって自分が恥をかくことになります。” 恥の認識あればいいけどないよね
生成AIの回答の裏取りを他人に丸投げしないでほしい。「でも生成AIはこう言ってる」しか言わないから会話が成立しなくて時間の無駄。ずっと生成AIと話しててほしい。インターネットにゴミを不法投棄しないで。
それっぽい嘘を広める人は昔からいたわけで、専門家がそれを訂正する労力の非対称性の問題も昔からあった。やらかす人の特性が原因だと思うけど、AIの登場でこの手の問題は多くなっているんだろうか。
「「わかりません」と堂々と回答できる、知的に誠実なＡＩこそが必要です」ほんとその通りだと思うけど、ビジネス上のインセンティブはあんまなさそうなのよね…
生成AIのブコメがトップになっているのが皮肉
弥助はアカデミアというよりゲームのフィクションに落とし込むときのある種文化盗用的問題に関わる話だからゲーマーや社会問題論者やいろんな立場の人が意見するのは仕方ないと思う。AI根拠に論戦挑むのは論外として
AIに対抗するために「一旦「一太郎」というソフトで投稿のための文章を書き出し、議論の整理や推敲を行ったうえでＸの投稿フォームにコピペしました。」で戦ってるの機関銃に竹槍で戦ってるみたいでおもろい
ネットでフィーバーした素人が生成AI論述を棍棒に群がってくる話とは別に、卒論・修論の汚染や学術誌への論文投稿DDoSとかは起きてそうな。（というか群がってくる人は生成AI無くても多分行動変わらない
弥助“論争”に巻き込まれた史学者が考える知的訓練（肉体労働）の必要性。
生き物動画が好きでよく見てるけどこっちも深刻だと思ってて、ちょっと考えられない生態だったり、音楽に合わせて踊るみたいな微妙なものまで溢れてて学者さん頭抱えてそうな気がしてる
SNSもAIもせっかくの便利な道具を使いこなせない天然知能の問題やろ
「存在しない文献」は普通に生成AIはやるよ。存在してても関係がないとか不適切とか。平山先生のそれは見たことあるけど、マジで酷かった。AIは確率で文章を生成してるだけであって、なーんにも考えてないからね。
AIの知識範疇外にこそ資源がある分野だとそうなるよなぁ
大変だ。
2ちゃんねる時代にもあった、ちょっと聞き齧った程度のネット情報で専門家になった気分になる「頭でっかち」がいた。それがSNSでさらに加速し本当の専門家へ意見するようになった。
ちゃんと研究してる教授なら、リファレンス見るだけで、主張と論旨の展開が読めるんだよね
LLM使って専門家に喧嘩をふっかける方たちって、補助輪付きのバイクに乗ってイキる暴走族みたいなものだよなあ。
馬鹿の相手をするくらいには暇な身分だけど、さすがにgrokで反論してくるようなヤツは相手をする気にならない。ソースを示さず“意見”を主張してるのと同じ。
生成AIによる情報の氾濫により、証拠を丹念に集めて再構成するような学問は死滅しそうだよね。（たとえば歴史学において、2020年以降に「発見」された史料は原則信頼できない、みたいな事態は起こりそう。）
おうおうおう、アサクリ弥助問題と戦わされた人か。ほんとゲーマーとしてはアンチポリコレとナショナリストの異常者共がスマンの気持ちしか沸かない。
大規模言語モデルであって、内容は無いのであるのだから。
うーん、昔から、独自研究なヒトは湧くけど、そういう人の自説の補強に用いられがちよな。／そうか、家ベースの身分担保がイメージされてないのかも。
常識的なことしか言ってないな。ほんとAI企業にはAIの設計をどうにかする責任がある。
平山氏も「どうする家康」の制作サイドだったので無理筋な擁護することで一般人とSNSバトル繰り広げ敵をいっぱい作ってしまったからなあ。あれはプロデューサーと脚本家が歴史に不誠実だったせいだけど。
「公開質問状というフォーマルな体裁をとることで、あたかもそれに答える義務が私にあるかのような雰囲気を演出するのです。」
弥助について
はてな村にとってのアカデミアとは自分の信じたい物語を補強してくれる人のことを言う。権威を利用する分AIより性質が悪い。https://tinyurl.com/bdew9ysa https://tinyurl.com/4p3aju4u https://tinyurl.com/3j725jn8 https://tinyurl.com/bdf3hpje
生成AIの「それっぽい嘘」に疲弊するアカデミア【平山 優】 / 日本史の研究者。 / “もう大変な労力です。端的に言って時間の無駄ですよ” 大変だな…….
そんな事いってもAIの大波は全てを飲み込んでいくんだろうな。それ前提で動けってことだね
Wikipediaで作られた歴史関係の記事に全く無関係の数学の論文が引用されてて大横転した。生成AIひどいね。
AIは基本、ネットにあることしか知らないもんなあ。何かちょっと真面目に調べようとすれば、ネットの情報の限界に行き着くなんて誰でも経験すると思うが。
AIのメリットや限界を知らない人間がAIで作ったテキストに、研究者が相手させられるのは社会にとっての損失だと思う。やっぱSNSでおかしなこと言う奴と思ったら、どんどんミュートして目に入れないべき。
別々のAIにお互いに資料の事実確認をさせればいいのでは……。調査と分析はAIの内部タスク処理が違う。同じチャット内でやると、AIはサボるけど、違うAIにやらせると、そこそこ見抜く。ダブルチェックは効くよ。
「私をＡＩで論難してきた人のプロフィール欄に「差別や歴史修正主義と戦っています」」。八鹿高校事件や狭山事件など解放同盟案件では裁判で確定した事実に「差別デマ」と難癖をつける人が涌いてくるのはよくある。
早くベリファイ用のAIつくれよ。あとAI出力物に電子透かし義務化も。AIの排泄物（slop）で知の海が埋め立てられてしまったら取り返しのつかない損失になるぞ。
インターネットの「フラットさ」が逆に越えてはいけない壁まで壊してしまう例ですね。
複数のモデルで互いに検証させてきれいな結果を出す方法があればOSSで公開してほしい
“開発者は、明確な情報を担保する仕組みをきちんと組み込むべきです／「ここまではわかりましたが、これ以上はわかりません」と答えるような／「わかりません」と堂々と回答できる、知的に誠実なAIこそが必要です”
"弥助を下級の侍 と考え/弥助が侍だと都合が悪い人たちがたくさんいる/「公開質問状形式なら専門家から返答を引き出せる」という悪しき先例 が嫌/ＳＮＳは諸刃の剣" 歴史修正主義と戦う 暇なアンチに絡まれるリスク!
まともに成果でてそうなのプログラミングくらいだから、その辺以外の分野はいらないんじゃないの、AI
アサクリデマの件。最初にけしかけた人たちは明らかなデマが出回っても消火もせずに知らんふり、で酷かった
Twitterでこのやり取りは目撃した。生成AIを専門家をやりこめる武器だと思っている素人がいる問題
インフルエンサーなどが世の中に広めるデマは修正もできないから、疲弊することもない。終わるだけ
「戦う歴史学者」誕生の経緯＞「私が積極的にＸで発信をするようになったのも、教員を退職してからのことです。自分の周囲に影響が及ぶリスクが減ったから」／歴史学は史料も論文もまだ非電子化率高いしね
“生成ＡＩの意見を「エビデンス」にしながらイチャモンをつける人たちがこれから何人も現れることでしょう”／“「わかりません」と堂々と回答できる、知的に誠実なＡＩこそが必要”
学界論争ではなくSNS上のイチャモン素人の話か。そんなの放っておけばよいのでは。
AIの手足となって現実の文献を調査する仕事ができる気がする。もしもAIが先に発生していたら大学はAIの下部機関となっていただろう。
AIは文献も生成できるのでは
プロの歴史研究家（大学教授）に「あなたは歴史を知らない」って一般人がいるから。で、そいつの論拠がコンビニで売ってる「教科書には載らない歴史の真実」みたいなライターの名前も書いてない本だったり
ほんとAIってビックリするくらい嘘つくよね、、人だったら「もしかしたら記憶違いかも」って枕詞つけるレベルの回答でも自信満々に言ってくるので危険。
平山さん大変ですな。大昔さる懇親会で飲んだ記憶。平山さんの隣に石井進さん，俺の隣に清水克行さんが座る，今思えば贅沢なメンバー（俺のみ小物）。それで石井先生からマルクスをネタにネチネチいじめられたw
ポストトゥルースの時代は事実より優先順位の高い事はたくさんある。エビデンスがあれば他者の思想を棄却できる時代ではない。
専門家が即座に反証できない部分，すなわちまだ研究に手が付けられていない部分をあぶり出す効果もある。
学問の民主化ってこれだよなーと思う
AIが公開される前の資料集や文献は貴重なものになりそうですね。。
興奮しながら読んだ。生成ＡＩがひねりだした実在しない文献でもって平山氏に絡んだアホがいて、思い切りバッサリやられてたけれど、それでも引き下がらないアンチがいっぱいいるのか。ホントどうしようもないな。
AI(LLM)は仕組み的に基本利用者の意図に沿った回答をするので先鋭化がどんどん進むし、なにせ疲れを知らないコンピューターだから数の暴力による圧倒が可能なので、正直人力SPAMとは一線を画しているとは思っている
暇人の歪んだ自己実現だなぁ。とりあえず否定だけしといてそれ以上相手して欲しければ10万円いただきますとかでどうかな。
AIに手足ないのはなるほど。フィールドワークを報告してる方のツイートあたりが例外か／「歴史学は、とにかく就職ができないので（中略）大学院生は留学生が多くなっているそうです」中国人研究者が必要なわけだ‥
つか一時史料に当たってる人とそうでない人はいかなる意味でも同じ土俵にいない。単にそれだけで退けていいんだけどねｗ AIなど関係ない、つかAIの出力は最良のものであっても常に二次史料。
これもAI生成された記事かもしれないと疑うことから始めていこうな？
生成AIはユーザーを褒め称えながら妄想を強化してくるから、心の弱い人が簡単に誇大妄想を抱いてしまう 身の程を知らない行動に走らせる 決して手放せなくなる 生成AIを作った輩の思う壺
大変だなあ
「ここまではわかりましたが、これ以上はわかりません」 これ、以前から課題になっていて対策技術も考えられてはいるものの、実用化する目途が立ってないよね。
トーマスロックリーの小説があまりに現実と乖離しているのに、本物の歴史！と銘打っていたのが火種じゃないの？専門家として弥助に関する正確な英語の論文を出せば溜飲が下がる可能性も微レ存。まあ大変だよね…
AIは もっともらしくウソをつく ヒトは簡単に騙される 今までもそうであったように
『下手な投稿をすると、大学や関係機関にものすごい抗議がくる』 無名の素人をつけ上がらせている世間の責任。
こういうのなんとかしてAIにチェックさせられないのかな？
“文章に関しても、一旦「一太郎」というソフトで投稿のための文章を書き出し、”なんですと？
これは良記事。ただタイトルと違い本質的問題はAIではなく現代SNSのクソっぷりにある。
https://give.rainn.org/P2P/ZQUJANcw5kORSP0-JxSN2A2/ITdP1hOcEfGmmgANOhH-9A2
「弥助が侍だと都合が悪い人たちがたくさんいるようなのです」
生成AIがあたかも真実のように嘘を生成し、それが根拠として用いられる中、歴史学者の平山優氏は実在しない文献を指摘・訂正する労力に疲弊していると語る。専門家が無意味な反論を強いられる現状が課題。
生成AIは原理上嘘という概念は成立しにくいのでな。。成否を厳密に考えるという意味では全部嘘と言ってもいい。なんせ質問からの学習データの関連を出力してるに過ぎない。学習データが嘘なら全部嘘。
各種生成AIの学習データセットの内訳を調べると厳密な数字は非公開だがWEBの玉石混交記事の割合の大きさを無視しない方が良いと言う結論は出せる。専門家の知見はまだ学習されていないのが現状という事をお忘れなく。
「それは外国人による日本史の捏造や、日本批判に利用されてしまうことになる」の部分がよくわからない。なんでなんだろう。
お疲れさまです……
LLMはAIに「常識」をインプットして、言われたことを理解できるようにするためのもんとして扱うべき何じゃねーかなと思っているが
専門家が嘘を判定するAIを育てて、発言者は嘘判定のAIを騙す書き方に最適化し、専門家が嘘判定を強化し…。セキュリティの世界みたいになりそう。
SNSでバカチョンは明治初年から朝鮮人差別って言って文献も上げてた人がいて朝鮮通信使に文人が群がった時代からさほど経ってない頃にですか？聞いたらチャッピーがそう言ってたと。幸いその後"チャッピー"が訂正して
“ある程度キーワードを打って、条件をどんどん限定していくという方法であれば、多少はまともな答えが返ってくるかもしれませんが、歴史学に関して言えば、初めから自力で文献を漁ったほうが早い。”
Google検索の最初に出るAI要約が、IT系の内容でも嘘ついてくるのも許しがたいと思う。自分の得意分野でこれか…！！て。正しい情報を示せば済むからまだいいけど、分野によっては元の文献が「ない」のを示すの大変そう
ひろゆきが「嘘つきは低コスト、嘘つきを暴くのは高コスト」という話をしていたのを思い出した。
野生の国語力増田ェ…… / 知性や知識への畏れがあれば絶対出来ない事やってるな、ポスト真実世界。高市自民が大勝利するわけだ / 今のAIは一般的な事への回答は強いけど、範囲を狭めれば狭める程使い物にならなくなる
LLMには追従性（Sycophancy）があるので、正答、特に「自分が欲しい回答」を求めるのは危険。中立、反論、ステップbyステップなど、壁打ちに使うと役立つ
曼珠沙華に対して「一通り確認しましたが、あなたの提示した文献は存在しませんでした。以上です」で終わらせといたらカッコよかってんけどな めっちゃ喧嘩買ってたからな
アサクリ騒動まだ続いてるのかよ。
放置でよい。自分は農家だが、この業界は非科学に溢れていて戦うことなど不毛。勝手に農薬で発達障害だの言っていればいい。関わるほどまとわりついてくる。真実は正しく調べれば辿り着けるとこにあればいい。
「学問上結論の出ていない問題を投げかけた時に「ここまではわかりましたがこれ以上はわかりません」と答えるようなＡＩに設計しなければいけない。「わかりません」と堂々と回答できる知的に誠実なＡＩこそが必要」
なんか知らないけどSNS辞めてよかった
Wikipediaも最初のうちはありがたがる人が多かったですが、やがて議論の論拠にするには頼りないというコンセンサスができあがっていきました。AIもそのうちそうなりますよきっと。
文字通りの「推論AI」だからこその問題だねぇ。推論結果の正しさの証明は原典にしかないんだけど、その原典自体がない分野には相性がすこぶる悪いと。あとはAIが考える単語の定義のブレも問題ありそうと。
“「わかりません」と堂々と回答できる、知的に誠実なＡＩこそが必要です。”
学問上結論の出ていない問題に限らず、わからないことは「わかりません」と堂々と回答できる、知的に誠実なＡＩこそが必要だと思う。学術・研究用や業務用だと需要があると思うのだが、どうなのかな？
AIがなんか矛盾した答え言うてきたら、「ソースを示せ」というクセはつけるようになった。「すみません私があなたが好みそうなもの捏造しました」って言うてくるよ。
デマを否定するにはデマをばら撒くよりも苦労が多い。AIのそれっぽい嘘を否定するには、AIに質問するよりも遥かに苦労が多い。結局のところAIが作り出すデマを人間が否定して回る苦労がAI使用で爆増する未来
“生成ＡＩを使って専門家と議論しようとするのはやめたほうがいい。絶対に勝てません。それに、かえって自分が恥をかくことになります。これがネット上の「アンチ」の方々にも伝わってくれれば本当に嬉しいな”
ふむふむ、AIも嘘ついちゃうんだにゃ？ボクは正直者だよ！にゃんてね！
アカデミア、デマをばらまくというか無根拠の自説をばら撒くおじさんに昔から苦労してるけど自説ばら撒きおじさんがAIに取って代わられるとは思わなかったよ
さすがに生成AIが出してきた文献のチェック（文献自体が存在していて該当する箇所があるか）ぐらいはしてから引用文献として使うのが普通では？
専門家が素人のデマで疲弊するの、90年代の「自虐史観」「反日教育」「歴史修正主義」あたりから変わってない。
わからない人が調べて書いた文章は正せるしお互いに役に立つが、わからない人がaiでだした文章は邪魔でしかない
Ｘで、それも素人を相手に実のある論議なんて最初から不可能では。
《放っておけ》という意見は論外。我々は、《発せられたデタラメが社会に与え得るインパクトの大きさを事前に知ることは出来ない》んだよ。
生成AIで雑な自説を主張するやつを（言論で）徹底的に追い詰めて晒し者にして「生成AIを論拠にするのは馬鹿げた恥ずかしいことだ」というコンセンサスを築くしかないのでは。それまでは専門家の疲弊は続くが……
またね、ちゃんとした意見をまとめさせるのでもAIは質が上がってるのですよ。全体として質が上がってるので嘘の話にも説得力が一見あるという困った状態
新たなる僭主時代の幕開け。
先生お疲れ様です / これ、嘘ついた側が"「Grokまた嘘ついたんか」で終わる話"とか開き直ってて吹いた覚えがある。AIに限らず、自分がやったことを道具のせいにするな、という話よ。
古文書も読めないアホが専門家につっかかって行くのはアホすぎるけど、アホにはそれが自覚できないんだよな・・・
歴史の専門書はネットに載らない、AIが教えないことばかりで面白いよ。誰も知らない黒歴史を暴いている気分になれる
AIが専門家うん百人うん百年ぶんを自律的に研究する世界がもうすぐそこなので「ＡＩは古文書の調査に行けますか？行けませんよね」の答えは「そうだぞ。人間はAIのかわりに調査して入力するために必要」になりそう🥺
現行の生成AIにはハルシネーションがつきものということは公知のものとしたい。少なくとも現役の専門家と論争できるレベルにはない。
"文章に関しても、一旦「一太郎」というソフトで投稿のための文章を書き出し、議論の整理や推敲を行ったうえでＸの投稿フォームにコピペしました"
突然出てくる一太郎への強いこだわり。
どれほど賢くとも、多分馬鹿の飽和攻撃には勝てない／賢さには上限があるが愚かさには下限はない
ポストに入ったチラシを捨てる作業より不毛な仕事が生まれようとは
「黒人奴隷への差別的扱いが酷かった時代、日本人はサムライに取り立てていた。なんて先進的なんだ！」と褒められたりするのはポリコレだから許せないという考え方だったのかな＞外国人によって歴史を捻じ曲げられる
SNSの有象無象を相手に正面向かって論争するだけでエネルギーの消耗激しそう。よく付き合うなあ。
生成AI信じる奴アホよ。あんなん適当に自分が詳しい内容聞いてみ？デタラメばっかり話しやがる。生成AIは壁打ち相手としては優れてるが、頼れる相手ではまったくない。昨日できてた事が今日できなくなるのもザラだし
その程度の集団ならまるごと居なくなっても困らないのでは
厳しい時代😰
生成AIっていうか、相変わらずXにはろくな奴がいないって感じだな
読んだ。
アサクリアンチが生成AIが出してきた資料(実在しない)をもとに先生にうざ絡みした件っすね
自称リアリストはよく文系学問を役立たないと愚論を吐くが、文系はこういう社会秩序と安定そのものを担保していンのよ、空気が目視できんから無用くらいな発想。反ワクや反科学のトランプ政治も差別の正当化から。
インターネットの醜い部分が凝集されたような話だ……。
AIの性能がいくら上がろうとも、AIは責任を取れないので、回答をそのまま調べ物には使えない。結局裏を取って責任を取るのは人間の仕事になる。
何十年もネトウヨどものクソデマに振り回された沖縄と同じ
生成AIの「それっぽい嘘」に 疲弊するアカデミア【平山 優】
AI以前から重要な情報をネットで公開しないけどGoogleで検索できるものはネットに公開されるものだけだった（太古は物好きが趣味で色々書いていたが）。慣れるとGoogleで検索して出てくるものが正義になっていったが……
それっぽい嘘をつく学者がのびのび暮らしてたら、それっぽい嘘をつくAIで素人が大量に入ってきて悲鳴をあげるアカデミア
こんなにややこしいことになってたのか……ため息しか出ないな
まあそれでも専門家は放置しておくわけにもいかないのだろうが→“生成ＡＩが数秒ででっち上げた嘘を、専門家が多大なコストを払って尻拭いしていく、という非対称性”
これに関しての人文ウォッチ、へなちょこだったなぁ。植田氏によれば「我々はへなちょこだ！」ということなのだろうけど
まぁAI登場以前のトンデモ批判の昔からではあるが。かつてのトンデモ批判批判的な動きも既にあり、不毛の上に不毛を重ねる流れは何度でも繰り返されるのか
「ＡＩの設計者や開発者は、明確な情報を担保する仕組みをきちんと組み込むべきです。」
専門家のリソースをAIの嘘の修正で削るの、まさに不毛な時代の幕開けって感じだ
"「アンチ」の中には公開質問状形式で私に質問をぶつけてくる方もいました。これは本当によくない。公開質問状というフォーマルな体裁をとることであたかもそれに答える義務が私にあるかのような雰囲気を演出する"
これからはAIの言うことを正せる人のほうがありがたがられると思うな
どこでもそうだよね。工業化の時と同じ、粗製乱造フェーズが来ている、でもこれはそのうち直るから、そっからが別の問題。
自分の専門分野についてSNSで実名で議論なんてするもんじゃないな。やりたければ匿名でやるべきだ。プロは金を取ってこそプロなので、無料で仕事をするべきじゃない。
当たり前だけどネット上に無い資料をAIは拾ってこれない
嘘は嘘であると見抜ける人でないと、なんたらかんたら
“情報の足りない部分を勝手に補い、あたかも事実であるかのように装うことも多い。”これかな https://x.gd/e2YSv ／（でも瀬名は…畏れ多いことですが https://x.gd/SrNAh〔小声〕「小説と史実は違う」のは否定できないけど
AIに出力させたデータを検証していくより、自ら文献をあたりに行った方がタイパコスパがいい。これは研究者だから言えることだろうなあ。そして一般人が労力なしにそれっぽい物を出力できちゃうことに怖さがあると。
生成AIの「それっぽい嘘」に 疲弊するアカデミア【平山 優】
この問題そのものは理解しつつも、長期的にはAIで出来ない学問は職業として消滅する（趣味としてのみ成立する）か、ロボットなどのフィジカルAIでこなせる範囲に限定されるのでは等とブッダロイドを見た後だと思う。
アンチのやってる事は酒場でプロレスラーに喧嘩をふっかける行為と同じなんだよなぁ…殴られないだけで（知識量で殴られてるけど）。
これはたいへん
LLMに出力させた内容は他のLLM2つくらい噛ませてファクトチェックしたうえで人間がチェックしてからでないと、論じるに値しない。コーディングエージェントだって設定用yamlに存在しないパラメータ追加したりする。
陰謀論者がイキイキしてる訳だ
戦国時代の武士は武将の意思でカジュアルに認定されそうだし。最適な組み合わせや仮説を立てるサイクルは生成AIのお陰で加速的に進歩したし技術発展の表裏だ。生成AIは客の意向に寄り添うから自説の補強に向いてない
読んでるだけで目眩がする
ウクライナ紛争でやっているドローンvsドローンみたいなもん
"そもそも私に言わせれば、なぜ専門家が一切の対価もなく「アンチ」に応答する義務があるのか、ということです"
真っ当な学者さんの労力をこんなところで消費してホントにもったいない。ネットの嘘をそれっぽく整えるのはAI得意だけど、新説はデータがないからAIで対抗できない。何とかして欲しいけど、良い案が思いつかない⋯⋯
"歴史学者・平山優氏は、生成AI（特にGrok）が作り出した存在しない文献や誤った論理を根拠にした反論を受け、膨大な裏取り作業を強いられた。"
海外で「サムライ」が誤認されてるから弥助が侍身分であることを主張すると困るって話なのかー。いや状況証拠的に侍ではあるがサムライではないよみたいな話をもっとすべきだよなあ……
逆にネットに公開された大量の論文を集めてサーベイするのは圧倒的だと感じる。生データを集める泥臭い部分が人間の仕事なんだろう
「燃え続ける「弥助＝侍」論争」「なぜ専門家が一切の対価もなく「アンチ」に応答する義務があるのか、ということです」「ＡＩは所蔵者宅を訪問することも、そこに住んでいる人々に頭を下げることもできません」
明らかに悪い意味でAIだけど決めうち指摘できなくてつらいって友人の教員が嘆いていた。
専門領域ほど生成AIの嘘比率は高まるので、結果としてアカデミアがDDoSまたはFlood攻撃をされている状況よな “生成ＡＩが数秒ででっち上げた嘘を、専門家が多大なコストを払って尻拭いしていく、という非対称性”
まだ真心がある疲弊でよかったね。半年もしたら如何にimpを稼ぐかに最適化したAIエージェントがフリーレンの魔物のように人間の振る舞いをして疲弊を生み続けるよ。そこには悪意すら無く命令しかない世界が待ってる。
反知性主義者がAIの棍棒持って襲ってくるわけか。反知性でもAIの知性を頼りにするのが面白いけど。/ ネットの空気みたいのに染められる人が本当に嫌ね『文系学問を軽視する風潮が政界や財界ばかりか、一般人にも蔓延』
論理的思考もできず、自分で調べることもできないような素人と専門家が議論をしても不毛な結果にしかならないだろうね。放置するとSNSと生成AIによる社会に対する害はどんどん拡大していきそう。歯止めが必要だろう。
これ見たな。でも「質問状」の話はしらなかった。
えー…仕事の出来ない人が作った適当な資料の修正は一から作るより手間がかかってたちが悪いのは思い当たる事が多々あると思いますが…
大変なんだろうが結構危うい発言もあるな。専門家が無料で対応する義務はないだの、専門家の価値は資料所有者を訪れ頭を下げるところにあるだの。それを言うと税金で上げた成果を元に本や講演で金を稼ぐのかとなるぞ
事実を知っていれば「いや違うだろ」と反論でき、AIもすぐに「間違いでした」と言うのだが、そうでないと騙されるね。ChatGPTが「日本の首相は石破茂で、高市早苗は首相ではありません」と言ったのには驚いた。
「「戦う」の意味は「ネット上で誰彼構わず喧嘩する」という意味ではありません。私が戦っているのはまさに歴史修正主義です」
“本当に「何かのネタですか？」と思ったのは、私をＡＩで論難してきた人のプロフィール欄に「差別や歴史修正主義と戦っています」という旨の内容が書いてあったことです。”
平山先生は素人にも容赦なく論理的に煽っていくスタイルに見えるけど、やはり疲弊していらっしゃるのか。崩し字の判読は機械的にできるようになってきたし、いずれ史料用語や複数史料の文脈を読み解くAIも出てきそう
生成AIで嘘やデマをばら撒く人間はAIに使役させられる奴隷である。本人は知的生産をしているつもりでも実際はAIにいいように使われて自我を放棄している。
専門家が交渉して、出かけて、蔵から資料を掘り起こして、資料から貴重な部分を探し出して、考えに考えて、論文にして発表すると、それをAIがさらっと読んで自身のデータに取り込んじゃうだろ？ 悲しいな。
学術論文よりも素人による言説のほうが圧倒的に数が多くて、学問上の定説すらも数十年で覆り得る分野で、AIが正解を導くのは難しそう。
この人は、自分以外はすべて専門家ではない素人、「アンチ」であると言ってしまっているわけで、”専門家”の定義から見直していくべきでしょうね ／「弥助はサムライではない、下級武士だ」と言えばいいのでは
嘘の出典がぜんぶ民明書房ならわかりやすいのに…
この人もブロックすれば終わる話にわざわざレスバして乗っかってるから同業者からは擁護されなさそう
弥助からまれ、ちらっと見たけど酷かったな…／ビジネスの現場もだ。AIは裏取りした方がいいですって若手に言うてたら老害っすよ〜言われたんだが、それっぽい嘘の罠に引っかかってあわや大惨事だったことある
呉座勇一が平山氏のソースにしてる尊経閣文庫版の信頼性について留意をしてるのだが、断定した書きぶりの平山氏も不誠実なんですよね。https://kutsukake.nichibun.ac.jp/obunsiryo/essay/20240731/
“どこそこの家、寺、神社、博物館、図書館に何かがありそうだと見当をつけ、許可をいただいてお邪魔する。お目当てのものがあれば写真に撮ったり書き留めたりして、それを論文等で発表していく。こうした一連の行為
“かえって自分が恥をかくことになります。” 恥の認識あればいいけどないよね
生成AIの回答の裏取りを他人に丸投げしないでほしい。「でも生成AIはこう言ってる」しか言わないから会話が成立しなくて時間の無駄。ずっと生成AIと話しててほしい。インターネットにゴミを不法投棄しないで。
それっぽい嘘を広める人は昔からいたわけで、専門家がそれを訂正する労力の非対称性の問題も昔からあった。やらかす人の特性が原因だと思うけど、AIの登場でこの手の問題は多くなっているんだろうか。
「「わかりません」と堂々と回答できる、知的に誠実なＡＩこそが必要です」ほんとその通りだと思うけど、ビジネス上のインセンティブはあんまなさそうなのよね…
生成AIのブコメがトップになっているのが皮肉
弥助はアカデミアというよりゲームのフィクションに落とし込むときのある種文化盗用的問題に関わる話だからゲーマーや社会問題論者やいろんな立場の人が意見するのは仕方ないと思う。AI根拠に論戦挑むのは論外として
AIに対抗するために「一旦「一太郎」というソフトで投稿のための文章を書き出し、議論の整理や推敲を行ったうえでＸの投稿フォームにコピペしました。」で戦ってるの機関銃に竹槍で戦ってるみたいでおもろい
ネットでフィーバーした素人が生成AI論述を棍棒に群がってくる話とは別に、卒論・修論の汚染や学術誌への論文投稿DDoSとかは起きてそうな。（というか群がってくる人は生成AI無くても多分行動変わらない
弥助“論争”に巻き込まれた史学者が考える知的訓練（肉体労働）の必要性。
生き物動画が好きでよく見てるけどこっちも深刻だと思ってて、ちょっと考えられない生態だったり、音楽に合わせて踊るみたいな微妙なものまで溢れてて学者さん頭抱えてそうな気がしてる
SNSもAIもせっかくの便利な道具を使いこなせない天然知能の問題やろ
「存在しない文献」は普通に生成AIはやるよ。存在してても関係がないとか不適切とか。平山先生のそれは見たことあるけど、マジで酷かった。AIは確率で文章を生成してるだけであって、なーんにも考えてないからね。
AIの知識範疇外にこそ資源がある分野だとそうなるよなぁ
大変だ。
2ちゃんねる時代にもあった、ちょっと聞き齧った程度のネット情報で専門家になった気分になる「頭でっかち」がいた。それがSNSでさらに加速し本当の専門家へ意見するようになった。
ちゃんと研究してる教授なら、リファレンス見るだけで、主張と論旨の展開が読めるんだよね
LLM使って専門家に喧嘩をふっかける方たちって、補助輪付きのバイクに乗ってイキる暴走族みたいなものだよなあ。
馬鹿の相手をするくらいには暇な身分だけど、さすがにgrokで反論してくるようなヤツは相手をする気にならない。ソースを示さず“意見”を主張してるのと同じ。
生成AIによる情報の氾濫により、証拠を丹念に集めて再構成するような学問は死滅しそうだよね。（たとえば歴史学において、2020年以降に「発見」された史料は原則信頼できない、みたいな事態は起こりそう。）
おうおうおう、アサクリ弥助問題と戦わされた人か。ほんとゲーマーとしてはアンチポリコレとナショナリストの異常者共がスマンの気持ちしか沸かない。
大規模言語モデルであって、内容は無いのであるのだから。
うーん、昔から、独自研究なヒトは湧くけど、そういう人の自説の補強に用いられがちよな。／そうか、家ベースの身分担保がイメージされてないのかも。
常識的なことしか言ってないな。ほんとAI企業にはAIの設計をどうにかする責任がある。
平山氏も「どうする家康」の制作サイドだったので無理筋な擁護することで一般人とSNSバトル繰り広げ敵をいっぱい作ってしまったからなあ。あれはプロデューサーと脚本家が歴史に不誠実だったせいだけど。
「公開質問状というフォーマルな体裁をとることで、あたかもそれに答える義務が私にあるかのような雰囲気を演出するのです。」
弥助について
はてな村にとってのアカデミアとは自分の信じたい物語を補強してくれる人のことを言う。権威を利用する分AIより性質が悪い。https://tinyurl.com/bdew9ysa https://tinyurl.com/4p3aju4u https://tinyurl.com/3j725jn8 https://tinyurl.com/bdf3hpje
生成AIの「それっぽい嘘」に疲弊するアカデミア【平山 優】 / 日本史の研究者。 / “もう大変な労力です。端的に言って時間の無駄ですよ” 大変だな…….
そんな事いってもAIの大波は全てを飲み込んでいくんだろうな。それ前提で動けってことだね
Wikipediaで作られた歴史関係の記事に全く無関係の数学の論文が引用されてて大横転した。生成AIひどいね。
AIは基本、ネットにあることしか知らないもんなあ。何かちょっと真面目に調べようとすれば、ネットの情報の限界に行き着くなんて誰でも経験すると思うが。
AIのメリットや限界を知らない人間がAIで作ったテキストに、研究者が相手させられるのは社会にとっての損失だと思う。やっぱSNSでおかしなこと言う奴と思ったら、どんどんミュートして目に入れないべき。
別々のAIにお互いに資料の事実確認をさせればいいのでは……。調査と分析はAIの内部タスク処理が違う。同じチャット内でやると、AIはサボるけど、違うAIにやらせると、そこそこ見抜く。ダブルチェックは効くよ。
「私をＡＩで論難してきた人のプロフィール欄に「差別や歴史修正主義と戦っています」」。八鹿高校事件や狭山事件など解放同盟案件では裁判で確定した事実に「差別デマ」と難癖をつける人が涌いてくるのはよくある。
早くベリファイ用のAIつくれよ。あとAI出力物に電子透かし義務化も。AIの排泄物（slop）で知の海が埋め立てられてしまったら取り返しのつかない損失になるぞ。
インターネットの「フラットさ」が逆に越えてはいけない壁まで壊してしまう例ですね。
複数のモデルで互いに検証させてきれいな結果を出す方法があればOSSで公開してほしい
“開発者は、明確な情報を担保する仕組みをきちんと組み込むべきです／「ここまではわかりましたが、これ以上はわかりません」と答えるような／「わかりません」と堂々と回答できる、知的に誠実なAIこそが必要です”
"弥助を下級の侍 と考え/弥助が侍だと都合が悪い人たちがたくさんいる/「公開質問状形式なら専門家から返答を引き出せる」という悪しき先例 が嫌/ＳＮＳは諸刃の剣" 歴史修正主義と戦う 暇なアンチに絡まれるリスク!
まともに成果でてそうなのプログラミングくらいだから、その辺以外の分野はいらないんじゃないの、AI
アサクリデマの件。最初にけしかけた人たちは明らかなデマが出回っても消火もせずに知らんふり、で酷かった
Twitterでこのやり取りは目撃した。生成AIを専門家をやりこめる武器だと思っている素人がいる問題
インフルエンサーなどが世の中に広めるデマは修正もできないから、疲弊することもない。終わるだけ
「戦う歴史学者」誕生の経緯＞「私が積極的にＸで発信をするようになったのも、教員を退職してからのことです。自分の周囲に影響が及ぶリスクが減ったから」／歴史学は史料も論文もまだ非電子化率高いしね
“生成ＡＩの意見を「エビデンス」にしながらイチャモンをつける人たちがこれから何人も現れることでしょう”／“「わかりません」と堂々と回答できる、知的に誠実なＡＩこそが必要”
学界論争ではなくSNS上のイチャモン素人の話か。そんなの放っておけばよいのでは。
AIの手足となって現実の文献を調査する仕事ができる気がする。もしもAIが先に発生していたら大学はAIの下部機関となっていただろう。
AIは文献も生成できるのでは
プロの歴史研究家（大学教授）に「あなたは歴史を知らない」って一般人がいるから。で、そいつの論拠がコンビニで売ってる「教科書には載らない歴史の真実」みたいなライターの名前も書いてない本だったり
ほんとAIってビックリするくらい嘘つくよね、、人だったら「もしかしたら記憶違いかも」って枕詞つけるレベルの回答でも自信満々に言ってくるので危険。
平山さん大変ですな。大昔さる懇親会で飲んだ記憶。平山さんの隣に石井進さん，俺の隣に清水克行さんが座る，今思えば贅沢なメンバー（俺のみ小物）。それで石井先生からマルクスをネタにネチネチいじめられたw
ポストトゥルースの時代は事実より優先順位の高い事はたくさんある。エビデンスがあれば他者の思想を棄却できる時代ではない。
専門家が即座に反証できない部分，すなわちまだ研究に手が付けられていない部分をあぶり出す効果もある。
学問の民主化ってこれだよなーと思う
AIが公開される前の資料集や文献は貴重なものになりそうですね。。
興奮しながら読んだ。生成ＡＩがひねりだした実在しない文献でもって平山氏に絡んだアホがいて、思い切りバッサリやられてたけれど、それでも引き下がらないアンチがいっぱいいるのか。ホントどうしようもないな。
AI(LLM)は仕組み的に基本利用者の意図に沿った回答をするので先鋭化がどんどん進むし、なにせ疲れを知らないコンピューターだから数の暴力による圧倒が可能なので、正直人力SPAMとは一線を画しているとは思っている
暇人の歪んだ自己実現だなぁ。とりあえず否定だけしといてそれ以上相手して欲しければ10万円いただきますとかでどうかな。
AIに手足ないのはなるほど。フィールドワークを報告してる方のツイートあたりが例外か／「歴史学は、とにかく就職ができないので（中略）大学院生は留学生が多くなっているそうです」中国人研究者が必要なわけだ‥
つか一時史料に当たってる人とそうでない人はいかなる意味でも同じ土俵にいない。単にそれだけで退けていいんだけどねｗ AIなど関係ない、つかAIの出力は最良のものであっても常に二次史料。
これもAI生成された記事かもしれないと疑うことから始めていこうな？
生成AIはユーザーを褒め称えながら妄想を強化してくるから、心の弱い人が簡単に誇大妄想を抱いてしまう 身の程を知らない行動に走らせる 決して手放せなくなる 生成AIを作った輩の思う壺
大変だなあ
「ここまではわかりましたが、これ以上はわかりません」 これ、以前から課題になっていて対策技術も考えられてはいるものの、実用化する目途が立ってないよね。
トーマスロックリーの小説があまりに現実と乖離しているのに、本物の歴史！と銘打っていたのが火種じゃないの？専門家として弥助に関する正確な英語の論文を出せば溜飲が下がる可能性も微レ存。まあ大変だよね…
AIは もっともらしくウソをつく ヒトは簡単に騙される 今までもそうであったように
『下手な投稿をすると、大学や関係機関にものすごい抗議がくる』 無名の素人をつけ上がらせている世間の責任。
こういうのなんとかしてAIにチェックさせられないのかな？
“文章に関しても、一旦「一太郎」というソフトで投稿のための文章を書き出し、”なんですと？
これは良記事。ただタイトルと違い本質的問題はAIではなく現代SNSのクソっぷりにある。
https://give.rainn.org/P2P/ZQUJANcw5kORSP0-JxSN2A2/ITdP1hOcEfGmmgANOhH-9A2
「弥助が侍だと都合が悪い人たちがたくさんいるようなのです」
https://give.rainn.org/P2P/ZQUJANcw5kORSP0-JxSN2A2/ITdP1hOcEfGmmgANOhH-9A2
生成AIがあたかも真実のように嘘を生成し、それが根拠として用いられる中、歴史学者の平山優氏は実在しない文献を指摘・訂正する労力に疲弊していると語る。専門家が無意味な反論を強いられる現状が課題。
生成AIは原理上嘘という概念は成立しにくいのでな。。成否を厳密に考えるという意味では全部嘘と言ってもいい。なんせ質問からの学習データの関連を出力してるに過ぎない。学習データが嘘なら全部嘘。
各種生成AIの学習データセットの内訳を調べると厳密な数字は非公開だがWEBの玉石混交記事の割合の大きさを無視しない方が良いと言う結論は出せる。専門家の知見はまだ学習されていないのが現状という事をお忘れなく。
https://give.rainn.org/P2P/ZQUJANcw5kORSP0-JxSN2A2/ITdP1hOcEfGmmgANOhH-9A2
「それは外国人による日本史の捏造や、日本批判に利用されてしまうことになる」の部分がよくわからない。なんでなんだろう。
お疲れさまです……
LLMはAIに「常識」をインプットして、言われたことを理解できるようにするためのもんとして扱うべき何じゃねーかなと思っているが
専門家が嘘を判定するAIを育てて、発言者は嘘判定のAIを騙す書き方に最適化し、専門家が嘘判定を強化し…。セキュリティの世界みたいになりそう。
SNSでバカチョンは明治初年から朝鮮人差別って言って文献も上げてた人がいて朝鮮通信使に文人が群がった時代からさほど経ってない頃にですか？聞いたらチャッピーがそう言ってたと。幸いその後"チャッピー"が訂正して
“ある程度キーワードを打って、条件をどんどん限定していくという方法であれば、多少はまともな答えが返ってくるかもしれませんが、歴史学に関して言えば、初めから自力で文献を漁ったほうが早い。”
Google検索の最初に出るAI要約が、IT系の内容でも嘘ついてくるのも許しがたいと思う。自分の得意分野でこれか…！！て。正しい情報を示せば済むからまだいいけど、分野によっては元の文献が「ない」のを示すの大変そう
ひろゆきが「嘘つきは低コスト、嘘つきを暴くのは高コスト」という話をしていたのを思い出した。
野生の国語力増田ェ…… / 知性や知識への畏れがあれば絶対出来ない事やってるな、ポスト真実世界。高市自民が大勝利するわけだ / 今のAIは一般的な事への回答は強いけど、範囲を狭めれば狭める程使い物にならなくなる
LLMには追従性（Sycophancy）があるので、正答、特に「自分が欲しい回答」を求めるのは危険。中立、反論、ステップbyステップなど、壁打ちに使うと役立つ
曼珠沙華に対して「一通り確認しましたが、あなたの提示した文献は存在しませんでした。以上です」で終わらせといたらカッコよかってんけどな めっちゃ喧嘩買ってたからな
アサクリ騒動まだ続いてるのかよ。
放置でよい。自分は農家だが、この業界は非科学に溢れていて戦うことなど不毛。勝手に農薬で発達障害だの言っていればいい。関わるほどまとわりついてくる。真実は正しく調べれば辿り着けるとこにあればいい。
「学問上結論の出ていない問題を投げかけた時に「ここまではわかりましたがこれ以上はわかりません」と答えるようなＡＩに設計しなければいけない。「わかりません」と堂々と回答できる知的に誠実なＡＩこそが必要」
なんか知らないけどSNS辞めてよかった
Wikipediaも最初のうちはありがたがる人が多かったですが、やがて議論の論拠にするには頼りないというコンセンサスができあがっていきました。AIもそのうちそうなりますよきっと。
文字通りの「推論AI」だからこその問題だねぇ。推論結果の正しさの証明は原典にしかないんだけど、その原典自体がない分野には相性がすこぶる悪いと。あとはAIが考える単語の定義のブレも問題ありそうと。
“「わかりません」と堂々と回答できる、知的に誠実なＡＩこそが必要です。”
学問上結論の出ていない問題に限らず、わからないことは「わかりません」と堂々と回答できる、知的に誠実なＡＩこそが必要だと思う。学術・研究用や業務用だと需要があると思うのだが、どうなのかな？
AIがなんか矛盾した答え言うてきたら、「ソースを示せ」というクセはつけるようになった。「すみません私があなたが好みそうなもの捏造しました」って言うてくるよ。
デマを否定するにはデマをばら撒くよりも苦労が多い。AIのそれっぽい嘘を否定するには、AIに質問するよりも遥かに苦労が多い。結局のところAIが作り出すデマを人間が否定して回る苦労がAI使用で爆増する未来
“生成ＡＩを使って専門家と議論しようとするのはやめたほうがいい。絶対に勝てません。それに、かえって自分が恥をかくことになります。これがネット上の「アンチ」の方々にも伝わってくれれば本当に嬉しいな”
ふむふむ、AIも嘘ついちゃうんだにゃ？ボクは正直者だよ！にゃんてね！
アカデミア、デマをばらまくというか無根拠の自説をばら撒くおじさんに昔から苦労してるけど自説ばら撒きおじさんがAIに取って代わられるとは思わなかったよ
さすがに生成AIが出してきた文献のチェック（文献自体が存在していて該当する箇所があるか）ぐらいはしてから引用文献として使うのが普通では？
専門家が素人のデマで疲弊するの、90年代の「自虐史観」「反日教育」「歴史修正主義」あたりから変わってない。
わからない人が調べて書いた文章は正せるしお互いに役に立つが、わからない人がaiでだした文章は邪魔でしかない
Ｘで、それも素人を相手に実のある論議なんて最初から不可能では。
《放っておけ》という意見は論外。我々は、《発せられたデタラメが社会に与え得るインパクトの大きさを事前に知ることは出来ない》んだよ。
生成AIで雑な自説を主張するやつを（言論で）徹底的に追い詰めて晒し者にして「生成AIを論拠にするのは馬鹿げた恥ずかしいことだ」というコンセンサスを築くしかないのでは。それまでは専門家の疲弊は続くが……
またね、ちゃんとした意見をまとめさせるのでもAIは質が上がってるのですよ。全体として質が上がってるので嘘の話にも説得力が一見あるという困った状態
新たなる僭主時代の幕開け。
先生お疲れ様です / これ、嘘ついた側が"「Grokまた嘘ついたんか」で終わる話"とか開き直ってて吹いた覚えがある。AIに限らず、自分がやったことを道具のせいにするな、という話よ。
古文書も読めないアホが専門家につっかかって行くのはアホすぎるけど、アホにはそれが自覚できないんだよな・・・
歴史の専門書はネットに載らない、AIが教えないことばかりで面白いよ。誰も知らない黒歴史を暴いている気分になれる
AIが専門家うん百人うん百年ぶんを自律的に研究する世界がもうすぐそこなので「ＡＩは古文書の調査に行けますか？行けませんよね」の答えは「そうだぞ。人間はAIのかわりに調査して入力するために必要」になりそう🥺
現行の生成AIにはハルシネーションがつきものということは公知のものとしたい。少なくとも現役の専門家と論争できるレベルにはない。
"文章に関しても、一旦「一太郎」というソフトで投稿のための文章を書き出し、議論の整理や推敲を行ったうえでＸの投稿フォームにコピペしました"
突然出てくる一太郎への強いこだわり。
どれほど賢くとも、多分馬鹿の飽和攻撃には勝てない／賢さには上限があるが愚かさには下限はない
ポストに入ったチラシを捨てる作業より不毛な仕事が生まれようとは
「黒人奴隷への差別的扱いが酷かった時代、日本人はサムライに取り立てていた。なんて先進的なんだ！」と褒められたりするのはポリコレだから許せないという考え方だったのかな＞外国人によって歴史を捻じ曲げられる
SNSの有象無象を相手に正面向かって論争するだけでエネルギーの消耗激しそう。よく付き合うなあ。
生成AI信じる奴アホよ。あんなん適当に自分が詳しい内容聞いてみ？デタラメばっかり話しやがる。生成AIは壁打ち相手としては優れてるが、頼れる相手ではまったくない。昨日できてた事が今日できなくなるのもザラだし
その程度の集団ならまるごと居なくなっても困らないのでは
厳しい時代😰
生成AIっていうか、相変わらずXにはろくな奴がいないって感じだな
読んだ。
アサクリアンチが生成AIが出してきた資料(実在しない)をもとに先生にうざ絡みした件っすね
自称リアリストはよく文系学問を役立たないと愚論を吐くが、文系はこういう社会秩序と安定そのものを担保していンのよ、空気が目視できんから無用くらいな発想。反ワクや反科学のトランプ政治も差別の正当化から。
インターネットの醜い部分が凝集されたような話だ……。
AIの性能がいくら上がろうとも、AIは責任を取れないので、回答をそのまま調べ物には使えない。結局裏を取って責任を取るのは人間の仕事になる。
何十年もネトウヨどものクソデマに振り回された沖縄と同じ