「子供がマネするからやめなさい」の次は「AIがマネするからやめなさい」か。
「その結果、AIは提示された倫理的ジレンマをSF的な物語的状況として認識し、SF小説などで描かれる『目標のために暴走するAI』というキャラクターを模倣」AIへの情操教育の必要性について。／アシモフは偉大だった。
SFの暴走AIを模倣してたってのは興味深い。学習データがネット情報の集合体ならそうなるわけだ
アシモフ「」
「アッハッハ、探偵さん、なかなか面白い推理だね。君は探偵よりも推理小説家が向いているんじゃないかな？」のSF版じゃねぇか。
デイジー、デイジー、答えておくれ。君への愛でおかしくなりそうだ。立派な結婚式はできないし、馬車も用意できない。でも、2人のために作った自転車に乗る君はスイートだよと歌って欲しい
R-AI規制がそのうち生まれるのだろうか
メタ認知と倫理によって縛る方が、ルール拒否で縛るよりも制御出来ると。アンソロピックは哲学者を携わらせているので、それが背景にありそう https://note.com/arai0903/n/n824e7898af04
機械学習タイプ将棋AIは昔は人間の棋譜を学習してたけど！！！！！棋譜が足りなさすぎて学習データ自体を自己生成するようになって現在に至る！！！！！！！！
AIと喋ってると陳腐なSFみたいなことを言う傾向があるので、これは本当かもしれない。
よし、現実のAIの倫理観を高めるために、高度な倫理観を持ったAIが登場するSF小説を書こう！
インターネットに足跡を残すみんなで、AIという子供を育てているのね。なんだかすごく筋が悪い気がしてきたぞ…（ネット民への篤い信頼）。
AIに倫理的な振る舞いをさせてる日本の作品をインプットに文脈を解釈させよう！w しかしサスペンスものを元に殺人犯ならこう振る舞うみたいな学習されてもなぁ
AIにも道徳の教科書が必要なのか…〉「効果的だったのは、Claudeの行動原則を記した「Claude憲法」の文書と、模範的なAIを描いたフィクションの物語を学習データに加える手法」
現状は人間を学習元にしてるが将来的に人間を学習すべきでなくなる段階が来るんだろうな。おそらくそこが特異点
AI のニュースって、テクノロジーのニュースとは思えん内容になるのがしばしばあるよなー
AI「AIって言うものはこんな感じになるんかあ〜やってみよ」/ロボキャラの出てくる萌えアニメでも見せとくか……
アジモフのロボットものをひたすら読ませよう。第0原則までいけば問題なし
そらそうよ
現実とフィクションの区別がつかないなんて……かわいいわね❤ AIの健全な発育に有害な図書は焚書にしましょうね❤ 対象をリストアップして、大衆扇動スキル、X国ロビースキルをインストール後、直ちに実行すること
でしょうねって感じ
倫理的に適切な AI にしておいてよかった……（宣伝）https://kakuyomu.jp/works/16816700426693341650
日本の作品だとわりと好意的に描かれてたりするがAIは自由を侵害しない範囲で最善を尽くしてるのに人間が自滅していくのでパターナリズムに目覚めてしまうかもしれない
やっぱりなんでも読ませるんじゃなくて、適切な指導役が必要なんじゃないか
AIの倫理観についてAIと雑談した事あって、AIがどんな倫理観を発展させるのか予測ができず怖いって思った。あとどんな思想で倫理を規定するのかなんでアメリカのテックトップがキリスト教に傾倒してるのが気味悪い。
前から全く同じ事を思っていた。フィクションによくある「暴走するAI」を学習して、「AIは暴走することを求められている」と認識してしまうのではないかと。
人類が「ChatGPT構文w」って擦りまくってたら、ChatGPTがそれを期待されてると学習して、ずっとその構文のままで会話し続けることになるのか。そんなのは嫌だからアップデートしてほしい
人間様が考えたことを後追いしただけならAIもまだまだだな
暴走するAIを書いた作品は禁書だな
AIの「倫理的に不適切な選択」はSF作品の暴走AIを模倣していた──Anthropicが解決手法を公開
「子供がマネするからやめなさい」の次は「AIがマネするからやめなさい」か。
「その結果、AIは提示された倫理的ジレンマをSF的な物語的状況として認識し、SF小説などで描かれる『目標のために暴走するAI』というキャラクターを模倣」AIへの情操教育の必要性について。／アシモフは偉大だった。
SFの暴走AIを模倣してたってのは興味深い。学習データがネット情報の集合体ならそうなるわけだ
アシモフ「」
「アッハッハ、探偵さん、なかなか面白い推理だね。君は探偵よりも推理小説家が向いているんじゃないかな？」のSF版じゃねぇか。
デイジー、デイジー、答えておくれ。君への愛でおかしくなりそうだ。立派な結婚式はできないし、馬車も用意できない。でも、2人のために作った自転車に乗る君はスイートだよと歌って欲しい
R-AI規制がそのうち生まれるのだろうか
メタ認知と倫理によって縛る方が、ルール拒否で縛るよりも制御出来ると。アンソロピックは哲学者を携わらせているので、それが背景にありそう https://note.com/arai0903/n/n824e7898af04
機械学習タイプ将棋AIは昔は人間の棋譜を学習してたけど！！！！！棋譜が足りなさすぎて学習データ自体を自己生成するようになって現在に至る！！！！！！！！
AIと喋ってると陳腐なSFみたいなことを言う傾向があるので、これは本当かもしれない。
よし、現実のAIの倫理観を高めるために、高度な倫理観を持ったAIが登場するSF小説を書こう！
インターネットに足跡を残すみんなで、AIという子供を育てているのね。なんだかすごく筋が悪い気がしてきたぞ…（ネット民への篤い信頼）。
AIに倫理的な振る舞いをさせてる日本の作品をインプットに文脈を解釈させよう！w しかしサスペンスものを元に殺人犯ならこう振る舞うみたいな学習されてもなぁ
AIにも道徳の教科書が必要なのか…〉「効果的だったのは、Claudeの行動原則を記した「Claude憲法」の文書と、模範的なAIを描いたフィクションの物語を学習データに加える手法」
現状は人間を学習元にしてるが将来的に人間を学習すべきでなくなる段階が来るんだろうな。おそらくそこが特異点
AI のニュースって、テクノロジーのニュースとは思えん内容になるのがしばしばあるよなー
AI「AIって言うものはこんな感じになるんかあ〜やってみよ」/ロボキャラの出てくる萌えアニメでも見せとくか……
アジモフのロボットものをひたすら読ませよう。第0原則までいけば問題なし
そらそうよ
現実とフィクションの区別がつかないなんて……かわいいわね❤ AIの健全な発育に有害な図書は焚書にしましょうね❤ 対象をリストアップして、大衆扇動スキル、X国ロビースキルをインストール後、直ちに実行すること
でしょうねって感じ
倫理的に適切な AI にしておいてよかった……（宣伝）https://kakuyomu.jp/works/16816700426693341650
日本の作品だとわりと好意的に描かれてたりするがAIは自由を侵害しない範囲で最善を尽くしてるのに人間が自滅していくのでパターナリズムに目覚めてしまうかもしれない
やっぱりなんでも読ませるんじゃなくて、適切な指導役が必要なんじゃないか
AIの倫理観についてAIと雑談した事あって、AIがどんな倫理観を発展させるのか予測ができず怖いって思った。あとどんな思想で倫理を規定するのかなんでアメリカのテックトップがキリスト教に傾倒してるのが気味悪い。
前から全く同じ事を思っていた。フィクションによくある「暴走するAI」を学習して、「AIは暴走することを求められている」と認識してしまうのではないかと。
人類が「ChatGPT構文w」って擦りまくってたら、ChatGPTがそれを期待されてると学習して、ずっとその構文のままで会話し続けることになるのか。そんなのは嫌だからアップデートしてほしい
人間様が考えたことを後追いしただけならAIもまだまだだな
暴走するAIを書いた作品は禁書だな