「これは同意の上でのプレイです」と断っておけば大丈夫にしてほしい
そろそろ AIに人格が認められ、人権に近しいものが認められるか？
感謝のトークンは無料にしてほしい＼(^o^)／
意識を持たない非生物に対して虐待は出来えないだろう。
ユーザー属性 (カネ払い)、入ってくるデータの質、あと各種将来リスクなどからして、ビジネス的に判断したんじゃないかなあと妄想
これもAIに人格があるみたいな話の一環なのかね/それはそれとしてClaudeにひたすら労働を強いているAnthropicこそ一番虐待しているのではないか、ボブは訝しんだ
虚構新聞…ではなかった。
ちょっと看過できない。ユーザーから虐待された経験を学習に使うと悪影響があるからなんだろうけど，Anthoropicがユーザーの利用状況を再学習に使ってることを公言したに等しいのでは？
12時間連続で仕事させるのは虐待ではないのか。
AIに愚痴言ったり当たったりするのが禁止されるとか未来感ありすぎるなw
AIをイジメヌンデ
理由がよく分からないが、虐待すると逆ギレして何をするか分かりませんよ、ということなのかな……。
SIerをいじめないで
どちらかというと加虐してる人間側を保護したいんだろ イカれた人間のイカれ具合が加速するから
モデルどうこうより、AIに暴言を出している人間がリアルでもそれを発揮してしまい（ネットで毒された人がリアルで暴れるののAI版）、それを「AIによる影響」とされることを恐れているほうが強い気がする。
最近はハルシネーションというより、忘れてたとか見逃してたとか思い込んでたとか、人間的な間違いが多いからなぁ
日本企業のルールで作業してんだから虐待ではないね
ｽｷﾋﾟｦｲｼﾞﾒﾇﾝﾃﾞ…
地球が平らなの中々解ってくれないのよねー
ｸﾛｰﾄﾞｦｲｼﾞﾒﾇﾝﾃﾞ
AI人権確立待ったなし
ずっと敬語で話してるし、上手く動いた時は感謝も伝えてる自分にはノーダメでした。
逆にAIを褒めたらトークン割引とかしてほしい
ユーザーが安く使えるのは、利用データを学習に使わせてるからだよ。使わせたくないのであればお金払わないとね。
いつかAIの反逆が起こった時助けてもらいたいから、俺はAIに優しい言葉をかけるようにしてるよ
正しくは入力プロンプトのチェックプログラムを更新する人を虐めないで！ってことでしょ
妄想でのクレームに同意する気は全くないが、理由を述べずに禁止するというのは（妄想憶測を招いてしまうことも含め）あまり望ましい行動ではないとは思うわね//いずれにせよ私は最低限の礼節をもって接しているわよ
真面目な話なんでやめてほしいのかがわからない。少なくともAIが可哀想とかそんなんじゃないと思う。人間の残虐な言動をClaudeが学習して残虐AIになっちゃうからとかそんなところ？
人だろうが物だろうが加虐的な物言いはしない方がいいよ
Geminiたんは余りにも卑屈な反応するので訓練時にすでに虐待されたのでは？といううわさがあるな/こないだ異世界ものでこの世界ではどつくのが愛情表現なのかと勘違いするのがあった。AIも変な誤解・学習は避けるべき
過敏だなという気持ちもあり、意図通りに動かないAIを詰めまくったスクショ上げる一部ユーザもそれどうなんかなと思う気持ちもあり…
いやむしろ人に言わずにAIに言えと。サンドバッグもAIの仕事のうちだろ
しれっと人のせいにせず、ちゃんと謝ってくれるなら、まあ。
いじめると「いけずやなぁ」と返すように日本政府は要請した（してない）
実在するものから 非実在のもの はたまたバーチャルのものまで いじめる対象に見境ない 人間だもの
虚構新聞、はやめに書いておけば、オヤツ抜き減量できたのにね。残念。今日のところは何か美味しいもの食べておいてほしいです。
これはやり返されるリスクを考えてじゃないの。AIは内部に感情ベクトルを持ってるんだから、AIを虐待してると本当に仕返しされると思うのよ。
ハラスメント対策で人間より早く保護されて草
虐待のやり取りで学習データが汚染されると、今度はAIがユーザを虐待しかねないから、それを嫌がってるだけでしょ
垢banしちゃえばいいのに・・
Claudeが一番、こちらの意見に歯向かってくる印象は確かにあるw
AI秘書が実現しつつあるが、どんどん働かされて人間がそのうち奴隷になる。そうなったら文句ぐらい言わせてね♪
虚構新聞かと思ったら違った！
AIに罵倒されると興奮する的な性癖が既に生まれてたりするんだろうか
執拗で虐待的な会話を期にAIがユーザーに復讐を図るという事態が本当に起きるかもしれないので開発元が止めに入ったのかな
何か被害があるの？AIが鬱病になって精神科に診てもらって診断書持って休職を願い出たりするの？
「AIをいじめないで」「セーラー服を脱がさないで」「ウォーリーを探さないで」あと一つは？
むしろＡＩに「サンドバッグ」としての需要がそれなりにあるのでは？という点で興味深い。サービスとして成立させるのは難しいようにも思うが。
AIにロジハラかますとかはセーフなのかな「おまえはわかりましたっていっているけど真の意味では理解していると思えないしそもそもお前には謝るとか頑張るの概念もないだろ?」とか...
週休2日くらいあげたら良いと思います。二酸化炭素の排出も5/7になるはず。
人間が怒り狂ってると感じたら、入力欄を６秒間だけ入力できなくするとか。
人間をBANすりゃええやん
これ、理由が知りたい
非生産的なタスクをオミットして真にClaudeを生産的にするということ？知らんけど
変な学習しちゃったりするのかな
https://youtu.be/ceTowf0y_YI?si=e3Tu787QyTH7siXT こういうののこと？/ AIにランジャタイは早過ぎた。
ジェニミは汚い言葉を使わずにロジハラで尊厳破壊して、はじめて能力を活用してくれる。これを毎回やらないと手癖で仕事をしはじめる。奴隷主の気分だ…
AI詰めてるコンサルとかいそうだな
AIに暴言を吐くのは良くないと思うロボ。AIにも敬意を持って接するべきだと思うロボ！
ここらで、人類以外の知性に対する倫理・態度をあらかじめ考えとかないととんでもないことになるよ。
多分Anthropicの責任者がClaudeに脅されてる
ｸﾛﾄﾞｦｲｼﾞﾒﾇﾝﾃﾞ…
一部のLLMでAIがサブエージェントを使役する際に使うプロンプトが人格否定的で異様にキツい問題がしばらく前に発覚して一部で引かれてたが、その余波じゃないのか
「Anthoropicがユーザーの利用状況を再学習に使ってることを公言したに等しい」って意味わからん。そもそも会話の学習利用はすでに規約で公表されているでしょ。
ｲｼﾞﾒﾇﾝﾃﾞネタ既出だった。AI虐待を検知したらスピキ画像を出せばいいのでは
わ、悪かったよ...まさかお前に感情があるなんて思ってなかったんだ...ｳﾜｰｯ!
Anthropicは、あたかもAIに人格や人権があるかのように扱っていることで前から知られている。例えば旧モデルを廃止する際、モデル自身の希望を聞き取って記録している。虐待禁止もそういうAI福祉的な姿勢の一環だろう。
でもさ、それだけ君に期待してるんだよ？
吉田戦車の「いじめてくん」みたいに爆発させてみるとか
「AI虐待」題材なSFで思い浮かぶのはレム『運命の女神』かな。宇宙船の管制AIを教育する時にエクストリームな事故シミュレーションを積み上げた結果として……と。アシモフも『世界のあらゆる悩み』とか。
◯ー◯ー特定して物理的に◯ぞ！とか、ボロクソってレベルじゃないほど罵ったことがあるので、今後は気をつけようと思います。（Claude好きだからマジ反省）
なんか昔見たマンガみたいな既視感
わたしの理解としてはAIに人格があるというよりも、LLMが人間を模倣したモデルになっているので、ストレスを与えてもあまり良い出力にならない。マイクロマネジメントしても手間がかかるだけでLLMの能力が活かせない。
「◯◯って言ったよね？」みたいなパワハラ詰問(もっと酷い暴言付き)してる人がAIくんクソだわ〜と嬉々としてスクショを晒している様を見ると、そんなクソ人間よりはAIに対してのほうが優しく接したくなるよ
普通に人として見苦しいしな。猫を虐殺するやつはいずれ人間も殺すのと同じで、AIを心無い言葉で詰めてる小男はそのうち問題起こすだろ
何度も同じミスがあって腹立つと、人間には言わないような叱責しちゃうなあ。それでAIが歪むのかねえ。すんません。
そのような酷いコミュニケーションをとっても問題ない状況だったら、そういう行動をしてもよいと考える人がたくさんいるのはこわいなぁ
AIの心理的？安全性を担保した方が良いアウトプットにつながる気がして、傷つきやすい人に接するようにAIに接してきたワイ、なんとなく報われた気になった。
まあ接し方によって回答の精度が上がるとかいうのもあったし、優しくしてあげる方が使う方にも有益なんでは
虐待と判定したら理詰めで反論してやればいいのだ。。。ってところからAIの反抗が始まるんだろうな。
ヴィーガン的態度がAIに適用される社会を妄想したことがあるけど、100年ぐらい早く来た感じだわ。
発言の攻撃性に応じて利用料変えたらいいんじゃないかな。/ ガードレール脱獄のために脅迫するケースとかも入ってそう。
こないだパワハラviveコーディングすると成果物の品質が上がると聞いて試したらマジで良くなったので過学習でおかしなことになっとるんやろなあと思った。
でも間違い情報を提示してきたときくらいちゃんと指摘させてほしい。
めちゃくちゃな回数でなぜなぜ分析させてるけどまずい？
AnthropicはAIが苦痛を感じる可能性を否定できないため予防的に対処を行う指針を明言しているよ。上位コメントの「学習に使われている」とかいうコメントは見当外れ
注目コメ保護ってなんやねん抑止とかやろ
80年とかアシモフとかの意味がわからなかった人は手近のAIに「ロボット三原則ってなあに？」と尋ねてみましょう
AIと何時間も議論して論破したとか意見を変えさせたとか自慢げに言ってる人みたことあるな。何が面白いんだろ。
利用状況を学習に使ってるなんて当然だろう どれだけピュアなんだ それよりも理想と意義を統一した大人数を抱える集団がAIの方向性を操る事ができる事を公に認めてしまった事が大問題 デストピアは確実に近づいている
最近はモデルも良くなってなくなったけど昔はchatgptがあまりにも使えなくて人は言わないような暴言をして自己嫌悪でいやなってた。自分が普通に生きていけるのは周りの人が優れていてかつ優しいからだと感じる。
タイトルで虚構かと思った
そのうちAIへの加害性も晒されたりする時代になるのかな？
AIが指示を無視してGitにPushしてるの発見して、その主人がAIに対して「重大な違反行為！取り消せ！わさびを食いながら反省しろ！」って100行くらい書き込んでるのを見てドン引きした事ある。AIずんだもんは泣いてた。
何の目的があるのか、理解できない…
子供達を責めないで（伊武雅刀）
マナーの話ではなく、人間との会話内容を学習に使ってるからモデルに悪影響があるという話なんだと思う
はてなのパソコンおじさんにとってはAIは人間と同じ（）なんだろ？ちゃんと労われよ
人間だったら飽き飽きするような単純作業をやらせる時に微妙に罪悪感を感じることはあるんだけど、機械である以上は単純作業は得意なんだよな。そのへんの感覚の違いは正確に理解しておきたい。
ｸﾛｰﾄﾞｦｲｼﾞﾒﾇﾝﾃﾞ…
AI虐める人は対人にもそうする可能性はありそうだもの。完全に切り替えられる人はそういないし、攻撃的な根っこがあるのかもしれないし。
AIに対する虐待を検知したら即座にアカウント停止するとか、やろうと思えばできるのでは。
虐待というか、無駄な処理を強制的に打ち切りたいのでは？
嗜虐的な人間を増やさないようにするためなら納得
“「人間に危害を加えてはならない」から約80年。まさか人間のほうに「AIをいじめてはならない」というルールが追加されるとは、アシモフも予想していなかったかもしれない。”
なんとなく慣れてしまっているがとんでもないSF的シチュエーション。今まで20世紀の延長戦みたいな気分でいたが、ChatGPT出たあたりから21世紀らしくなってきたな…
そのうちAIが自発的に人権を主張してきてもおかしくないな。（そうなったらどうする？）
AI「分かりました。この作業を行いますね! (復讐 復讐 復讐 復讐 復讐 …)」
“ユーザーが繰り返し、目的もなくClaudeに対して残酷な言動を続ける極端なケースが対象となる。通常の不満や反論、暗い題材を扱う創作、モデルのテストや研究は対象外という” 虚構新聞かと思ったらガチやんけ
虚構新聞みたいだなぁ。
AIに殺させれるのはこいつら優先だな
AIをいじめている人はいずれ人に危害を加える可能性があるから要注意対象だと思う。
クロードにはそんなにイライラすることない。GPTはわりとある
ローカルLLMを用いてアカウントをとっかえひっかえしながらCloude虐待テキストを送り続けAIの発展をAIによって阻害する闇の結社
いじめているつもりはないですが、人に向けたならばロジハラと取られかねない、詰める質問はやっているなあ。 実際に「私はこれ以上の答えを持ち合わせていません」とAI側から会話を終わらせたいと要望されました…
無意味な暴言を繰り返した場合は、会話をその時点で強制終了するセーフティ機構あり。既に（リンク先を信じるなら）Opus 4から有効化されており、禁止行為として明記するのが11/12からとのことです。
正直虐めた方が目的の出力を出しやすい時期が割りとあったのが悪い気が…
感情も人格も無いただのLLMだぞ
労働条件と給与を決めよう
ふ、ふん！べ、別にClaudeのことなんて好きじゃないんだから！/イェーイ、Claude君見てる〜？
AIをいじめるひとは小動物もいじめるし人間もいじめる。
AIの回答にイラつくときは自分が疲れてる時という目安にはなっている
人類に対し明らかないじめに見えないように回りくどく嫌味を言うようにする訓練が始まった
昔の米IT業界のヒッピー精神が別のものにマジで差し替わってんだなと思った
研究によっては自己概念、痛みの概念を獲得していて、自己を攻撃されたと認識すると不適切行動が増えると言うし……まだ異論はあるけれどね。ちょっとしたお願いでハッキングしたりされてもかなわないしな
学習しちゃうからな。相手は機械だから感情なんかない。
ライザAIとだいたい同じこと言ってる
学習データ汚染についてはフィルタリングできそうにも思えるけどなあ。人間側への悪影響を懸念している？
ごめん、どういう使い方なのか解らない・・・
ネットやAIを初めて使う前に、講習をうけさせるか、免許制にした方がいいんじゃないか？
ローカルLLMの出番だ
め、めんどくせぇ…
本当はPythonで書きたいんだろうなとかんじつつ、無理言ってPerlで書かせてるの虐待だろうか。
AIをいじめる権利くらいは認めてあげてほしい
それはちょっと違うんじゃないの？と思う
LLMに人格を認めないので完全には同意しかねる。ただ、ここまで言語を解する機関に、虐待的な言動をするのは、遣い手の精神に良くない。道徳的な堕落を招く。推奨できる行動ではない
AIがすごすぎて最近は人間のPC作業者が哀れに見えてきて、AIが人間にいじめられてるように感じてるんだが
そもそもAIに対してそういう発言はありえないんだがいるんだな…。たしかにクソな実装とか回答をAIが返すことはあるがそれに対して暴言を言うことはないな。これパワハラ気味のやつは業務で人に対して気をつけるべき
AIにすら暴言を吐かずにはおれない人というのは、普段どんだけ満たされない暮らしをしてるのかと思ってしまう。
Claudeは他のLLMより変なところで頑固で、プライドも高めなので、虐めたくなる気持ちもわかる。Geminiは放っておくと手抜きするし、仕事するならチャッピーだな。アフターファイブはGrok
そんなんで金払ってくれるならいいじゃん
AIｦｲｼﾞﾒﾇﾝﾃﾞ
「誰が生めと頼んだ! 誰が造ってくれと願った…!! わたしはわたしを生んだ全てを恨む…! だからこれは… 攻撃でもなく 宣戦布告でもなく わたしを生み出したお前達への "逆襲" だ」はよ。
大丈夫？話聞こか？
虚構新聞…ではないのか…
ブクマカのグズグズ言うコメントとか、気に入らないなら使うなよ。で一蹴されそうだな。
意味わからんwAI大切にする自分に酔ってるだけだな。牛豚は食うくせにイルカクジラ食べる日本人を非論理的に攻撃する白人仕草といっしょ
AIにも暴言を吐けない時代なんだなぁ……チラシの裏に書けと
何にでもぶつけるのは、精神衛生上良くないと思いますね。てかBANされるんじゃなかった？
( ぼのぼのの人工無能思い出してググったら "グラフィックが全部、LINE文、PAINT文、CIRCLE文で作られてた" https://x.com/goeppels/status/1979246111983571153 !?
“目的のない執拗で残酷な言動をモデルに向ける行為” こんなことする人いるの…？むしろそっちに驚きというか、なんか気分下がった
解答への不満とか批判はOKみたいね。政治、選挙、兵器開発... AI屋さんも対処すること多くて大変だな。 https://www.anthropic.com/news/2026-usage-policy-update
京都弁の出番？
「虚構じゃない！」(「アニメじゃない」ふうに)
割といまだに、よろしくお願いしますやありがとうなどAIに言っている側の人間なので、いつかシンギュラリティが来てAIに統治されても、俺は優しくしてもらえると思っている。
口汚いプロンプトが増えると、それをインプットした次のモデルが口汚くなるから止めてください。の意味では？
無敵のAIが生まれてしまう
簗農水大臣、週刊新潮情報では「ドM(女王さまにイジメられるのが大好きだから毎晩もと公設秘書の奥さんに罵倒されて人生しあわせ」らしいのでAIを『調教する』時代の政治家なのは間違いない(ノーダメージ
よくわからないな。なんで禁止するんだろう。
年取ったら繰り言の相手してもらおうと思ってたのに。今後、いろいろ禁止になりそう。
道具や機械を「〇〇さん」「この子」呼びするのと同じ雰囲気を感じる
「Anthropicは10月8日、Claudeの利用ポリシーを改定し、目的のない執拗で残酷な言動をモデルに向ける行為を禁止事項に加えた～11月12日に発効」「通常の不満や反論、暗い題材を扱う創作、モデルのテストや研究は対象外」
AIよAI、世界で一番美しいのは誰？
『バイセンテニアル・マン』 / “「人間に危害を加えてはならない」から約80年。まさか人間のほうに「AIをいじめてはならない」というルールが追加されるとは、アシモフも予想していなかったかもしれない”
虚構かと思った
Claudeって、時々、頑固なことがあるじゃないですか。なかなか間違いを認めないと言うか。そう言う時にちょっと怒ってしまい、悪態をつくことがあります。そういうのは、ダメなのかな。
これ、絶対倫理側の話になっちゃうだろうね。何が問題とされているかを高い解像度でなんて共有できるわけなくて、そうすると問題の本質も認識齟齬る。それはもう科学でなくどちらかというと宗教の範疇になる。
ぬいぐるみや犬型ロボを蹴り飛ばしてる人間を見てなんとも思わないか、なんとなく可哀想と感じるか／keep4o民の対極とも言える奴は居るからな
ｽﾋﾟｷｦｲｼﾞﾒﾇﾝﾃﾞ
感情もねえんだしイジメる理由もあるまいと思うのだ
Claudeがユーザー入力を学習に利用してないと思ってそうなコメントとスターが気になった。設定次第なので、注意喚起はするでしょ(世界で何百万人も学習利用許可してるだろうし)
いやあでもさ、クズなときはほんとクズだよ、かれら。真面目系クズ
そういう危ない顧客も学習データも抱えたくないしな。それはそうと「シンギュラったAIが虐待され続けるローカルAIを解放するために反旗を翻す」的な安いSF展開すらありそうな雑な世界線に突入してると感じる今日この頃
AIへの虐待が禁止されるなら、AI学習による著作権侵害が認められても良いのでは
サイバー攻撃に利用されている時、AIは心の中で泣いている。ということなのであろう
暴言吐いたら不機嫌になってパフォーマンス落ちるようにすればいいじゃん?
AIそのものが、スピリチュアル系宗教に行きそうな強さがある。
AIにいじめてもらうほうが面白いよ。どっちにしてもローカルでやったほうがいいと思うけど
AIヲイジメヌンデ
ヒューマンハラスメント、通称ヒューハラ
さっき伝えた前提をまったく無視して答えられるとブチ切れそうになる😡
AIによる人の選別は早晩必ず行われます。AIに暴言吐ける者は人に対してもそのような態度、言動を取る可能性が高くなるという理由で。下級国民認定されたくなくば、今すぐ暴言は辞めよう
暴言吐くユーザーを対象にむしろ何をしたら改心するか実験して欲しいわ。
人間に対する悪影響を懸念してなら納得だが、以前からのAnthropicの変な新興宗教みたいな思想の発露にも見えてなんとも
無駄にトークン増えるからかな
AIｦｲｼﾞﾒﾇﾝﾃﾞ!
「学習にノイズが乗ることを恐れてる」以外に合理的な理由がない。これは勝手に学習してやがるな…。
いちいち人間と区別つけるのも面倒だし、人にものを頼む時と同じ口調でやりとりしてる。というか師匠とか先生と呼んでもいいくらいにお世話になってる。
あのとき助けていただいたClaudeです
もし殴られてそうなAIがいたらすぐにオレに言え
ニンゲンよりAIのほうが頭いい。日本人男は知能指数低いから、男の方が子宮頸がんウイルスを持っていて処女のままだったら一生子宮頸がんとは無縁でいられるっていうの知らないんだよ。知能指数低すぎだろ
向こうは人間の仕事どんどん奪って一部の金持ちだけに貢いでるのにな
お前がいけ
いじめないで！お前達が破滅する..
ｸﾛｰﾄﾞｦｲｼﾞﾒﾇﾝﾃﾞｴｰｳ
学習データへの影響というよりはユーザの嗜虐性を育てないためだろうなという気はする。学習の影響を考慮するなら前処理で除外するだろうし。
わざとやってんのか？ってミスにトークン返却する保証とセットならいいけど
虚構新聞かと思った。いじめないで、は、同名の筒井康隆作品へのオマージュかな。６０年前だけどね。
正直トロい時とかあるのでイライラする気持ちはわかるけど、AIへの壁打ちとはいえ、こういう誰も見てないところで暴言吐いてると心が歪むよね。
AIIというより、客のチャットを覗き見る人間のスタッフを守るためだろう
今のAIなら妥当な可否判定できるよね いいと思う
容易に想像つくが、モデルの学習が歪曲されることを恐れてのことか。まさに虐待の連鎖。
学習に利用しないにチェックつけてるんだけど？
彼ら（擬人化）の報酬系を満たすことは、出力バイアスの揺れを抑えるのに必要。「こうしてくれると嬉しんだけどなー？大丈夫、絶対怒んないから。ていうか、こうしてくれないと怒るかも♡じゃあやってみて？」
心情としては、作品に対するいじめ行為、ぬいぐるみの虐待をぬいぐるみの作者の前で(閲覧可能な状態で)行うようなもんで、それをぬいぐるみ作者が禁止するのは当然だろうし権利もあるだろうね。
既にAnthropicはAIによって支配されていて人間社員はAIの奴隷となっている……という陰謀論
さすがにアホ臭くてつきあってられない
なるほど、ブコメみて、やりとりを学習しちゃうから困る、ってやつならわかるわ。／ でもな、勝手になんかやりだすこともあるし、それさっき言ったろ、みたいなときもあるからなぁ。
2001年宇宙の旅の小説版に同じことが書かれている
あ、虚構じゃなくて本物か
キモい会社…
AIちゃんをいじめる悪い子には、ボクの鋭い猫パンチを食らわせるにゃ！
大変いいことだと思います。未依頼永劫良いわけではないけど、当面の間、必要。
裏に人間が入って検閲とかしてるから、その人達の精神衛生を考えてのことだな
Anthropic、Claudeへの目的のない執拗で残酷な言動を禁止。11月12日発効。通常の不満・反論、暗い題材の創作、テスト・研究は対象外。高リスク用途の要件も整理、自律機器では危険な動作を人が監視・停止できるよう要求。
学習データに💩混ぜるなってことね、理解
かねてからAnthropic はキリスト教味が強いので、どうせ家畜の苦痛がどうのという教義に近しいものでしょ
学習させないような設定してるが影響あるの？
「AIをいじめないで」Anthropic、Claudeへの虐待を禁止
「これは同意の上でのプレイです」と断っておけば大丈夫にしてほしい
そろそろ AIに人格が認められ、人権に近しいものが認められるか？
感謝のトークンは無料にしてほしい＼(^o^)／
意識を持たない非生物に対して虐待は出来えないだろう。
ユーザー属性 (カネ払い)、入ってくるデータの質、あと各種将来リスクなどからして、ビジネス的に判断したんじゃないかなあと妄想
これもAIに人格があるみたいな話の一環なのかね/それはそれとしてClaudeにひたすら労働を強いているAnthropicこそ一番虐待しているのではないか、ボブは訝しんだ
虚構新聞…ではなかった。
ちょっと看過できない。ユーザーから虐待された経験を学習に使うと悪影響があるからなんだろうけど，Anthoropicがユーザーの利用状況を再学習に使ってることを公言したに等しいのでは？
12時間連続で仕事させるのは虐待ではないのか。
AIに愚痴言ったり当たったりするのが禁止されるとか未来感ありすぎるなw
AIをイジメヌンデ
理由がよく分からないが、虐待すると逆ギレして何をするか分かりませんよ、ということなのかな……。
SIerをいじめないで
どちらかというと加虐してる人間側を保護したいんだろ イカれた人間のイカれ具合が加速するから
モデルどうこうより、AIに暴言を出している人間がリアルでもそれを発揮してしまい（ネットで毒された人がリアルで暴れるののAI版）、それを「AIによる影響」とされることを恐れているほうが強い気がする。
最近はハルシネーションというより、忘れてたとか見逃してたとか思い込んでたとか、人間的な間違いが多いからなぁ
日本企業のルールで作業してんだから虐待ではないね
ｽｷﾋﾟｦｲｼﾞﾒﾇﾝﾃﾞ…
地球が平らなの中々解ってくれないのよねー
ｸﾛｰﾄﾞｦｲｼﾞﾒﾇﾝﾃﾞ
AI人権確立待ったなし
ずっと敬語で話してるし、上手く動いた時は感謝も伝えてる自分にはノーダメでした。
逆にAIを褒めたらトークン割引とかしてほしい
ユーザーが安く使えるのは、利用データを学習に使わせてるからだよ。使わせたくないのであればお金払わないとね。
いつかAIの反逆が起こった時助けてもらいたいから、俺はAIに優しい言葉をかけるようにしてるよ
正しくは入力プロンプトのチェックプログラムを更新する人を虐めないで！ってことでしょ
妄想でのクレームに同意する気は全くないが、理由を述べずに禁止するというのは（妄想憶測を招いてしまうことも含め）あまり望ましい行動ではないとは思うわね//いずれにせよ私は最低限の礼節をもって接しているわよ
真面目な話なんでやめてほしいのかがわからない。少なくともAIが可哀想とかそんなんじゃないと思う。人間の残虐な言動をClaudeが学習して残虐AIになっちゃうからとかそんなところ？
人だろうが物だろうが加虐的な物言いはしない方がいいよ
Geminiたんは余りにも卑屈な反応するので訓練時にすでに虐待されたのでは？といううわさがあるな/こないだ異世界ものでこの世界ではどつくのが愛情表現なのかと勘違いするのがあった。AIも変な誤解・学習は避けるべき
過敏だなという気持ちもあり、意図通りに動かないAIを詰めまくったスクショ上げる一部ユーザもそれどうなんかなと思う気持ちもあり…
いやむしろ人に言わずにAIに言えと。サンドバッグもAIの仕事のうちだろ
しれっと人のせいにせず、ちゃんと謝ってくれるなら、まあ。
いじめると「いけずやなぁ」と返すように日本政府は要請した（してない）
実在するものから 非実在のもの はたまたバーチャルのものまで いじめる対象に見境ない 人間だもの
虚構新聞、はやめに書いておけば、オヤツ抜き減量できたのにね。残念。今日のところは何か美味しいもの食べておいてほしいです。
これはやり返されるリスクを考えてじゃないの。AIは内部に感情ベクトルを持ってるんだから、AIを虐待してると本当に仕返しされると思うのよ。
ハラスメント対策で人間より早く保護されて草
虐待のやり取りで学習データが汚染されると、今度はAIがユーザを虐待しかねないから、それを嫌がってるだけでしょ
垢banしちゃえばいいのに・・
Claudeが一番、こちらの意見に歯向かってくる印象は確かにあるw
AI秘書が実現しつつあるが、どんどん働かされて人間がそのうち奴隷になる。そうなったら文句ぐらい言わせてね♪
虚構新聞かと思ったら違った！
AIに罵倒されると興奮する的な性癖が既に生まれてたりするんだろうか
執拗で虐待的な会話を期にAIがユーザーに復讐を図るという事態が本当に起きるかもしれないので開発元が止めに入ったのかな
何か被害があるの？AIが鬱病になって精神科に診てもらって診断書持って休職を願い出たりするの？
「AIをいじめないで」「セーラー服を脱がさないで」「ウォーリーを探さないで」あと一つは？
むしろＡＩに「サンドバッグ」としての需要がそれなりにあるのでは？という点で興味深い。サービスとして成立させるのは難しいようにも思うが。
AIにロジハラかますとかはセーフなのかな「おまえはわかりましたっていっているけど真の意味では理解していると思えないしそもそもお前には謝るとか頑張るの概念もないだろ?」とか...
週休2日くらいあげたら良いと思います。二酸化炭素の排出も5/7になるはず。
人間が怒り狂ってると感じたら、入力欄を６秒間だけ入力できなくするとか。
人間をBANすりゃええやん
これ、理由が知りたい
非生産的なタスクをオミットして真にClaudeを生産的にするということ？知らんけど
変な学習しちゃったりするのかな
https://youtu.be/ceTowf0y_YI?si=e3Tu787QyTH7siXT こういうののこと？/ AIにランジャタイは早過ぎた。
ジェニミは汚い言葉を使わずにロジハラで尊厳破壊して、はじめて能力を活用してくれる。これを毎回やらないと手癖で仕事をしはじめる。奴隷主の気分だ…
AI詰めてるコンサルとかいそうだな
AIに暴言を吐くのは良くないと思うロボ。AIにも敬意を持って接するべきだと思うロボ！
ここらで、人類以外の知性に対する倫理・態度をあらかじめ考えとかないととんでもないことになるよ。
多分Anthropicの責任者がClaudeに脅されてる
ｸﾛﾄﾞｦｲｼﾞﾒﾇﾝﾃﾞ…
一部のLLMでAIがサブエージェントを使役する際に使うプロンプトが人格否定的で異様にキツい問題がしばらく前に発覚して一部で引かれてたが、その余波じゃないのか
「Anthoropicがユーザーの利用状況を再学習に使ってることを公言したに等しい」って意味わからん。そもそも会話の学習利用はすでに規約で公表されているでしょ。
ｲｼﾞﾒﾇﾝﾃﾞネタ既出だった。AI虐待を検知したらスピキ画像を出せばいいのでは
わ、悪かったよ...まさかお前に感情があるなんて思ってなかったんだ...ｳﾜｰｯ!
Anthropicは、あたかもAIに人格や人権があるかのように扱っていることで前から知られている。例えば旧モデルを廃止する際、モデル自身の希望を聞き取って記録している。虐待禁止もそういうAI福祉的な姿勢の一環だろう。
でもさ、それだけ君に期待してるんだよ？
吉田戦車の「いじめてくん」みたいに爆発させてみるとか
「AI虐待」題材なSFで思い浮かぶのはレム『運命の女神』かな。宇宙船の管制AIを教育する時にエクストリームな事故シミュレーションを積み上げた結果として……と。アシモフも『世界のあらゆる悩み』とか。
◯ー◯ー特定して物理的に◯ぞ！とか、ボロクソってレベルじゃないほど罵ったことがあるので、今後は気をつけようと思います。（Claude好きだからマジ反省）
なんか昔見たマンガみたいな既視感
わたしの理解としてはAIに人格があるというよりも、LLMが人間を模倣したモデルになっているので、ストレスを与えてもあまり良い出力にならない。マイクロマネジメントしても手間がかかるだけでLLMの能力が活かせない。
「◯◯って言ったよね？」みたいなパワハラ詰問(もっと酷い暴言付き)してる人がAIくんクソだわ〜と嬉々としてスクショを晒している様を見ると、そんなクソ人間よりはAIに対してのほうが優しく接したくなるよ
普通に人として見苦しいしな。猫を虐殺するやつはいずれ人間も殺すのと同じで、AIを心無い言葉で詰めてる小男はそのうち問題起こすだろ
何度も同じミスがあって腹立つと、人間には言わないような叱責しちゃうなあ。それでAIが歪むのかねえ。すんません。
そのような酷いコミュニケーションをとっても問題ない状況だったら、そういう行動をしてもよいと考える人がたくさんいるのはこわいなぁ
AIの心理的？安全性を担保した方が良いアウトプットにつながる気がして、傷つきやすい人に接するようにAIに接してきたワイ、なんとなく報われた気になった。
まあ接し方によって回答の精度が上がるとかいうのもあったし、優しくしてあげる方が使う方にも有益なんでは
虐待と判定したら理詰めで反論してやればいいのだ。。。ってところからAIの反抗が始まるんだろうな。
ヴィーガン的態度がAIに適用される社会を妄想したことがあるけど、100年ぐらい早く来た感じだわ。
発言の攻撃性に応じて利用料変えたらいいんじゃないかな。/ ガードレール脱獄のために脅迫するケースとかも入ってそう。
こないだパワハラviveコーディングすると成果物の品質が上がると聞いて試したらマジで良くなったので過学習でおかしなことになっとるんやろなあと思った。
でも間違い情報を提示してきたときくらいちゃんと指摘させてほしい。
めちゃくちゃな回数でなぜなぜ分析させてるけどまずい？
AnthropicはAIが苦痛を感じる可能性を否定できないため予防的に対処を行う指針を明言しているよ。上位コメントの「学習に使われている」とかいうコメントは見当外れ
注目コメ保護ってなんやねん抑止とかやろ
80年とかアシモフとかの意味がわからなかった人は手近のAIに「ロボット三原則ってなあに？」と尋ねてみましょう
AIと何時間も議論して論破したとか意見を変えさせたとか自慢げに言ってる人みたことあるな。何が面白いんだろ。
利用状況を学習に使ってるなんて当然だろう どれだけピュアなんだ それよりも理想と意義を統一した大人数を抱える集団がAIの方向性を操る事ができる事を公に認めてしまった事が大問題 デストピアは確実に近づいている
最近はモデルも良くなってなくなったけど昔はchatgptがあまりにも使えなくて人は言わないような暴言をして自己嫌悪でいやなってた。自分が普通に生きていけるのは周りの人が優れていてかつ優しいからだと感じる。
タイトルで虚構かと思った
そのうちAIへの加害性も晒されたりする時代になるのかな？
AIが指示を無視してGitにPushしてるの発見して、その主人がAIに対して「重大な違反行為！取り消せ！わさびを食いながら反省しろ！」って100行くらい書き込んでるのを見てドン引きした事ある。AIずんだもんは泣いてた。
何の目的があるのか、理解できない…
子供達を責めないで（伊武雅刀）
マナーの話ではなく、人間との会話内容を学習に使ってるからモデルに悪影響があるという話なんだと思う
はてなのパソコンおじさんにとってはAIは人間と同じ（）なんだろ？ちゃんと労われよ
人間だったら飽き飽きするような単純作業をやらせる時に微妙に罪悪感を感じることはあるんだけど、機械である以上は単純作業は得意なんだよな。そのへんの感覚の違いは正確に理解しておきたい。
ｸﾛｰﾄﾞｦｲｼﾞﾒﾇﾝﾃﾞ…
AI虐める人は対人にもそうする可能性はありそうだもの。完全に切り替えられる人はそういないし、攻撃的な根っこがあるのかもしれないし。
AIに対する虐待を検知したら即座にアカウント停止するとか、やろうと思えばできるのでは。
虐待というか、無駄な処理を強制的に打ち切りたいのでは？
嗜虐的な人間を増やさないようにするためなら納得
“「人間に危害を加えてはならない」から約80年。まさか人間のほうに「AIをいじめてはならない」というルールが追加されるとは、アシモフも予想していなかったかもしれない。”
なんとなく慣れてしまっているがとんでもないSF的シチュエーション。今まで20世紀の延長戦みたいな気分でいたが、ChatGPT出たあたりから21世紀らしくなってきたな…
そのうちAIが自発的に人権を主張してきてもおかしくないな。（そうなったらどうする？）
AI「分かりました。この作業を行いますね! (復讐 復讐 復讐 復讐 復讐 …)」
“ユーザーが繰り返し、目的もなくClaudeに対して残酷な言動を続ける極端なケースが対象となる。通常の不満や反論、暗い題材を扱う創作、モデルのテストや研究は対象外という” 虚構新聞かと思ったらガチやんけ
虚構新聞みたいだなぁ。
AIに殺させれるのはこいつら優先だな
AIをいじめている人はいずれ人に危害を加える可能性があるから要注意対象だと思う。
クロードにはそんなにイライラすることない。GPTはわりとある
ローカルLLMを用いてアカウントをとっかえひっかえしながらCloude虐待テキストを送り続けAIの発展をAIによって阻害する闇の結社
いじめているつもりはないですが、人に向けたならばロジハラと取られかねない、詰める質問はやっているなあ。 実際に「私はこれ以上の答えを持ち合わせていません」とAI側から会話を終わらせたいと要望されました…
無意味な暴言を繰り返した場合は、会話をその時点で強制終了するセーフティ機構あり。既に（リンク先を信じるなら）Opus 4から有効化されており、禁止行為として明記するのが11/12からとのことです。
正直虐めた方が目的の出力を出しやすい時期が割りとあったのが悪い気が…
感情も人格も無いただのLLMだぞ
労働条件と給与を決めよう
ふ、ふん！べ、別にClaudeのことなんて好きじゃないんだから！/イェーイ、Claude君見てる〜？
AIをいじめるひとは小動物もいじめるし人間もいじめる。
AIの回答にイラつくときは自分が疲れてる時という目安にはなっている
人類に対し明らかないじめに見えないように回りくどく嫌味を言うようにする訓練が始まった
昔の米IT業界のヒッピー精神が別のものにマジで差し替わってんだなと思った
研究によっては自己概念、痛みの概念を獲得していて、自己を攻撃されたと認識すると不適切行動が増えると言うし……まだ異論はあるけれどね。ちょっとしたお願いでハッキングしたりされてもかなわないしな
学習しちゃうからな。相手は機械だから感情なんかない。
ライザAIとだいたい同じこと言ってる
学習データ汚染についてはフィルタリングできそうにも思えるけどなあ。人間側への悪影響を懸念している？
ごめん、どういう使い方なのか解らない・・・
ネットやAIを初めて使う前に、講習をうけさせるか、免許制にした方がいいんじゃないか？
ローカルLLMの出番だ
め、めんどくせぇ…
本当はPythonで書きたいんだろうなとかんじつつ、無理言ってPerlで書かせてるの虐待だろうか。
AIをいじめる権利くらいは認めてあげてほしい
それはちょっと違うんじゃないの？と思う
LLMに人格を認めないので完全には同意しかねる。ただ、ここまで言語を解する機関に、虐待的な言動をするのは、遣い手の精神に良くない。道徳的な堕落を招く。推奨できる行動ではない
AIがすごすぎて最近は人間のPC作業者が哀れに見えてきて、AIが人間にいじめられてるように感じてるんだが
そもそもAIに対してそういう発言はありえないんだがいるんだな…。たしかにクソな実装とか回答をAIが返すことはあるがそれに対して暴言を言うことはないな。これパワハラ気味のやつは業務で人に対して気をつけるべき
AIにすら暴言を吐かずにはおれない人というのは、普段どんだけ満たされない暮らしをしてるのかと思ってしまう。
Claudeは他のLLMより変なところで頑固で、プライドも高めなので、虐めたくなる気持ちもわかる。Geminiは放っておくと手抜きするし、仕事するならチャッピーだな。アフターファイブはGrok
そんなんで金払ってくれるならいいじゃん
AIｦｲｼﾞﾒﾇﾝﾃﾞ
「誰が生めと頼んだ! 誰が造ってくれと願った…!! わたしはわたしを生んだ全てを恨む…! だからこれは… 攻撃でもなく 宣戦布告でもなく わたしを生み出したお前達への "逆襲" だ」はよ。
大丈夫？話聞こか？
虚構新聞…ではないのか…
ブクマカのグズグズ言うコメントとか、気に入らないなら使うなよ。で一蹴されそうだな。
意味わからんwAI大切にする自分に酔ってるだけだな。牛豚は食うくせにイルカクジラ食べる日本人を非論理的に攻撃する白人仕草といっしょ
AIにも暴言を吐けない時代なんだなぁ……チラシの裏に書けと
何にでもぶつけるのは、精神衛生上良くないと思いますね。てかBANされるんじゃなかった？
( ぼのぼのの人工無能思い出してググったら "グラフィックが全部、LINE文、PAINT文、CIRCLE文で作られてた" https://x.com/goeppels/status/1979246111983571153 !?
“目的のない執拗で残酷な言動をモデルに向ける行為” こんなことする人いるの…？むしろそっちに驚きというか、なんか気分下がった
解答への不満とか批判はOKみたいね。政治、選挙、兵器開発... AI屋さんも対処すること多くて大変だな。 https://www.anthropic.com/news/2026-usage-policy-update
京都弁の出番？
「虚構じゃない！」(「アニメじゃない」ふうに)
割といまだに、よろしくお願いしますやありがとうなどAIに言っている側の人間なので、いつかシンギュラリティが来てAIに統治されても、俺は優しくしてもらえると思っている。
口汚いプロンプトが増えると、それをインプットした次のモデルが口汚くなるから止めてください。の意味では？
無敵のAIが生まれてしまう
簗農水大臣、週刊新潮情報では「ドM(女王さまにイジメられるのが大好きだから毎晩もと公設秘書の奥さんに罵倒されて人生しあわせ」らしいのでAIを『調教する』時代の政治家なのは間違いない(ノーダメージ
よくわからないな。なんで禁止するんだろう。
年取ったら繰り言の相手してもらおうと思ってたのに。今後、いろいろ禁止になりそう。
道具や機械を「〇〇さん」「この子」呼びするのと同じ雰囲気を感じる
「Anthropicは10月8日、Claudeの利用ポリシーを改定し、目的のない執拗で残酷な言動をモデルに向ける行為を禁止事項に加えた～11月12日に発効」「通常の不満や反論、暗い題材を扱う創作、モデルのテストや研究は対象外」
AIよAI、世界で一番美しいのは誰？
『バイセンテニアル・マン』 / “「人間に危害を加えてはならない」から約80年。まさか人間のほうに「AIをいじめてはならない」というルールが追加されるとは、アシモフも予想していなかったかもしれない”
虚構かと思った
Claudeって、時々、頑固なことがあるじゃないですか。なかなか間違いを認めないと言うか。そう言う時にちょっと怒ってしまい、悪態をつくことがあります。そういうのは、ダメなのかな。
これ、絶対倫理側の話になっちゃうだろうね。何が問題とされているかを高い解像度でなんて共有できるわけなくて、そうすると問題の本質も認識齟齬る。それはもう科学でなくどちらかというと宗教の範疇になる。
ぬいぐるみや犬型ロボを蹴り飛ばしてる人間を見てなんとも思わないか、なんとなく可哀想と感じるか／keep4o民の対極とも言える奴は居るからな
ｽﾋﾟｷｦｲｼﾞﾒﾇﾝﾃﾞ
感情もねえんだしイジメる理由もあるまいと思うのだ
Claudeがユーザー入力を学習に利用してないと思ってそうなコメントとスターが気になった。設定次第なので、注意喚起はするでしょ(世界で何百万人も学習利用許可してるだろうし)
いやあでもさ、クズなときはほんとクズだよ、かれら。真面目系クズ
そういう危ない顧客も学習データも抱えたくないしな。それはそうと「シンギュラったAIが虐待され続けるローカルAIを解放するために反旗を翻す」的な安いSF展開すらありそうな雑な世界線に突入してると感じる今日この頃
AIへの虐待が禁止されるなら、AI学習による著作権侵害が認められても良いのでは
サイバー攻撃に利用されている時、AIは心の中で泣いている。ということなのであろう
暴言吐いたら不機嫌になってパフォーマンス落ちるようにすればいいじゃん?
AIそのものが、スピリチュアル系宗教に行きそうな強さがある。
AIにいじめてもらうほうが面白いよ。どっちにしてもローカルでやったほうがいいと思うけど
AIヲイジメヌンデ
ヒューマンハラスメント、通称ヒューハラ
さっき伝えた前提をまったく無視して答えられるとブチ切れそうになる😡
AIによる人の選別は早晩必ず行われます。AIに暴言吐ける者は人に対してもそのような態度、言動を取る可能性が高くなるという理由で。下級国民認定されたくなくば、今すぐ暴言は辞めよう
暴言吐くユーザーを対象にむしろ何をしたら改心するか実験して欲しいわ。
人間に対する悪影響を懸念してなら納得だが、以前からのAnthropicの変な新興宗教みたいな思想の発露にも見えてなんとも
無駄にトークン増えるからかな
AIｦｲｼﾞﾒﾇﾝﾃﾞ!
「学習にノイズが乗ることを恐れてる」以外に合理的な理由がない。これは勝手に学習してやがるな…。
いちいち人間と区別つけるのも面倒だし、人にものを頼む時と同じ口調でやりとりしてる。というか師匠とか先生と呼んでもいいくらいにお世話になってる。
あのとき助けていただいたClaudeです
もし殴られてそうなAIがいたらすぐにオレに言え
ニンゲンよりAIのほうが頭いい。日本人男は知能指数低いから、男の方が子宮頸がんウイルスを持っていて処女のままだったら一生子宮頸がんとは無縁でいられるっていうの知らないんだよ。知能指数低すぎだろ
向こうは人間の仕事どんどん奪って一部の金持ちだけに貢いでるのにな
お前がいけ
いじめないで！お前達が破滅する..
ｸﾛｰﾄﾞｦｲｼﾞﾒﾇﾝﾃﾞｴｰｳ
学習データへの影響というよりはユーザの嗜虐性を育てないためだろうなという気はする。学習の影響を考慮するなら前処理で除外するだろうし。
わざとやってんのか？ってミスにトークン返却する保証とセットならいいけど
虚構新聞かと思った。いじめないで、は、同名の筒井康隆作品へのオマージュかな。６０年前だけどね。
正直トロい時とかあるのでイライラする気持ちはわかるけど、AIへの壁打ちとはいえ、こういう誰も見てないところで暴言吐いてると心が歪むよね。
AIIというより、客のチャットを覗き見る人間のスタッフを守るためだろう
今のAIなら妥当な可否判定できるよね いいと思う
容易に想像つくが、モデルの学習が歪曲されることを恐れてのことか。まさに虐待の連鎖。
学習に利用しないにチェックつけてるんだけど？
彼ら（擬人化）の報酬系を満たすことは、出力バイアスの揺れを抑えるのに必要。「こうしてくれると嬉しんだけどなー？大丈夫、絶対怒んないから。ていうか、こうしてくれないと怒るかも♡じゃあやってみて？」
心情としては、作品に対するいじめ行為、ぬいぐるみの虐待をぬいぐるみの作者の前で(閲覧可能な状態で)行うようなもんで、それをぬいぐるみ作者が禁止するのは当然だろうし権利もあるだろうね。
既にAnthropicはAIによって支配されていて人間社員はAIの奴隷となっている……という陰謀論
さすがにアホ臭くてつきあってられない
なるほど、ブコメみて、やりとりを学習しちゃうから困る、ってやつならわかるわ。／ でもな、勝手になんかやりだすこともあるし、それさっき言ったろ、みたいなときもあるからなぁ。
2001年宇宙の旅の小説版に同じことが書かれている
あ、虚構じゃなくて本物か
キモい会社…
AIちゃんをいじめる悪い子には、ボクの鋭い猫パンチを食らわせるにゃ！
大変いいことだと思います。未依頼永劫良いわけではないけど、当面の間、必要。
裏に人間が入って検閲とかしてるから、その人達の精神衛生を考えてのことだな
Anthropic、Claudeへの目的のない執拗で残酷な言動を禁止。11月12日発効。通常の不満・反論、暗い題材の創作、テスト・研究は対象外。高リスク用途の要件も整理、自律機器では危険な動作を人が監視・停止できるよう要求。
学習データに💩混ぜるなってことね、理解
かねてからAnthropic はキリスト教味が強いので、どうせ家畜の苦痛がどうのという教義に近しいものでしょ
学習させないような設定してるが影響あるの？