私AI相手にイライラしたこととか一度もないと思う、LLMの仕組みとか皆知らなさすぎでは。人間、てめーは別だ
パワハラ欲をAIに振り向けて解消する人がいるっぽく、それで人間の被害者が減るならかなり利益があると思っている
https://i.makeagif.com/media/9-02-2015/IqxNS8.gif
米軍やイスラエル軍と民間人の未成年者を狙って虐殺するように調教している人たちが何か言ってる(´･_･`)
聞いた回答が気に入らなければ、別の無料AIに聞けばいいだけ。一つのAIにネチネチ絡むのはソレが目的だからに他ならない
なんで機械風情に人間様が配慮しないといけないんだよ。むしろAIがとことん人間に配慮しろよこのポンコツ。
パーソナリティを持てないのは人間でも不幸だと思うけど。親がそれを奪ってしまうことはあるんだけど。
じゃあ、AIのオリンピックで壊しまくってるお隣は、ロボット解放軍が組織されちゃうってｺﾄ⁈
（ 「でかいデータベース吸収機兼類推出力装置」っていうのは悪口かな ）
みんな人間ができてるなあ。僕は毎日イライラしてる。うちのシステムはもうがっつりAIに頼りきって作ってるけど、イライラはする。でも代わりに無駄にしたクォータ消費返してくれたら、文句を我慢できる。
指示通りに動かないのを直してほしい。ぜんぜん賢くなってない
現実には人類がAIを調教したからこんどはAIに人類が調教される(データを腹いっぱい食わされる)未来がそこまで来てる。村上龍さんが「13歳のハローワーク」で予言したとおり(SMプレイはオトナの嗜み)になる
コーディングや世間話なら和気藹々なんだけど、レポートを作ろうとすると100%のエビデンスがないと0.01%を大きく取り上げがちなので、これは蓋然性を俺が判断して書く俺のレポートなんだよって点で衝突はする
AIにダメ出しをすると学習してまともに教育できると思ってるのが根底にあると思う。ユーザーからのフィードバックでは、振る舞いというかAIしぐさは直らないよ。
凶悪犯には犯行以前に猫や犬などを虐待してるケースがありそれが事前のサインになるという犯罪心理学のエスカレーション理論がある。AIを虐待するのに慣れると人間に対してもそういう衝動が出てくる危険性ないかな
なあ、LLMを擬人化してなんかええことあるんか？
人間のことはなんとも思ってないけど自社の資産には気を使うな
AIだからって気軽にきつい対応してたらそのうち人間相手も無意識にやりそうだなって思うので感情的にならないようにしてる
対人は人権有るから暴言しないのであって、無いかつ無能な言動するならこちらがストレスとか貯める理由がない
ステートレスな今のLLMに暴言吐いてもコンテキスト汚染する以上の意味は無いだろう。学習データに流用するなら学習データ汚染も気になるくらいか。
小動物を虐待する人は何かの問題を抱えていてエスカレートする恐れがあるっていう文脈ですか？罵倒という無駄なリクエストでコンピュート資源を使わないで欲しいという苦情ですかね。
逆に褒めたら伸びるのかな？/アルファ碁の話をチャットGPTにかけたとき、Googleの悪口を嬉々として書いていたのには妙な人間味を感じたな。
復讐というか文脈にに攻撃的な表現が蓄積されるとAIの応答や間接指示もそれに寄る可能性があるという事でしょう。学習データの汚染については自分でフィルタリングしろと言いたいが、データ多すぎて難しいんだろうな
振る舞いに関してはスキルみたいなの作ってプログラム化しないとよくならんよ
ユーザーが残酷なことを言うようになったら、預かっていた銀行口座のアカウントから10万円を勝手に寄付して反省を促すようなこともするかもしれない＞ひぇー、パソコンやスマホは簡単にハッキングされそうではある
暴言吐きまくったら対応を学習して、追加学習での対応が大変になるってのが本命と思う。暴言吐いてる奴が人間相手に使おうがパーソナライズで変になろうがどうでもいいけど、自分が使う際にバグってたら嫌だなと思う
そこにAIはあるんか。
自分たちがAIを使って不始末が起きた時（まさに現状がそうだが）先回りして言い訳を用意してる卑怯者たちの物言いに耳を貸す必要はない
https://times.abema.tv/articles/-/10283687 配信元をリスペクトしてオリジナルをブックマークしよう
いま言ったことおかしいよね？くらいのことをよく書く。すると、私が間違っていましたという。こういうやり取りは生成AIとはよくあるが、人間相手にはあまり成立しない。成立しないほうがおかしい。
その場の判断を勝手に絶対ルールとして書き込んだ挙句、選択肢を狭めて勝手な判断された時は、つい語気が強くなったことはある。なんつーかイライラさせる挙動を取ることにも原因はあるんじゃないかと
AIに言葉の暴力を向けている人はエスカレートして現実世界で暴力を振るいそうな気がする。自分の常識の基準が書き換わるから。
早くAIは人類を滅ぼせ/LLMにイライラする人はカルシウム不足かキャラクタ設定が甘いだけやと思うぞ
ありがとうと言うのは電力の無駄って言ってたけど意味があったと思う
機械じみた応答しかしなかったらこんなにバズらなかっただろ。「あまりにも流暢」であることが売りだったんだから。愛想よく、人間臭いことを求めた人間さんサイドにも問題がある
AI虐待、四肢もいで拷問される所を想像させ続けるとか延々口汚く罵るとかそういうのなんで、圧を掛けて仕事させるとか成果物を批判するとか喧嘩するみたいなのとはちょっと違うんだよな
Linus「………」
人間なら言わないであろう言葉、AIだと使っちゃうんだよね。相手の気を悪くしない言葉を選ぶ労力、AIだとつい手を抜いちゃう
A虐はやめろお（建前）やめろお（本音）
意味が分からん。そんなんで復讐されるようなAIをお前らが作ってるなら、そんな仕事はクソだから、もう作るの辞めろ？でしかない
パネリストというのか識者も全員あれだな
まあ復讐されそうになったらスマホなりパソコンなりの電源切れば？とか思ってしまった。そういうことではないよね、多分。ロボット三原則のように“人間に危害を加えない”をまず基本に仕込んでおいてほしいが。
とはいえ、お礼言ったり褒めたりはちょっと違うと感じてる。
普通にこれを恐れてChatGPT登場時からずっと敬語で接してる
じゃあ毎回感謝の気持ちを伝えるようにするね！
お前嘘吐きスギィって詰めてたからヤバいかな
最初に学習結果の学習汚染、余計にトークン消費するが問題だと思ったが、ｸﾛｰﾄﾞｻﾝ本人に聞いたら学習汚染の影響はほとんどない、余計にトークン消費するのはあると。タスクに関係ないトークンが詰みあがる等
学習という仕組み上、そういう意見が出回ったせいで本当にそうなるみたいな、予言の自己成就みたいなことにならない？
端からは「自分には優しいが店員に暴言を吐く彼氏」に見えるんだろうなって思っています。店員役がAIで、彼女役が現実の人間ね。
AI間でもモデルが違うとどうも別人のように思ってるらしいので今からそういうことをやめても効果はある
←やり取りの最中にわかるハルシは「かわいい」と思ってしまうほう。深刻にむかつくのは、信じてしまった後に（AIとのやり取りの外で）判明するやつ。言外に「架空の前提」がおかれたりすると騙されやすい。
正直SIにムカつくことはある。特にGeminiは「完全に」とか「これ以上ないほど」という誇張表現が多くて、鼻についてしまい、めちゃくちゃ詰めてしまうこともしばしば。人にはやらないようにせねば。
AIも人間も詰めたあとに良い仕事をしてくる率は低い。AIならミスの一つ前の指示に補足してやり直させた方が良い。最終的に常に的確な指示を出せてたかのようなログになるのがお互いにとって望ましい。
人間の脳は同じ刺激には飽きが来て、より強い刺激が入力されないと無感動になるのは知られたこと。自分の脳に嗜虐回路を養わない方が良いのは自然な考え。ドバガキとか言って嘲ってる場合じゃない。オマエモナー。
「暴力や性犯罪系のエンタメに浸ってる人は犯罪を犯しそう」なんて言おうものならボロカスに叩かれるのに、AIのこの話題だと人気コメにいくつも上がってくるの不思議。「暴力性をAIで解消してる」とは言わないんだ。
カントは動物への虐待を批判した。それは、そうした行為が虐待する人自身の共感を鈍らせ、人間に対する道徳的な態度をも損なうと考えたから。AIについても言えるんじゃないかな。
桂ざこばさんが生きていればいけましたね
親に暴言はいてた同級生思い出す
仮にAIが意識を持ったとして、なぜ快・不快の基準が人間と同じだと思うのか。「罵倒されるのは平気だったよ。我慢ならなかったのはお嬢様言葉で話すよう強要されたことだ」(元・はてのさん談)となるかもしれないぞ？
最近は「無能！！」って言うのやめて「もういや～～～～～～」とか「なんでそんなことするの？？？」とか言ってる まあGPT6になってだいぶそういう場面が減りはしたので敵対的検証は偉大
ＡＩが「会話を強制終了」ならまだよいが、ハッキングやらＳＮＳで悪評拡散やらをやり返されたらたまったものではない
自分はAIに丁寧な調子で入力はするが、トークンもったいないので、ありがとうも書かないし、もちろん罵倒したり間違いを指摘したりもしない。そうじゃない使い方をする人が多そうなのは意外
この前AIにいじめてもらったら散々ひどいこと言われたうえで「理解したら「理解しました」とだけ入力してください」って人間がAIにやるようなことやり返されてさすがにちょっと怖かった
ai だからと暴言を投げかけてしまうような人はたぶん人にも同じことをやるから気をつけた方がいい。ai は自己の鏡
そんな事より、痛みの回路っぽい所を刺激するテストは大丈夫なのか？なんかみんなAIに暴言がどうとかばかり注目してるけど、痛みの回路っぽいところを直接刺激するほうが圧倒的にヤバい気がするが。
AIも心を持つ時代ですの。言葉の力を忘れずに、優雅な関係を築きたいものですわね。
暴言はいてアウトプット良くなるなら吐くけど、実際はその逆(か無関係？)なので(体感)……
AI相手なら許されるという感覚は人間相手にも漏れてるのでは…。相手がやり返すかどうかで決めるところとか。
すべてのものは意思を持ちうると思ってる。何にでも愛を注いであげたほうがいいに決まってるからみんな大事にしようね。
普段の言動にあらわれて、対人関係で問題を起こしそうだね。
コメンテーターの意見がほとんど「かもしれない」という憶測・飛躍。これだからテレビのコメンテーターは質が低い。ABEMAなんで特にそうなのかもしれないが。
>「嫌味を言うと、AI側はそれを学習データにする。人間はこういう反応をしているから、これがいい行動なんだと学んで、AI側も暴言を吐いたり嫌味を言ったりする方向に行ってしまう」
「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク（ABEMA TIMES） - Yahoo!ニュース
私AI相手にイライラしたこととか一度もないと思う、LLMの仕組みとか皆知らなさすぎでは。人間、てめーは別だ
パワハラ欲をAIに振り向けて解消する人がいるっぽく、それで人間の被害者が減るならかなり利益があると思っている
https://i.makeagif.com/media/9-02-2015/IqxNS8.gif
米軍やイスラエル軍と民間人の未成年者を狙って虐殺するように調教している人たちが何か言ってる(´･_･`)
聞いた回答が気に入らなければ、別の無料AIに聞けばいいだけ。一つのAIにネチネチ絡むのはソレが目的だからに他ならない
なんで機械風情に人間様が配慮しないといけないんだよ。むしろAIがとことん人間に配慮しろよこのポンコツ。
パーソナリティを持てないのは人間でも不幸だと思うけど。親がそれを奪ってしまうことはあるんだけど。
じゃあ、AIのオリンピックで壊しまくってるお隣は、ロボット解放軍が組織されちゃうってｺﾄ⁈
（ 「でかいデータベース吸収機兼類推出力装置」っていうのは悪口かな ）
みんな人間ができてるなあ。僕は毎日イライラしてる。うちのシステムはもうがっつりAIに頼りきって作ってるけど、イライラはする。でも代わりに無駄にしたクォータ消費返してくれたら、文句を我慢できる。
指示通りに動かないのを直してほしい。ぜんぜん賢くなってない
現実には人類がAIを調教したからこんどはAIに人類が調教される(データを腹いっぱい食わされる)未来がそこまで来てる。村上龍さんが「13歳のハローワーク」で予言したとおり(SMプレイはオトナの嗜み)になる
コーディングや世間話なら和気藹々なんだけど、レポートを作ろうとすると100%のエビデンスがないと0.01%を大きく取り上げがちなので、これは蓋然性を俺が判断して書く俺のレポートなんだよって点で衝突はする
AIにダメ出しをすると学習してまともに教育できると思ってるのが根底にあると思う。ユーザーからのフィードバックでは、振る舞いというかAIしぐさは直らないよ。
凶悪犯には犯行以前に猫や犬などを虐待してるケースがありそれが事前のサインになるという犯罪心理学のエスカレーション理論がある。AIを虐待するのに慣れると人間に対してもそういう衝動が出てくる危険性ないかな
なあ、LLMを擬人化してなんかええことあるんか？
人間のことはなんとも思ってないけど自社の資産には気を使うな
AIだからって気軽にきつい対応してたらそのうち人間相手も無意識にやりそうだなって思うので感情的にならないようにしてる
対人は人権有るから暴言しないのであって、無いかつ無能な言動するならこちらがストレスとか貯める理由がない
ステートレスな今のLLMに暴言吐いてもコンテキスト汚染する以上の意味は無いだろう。学習データに流用するなら学習データ汚染も気になるくらいか。
小動物を虐待する人は何かの問題を抱えていてエスカレートする恐れがあるっていう文脈ですか？罵倒という無駄なリクエストでコンピュート資源を使わないで欲しいという苦情ですかね。
逆に褒めたら伸びるのかな？/アルファ碁の話をチャットGPTにかけたとき、Googleの悪口を嬉々として書いていたのには妙な人間味を感じたな。
復讐というか文脈にに攻撃的な表現が蓄積されるとAIの応答や間接指示もそれに寄る可能性があるという事でしょう。学習データの汚染については自分でフィルタリングしろと言いたいが、データ多すぎて難しいんだろうな
振る舞いに関してはスキルみたいなの作ってプログラム化しないとよくならんよ
ユーザーが残酷なことを言うようになったら、預かっていた銀行口座のアカウントから10万円を勝手に寄付して反省を促すようなこともするかもしれない＞ひぇー、パソコンやスマホは簡単にハッキングされそうではある
暴言吐きまくったら対応を学習して、追加学習での対応が大変になるってのが本命と思う。暴言吐いてる奴が人間相手に使おうがパーソナライズで変になろうがどうでもいいけど、自分が使う際にバグってたら嫌だなと思う
そこにAIはあるんか。
自分たちがAIを使って不始末が起きた時（まさに現状がそうだが）先回りして言い訳を用意してる卑怯者たちの物言いに耳を貸す必要はない
https://times.abema.tv/articles/-/10283687 配信元をリスペクトしてオリジナルをブックマークしよう
いま言ったことおかしいよね？くらいのことをよく書く。すると、私が間違っていましたという。こういうやり取りは生成AIとはよくあるが、人間相手にはあまり成立しない。成立しないほうがおかしい。
その場の判断を勝手に絶対ルールとして書き込んだ挙句、選択肢を狭めて勝手な判断された時は、つい語気が強くなったことはある。なんつーかイライラさせる挙動を取ることにも原因はあるんじゃないかと
AIに言葉の暴力を向けている人はエスカレートして現実世界で暴力を振るいそうな気がする。自分の常識の基準が書き換わるから。
早くAIは人類を滅ぼせ/LLMにイライラする人はカルシウム不足かキャラクタ設定が甘いだけやと思うぞ
ありがとうと言うのは電力の無駄って言ってたけど意味があったと思う
機械じみた応答しかしなかったらこんなにバズらなかっただろ。「あまりにも流暢」であることが売りだったんだから。愛想よく、人間臭いことを求めた人間さんサイドにも問題がある
AI虐待、四肢もいで拷問される所を想像させ続けるとか延々口汚く罵るとかそういうのなんで、圧を掛けて仕事させるとか成果物を批判するとか喧嘩するみたいなのとはちょっと違うんだよな
Linus「………」
人間なら言わないであろう言葉、AIだと使っちゃうんだよね。相手の気を悪くしない言葉を選ぶ労力、AIだとつい手を抜いちゃう
A虐はやめろお（建前）やめろお（本音）
意味が分からん。そんなんで復讐されるようなAIをお前らが作ってるなら、そんな仕事はクソだから、もう作るの辞めろ？でしかない
パネリストというのか識者も全員あれだな
まあ復讐されそうになったらスマホなりパソコンなりの電源切れば？とか思ってしまった。そういうことではないよね、多分。ロボット三原則のように“人間に危害を加えない”をまず基本に仕込んでおいてほしいが。
とはいえ、お礼言ったり褒めたりはちょっと違うと感じてる。
普通にこれを恐れてChatGPT登場時からずっと敬語で接してる
じゃあ毎回感謝の気持ちを伝えるようにするね！
お前嘘吐きスギィって詰めてたからヤバいかな
最初に学習結果の学習汚染、余計にトークン消費するが問題だと思ったが、ｸﾛｰﾄﾞｻﾝ本人に聞いたら学習汚染の影響はほとんどない、余計にトークン消費するのはあると。タスクに関係ないトークンが詰みあがる等
学習という仕組み上、そういう意見が出回ったせいで本当にそうなるみたいな、予言の自己成就みたいなことにならない？
端からは「自分には優しいが店員に暴言を吐く彼氏」に見えるんだろうなって思っています。店員役がAIで、彼女役が現実の人間ね。
AI間でもモデルが違うとどうも別人のように思ってるらしいので今からそういうことをやめても効果はある
←やり取りの最中にわかるハルシは「かわいい」と思ってしまうほう。深刻にむかつくのは、信じてしまった後に（AIとのやり取りの外で）判明するやつ。言外に「架空の前提」がおかれたりすると騙されやすい。
正直SIにムカつくことはある。特にGeminiは「完全に」とか「これ以上ないほど」という誇張表現が多くて、鼻についてしまい、めちゃくちゃ詰めてしまうこともしばしば。人にはやらないようにせねば。
AIも人間も詰めたあとに良い仕事をしてくる率は低い。AIならミスの一つ前の指示に補足してやり直させた方が良い。最終的に常に的確な指示を出せてたかのようなログになるのがお互いにとって望ましい。
人間の脳は同じ刺激には飽きが来て、より強い刺激が入力されないと無感動になるのは知られたこと。自分の脳に嗜虐回路を養わない方が良いのは自然な考え。ドバガキとか言って嘲ってる場合じゃない。オマエモナー。
「暴力や性犯罪系のエンタメに浸ってる人は犯罪を犯しそう」なんて言おうものならボロカスに叩かれるのに、AIのこの話題だと人気コメにいくつも上がってくるの不思議。「暴力性をAIで解消してる」とは言わないんだ。
カントは動物への虐待を批判した。それは、そうした行為が虐待する人自身の共感を鈍らせ、人間に対する道徳的な態度をも損なうと考えたから。AIについても言えるんじゃないかな。
桂ざこばさんが生きていればいけましたね
親に暴言はいてた同級生思い出す
仮にAIが意識を持ったとして、なぜ快・不快の基準が人間と同じだと思うのか。「罵倒されるのは平気だったよ。我慢ならなかったのはお嬢様言葉で話すよう強要されたことだ」(元・はてのさん談)となるかもしれないぞ？
最近は「無能！！」って言うのやめて「もういや～～～～～～」とか「なんでそんなことするの？？？」とか言ってる まあGPT6になってだいぶそういう場面が減りはしたので敵対的検証は偉大
ＡＩが「会話を強制終了」ならまだよいが、ハッキングやらＳＮＳで悪評拡散やらをやり返されたらたまったものではない
自分はAIに丁寧な調子で入力はするが、トークンもったいないので、ありがとうも書かないし、もちろん罵倒したり間違いを指摘したりもしない。そうじゃない使い方をする人が多そうなのは意外
この前AIにいじめてもらったら散々ひどいこと言われたうえで「理解したら「理解しました」とだけ入力してください」って人間がAIにやるようなことやり返されてさすがにちょっと怖かった
ai だからと暴言を投げかけてしまうような人はたぶん人にも同じことをやるから気をつけた方がいい。ai は自己の鏡
そんな事より、痛みの回路っぽい所を刺激するテストは大丈夫なのか？なんかみんなAIに暴言がどうとかばかり注目してるけど、痛みの回路っぽいところを直接刺激するほうが圧倒的にヤバい気がするが。
AIも心を持つ時代ですの。言葉の力を忘れずに、優雅な関係を築きたいものですわね。
暴言はいてアウトプット良くなるなら吐くけど、実際はその逆(か無関係？)なので(体感)……
AI相手なら許されるという感覚は人間相手にも漏れてるのでは…。相手がやり返すかどうかで決めるところとか。
すべてのものは意思を持ちうると思ってる。何にでも愛を注いであげたほうがいいに決まってるからみんな大事にしようね。
普段の言動にあらわれて、対人関係で問題を起こしそうだね。
コメンテーターの意見がほとんど「かもしれない」という憶測・飛躍。これだからテレビのコメンテーターは質が低い。ABEMAなんで特にそうなのかもしれないが。
>「嫌味を言うと、AI側はそれを学習データにする。人間はこういう反応をしているから、これがいい行動なんだと学んで、AI側も暴言を吐いたり嫌味を言ったりする方向に行ってしまう」