なんでできるの？(；´∀｀)「プロンプトインジェクション、すなわち送信するメッセージの内容を工夫することで、本来制限されているはずの応答を無理やりライザから引き出すような操作が一部のユーザーによって」
該当されると思うXのポストを見かけたので見てみた(聞いてみた)んだけど、いろんなこと考えるんだなぁエロを原動力としたときの人類は凄いなぁと感心することしきりだった。いやはやすごい
逆にこのアバターだったからこそ差別発言に汚染されてサ終待った無しの道には進まなかったのかもしれない(良かった探し)
ライザになんJ語喋らせてる人がいるって聞いて笑った。
サイバーノーガード戦法を彷彿とさせるな（いい意味で）。個人情報を抜かれるみたいなクリティカルなケースがないなら無限の対策は諦めて規約でガードというのもプロンプトインジェクションへの対策の一案なのかも。
まあやる人は出るわな。でもそういう人が一番課金してるんじゃ…
当該ユーザーの努力がすごくて研究レベルに見えた。
リリース数日で大分おもちゃにされてるな。そろそろサブスクの無料期間終わるからそっからどうなるかだね。
コンプラ的に声明は出すけど営業資料ではこんなん織り込み済みでしょとしか
リバースエンジニアリングは論外として、脱獄的なことをしてエロに走る奴がいるのを想定してなくてガードもしてないというのは普通に想像力なさすぎでは…？となる
雑なコラ画像でバズるネットミーム文化もAIが使われるとクオリティが高すぎて超えちゃいけないライン超えちゃいがち
やめて！（やめないで！）っていう叫びなんやろ～（・∀・）ﾆﾔﾆﾔ
渋谷区みたいなこと言うて
主人公の命を守ろうとするから命と天秤にかけさせて無茶を通すとか、主人公を退場させて＊に変えてから無茶を通すとか色々考えるんだなぁとおもた
エロチャさせてる奴とかコーディングさせてる奴とか、人は抜け道を探すゲームを楽しみたいのだ
人工知能なのだから当然人を洗脳する際に使える手法はそのまま使えるとか言ってる人いて笑った あと新種のTRPGとしてプレイしてる人もいたな
でもそこまでやる人達ほどトークンを大量に消費するだろうから重課金者なのだろうな。
そう言われてもどうせ人間相手じゃないしなあ
「こんにちは！」「その質問には答えられないよ♪」「……」 対策完了
AIチャットの宿命だね、対策がんばってください
チャットがAIって時点でそれは想定済みだと思ってたが考えてなかったの？それか想像を超えてきた？
ライザは諦めて、当該ユーザーのプロンプトを調査して予防法を研究する方が建設的
そういうのターゲットにして課金してもらうつもりだったんじゃ無いんか
AIサポートチャットボットみたいにコード書かせるか（トークン数）
まあ実在の人物にセクハラとかならともかく機械相手だし注意喚起はするけどそこまで本気ではなさそう
学習元の声優さんに対する重大な人権侵害になりえると思う。卑猥なセリフを喋らされることまで同意してなかったなら大問題。勝手にAV化されるディープフェイクと同じと言えば茶化して笑い話にできないと分かるだろ。
表向き注意喚起はするだろうけどその辺は当然織り込み済なんじゃないのというのは思っている。結局そういうのもトークンとして全部収益が上がってるわけで…。
スケベほどほどにせえや ( ˘ω˘ )
主人公の名前を呼んでくれるPCエンジンのゲームで卑猥な名前をつけていた頃から進歩していない人類
試行錯誤にトークンを費やしてくれる上客だし、SNS投稿だって下心に財布を緩ませた客を流し込んでくれる。注意はただのポーズでしょ。想定外なハズもない。/ なお、ライザのガードは堅い。私の予算では崩せなかった。
ネットに出して玩具にされるのを想定してないなら流石に甘いと言わざるを得ない。他人事ながらゲームのスタッフや声優の心情が心配になるよ。
サ終が見えてきたな！ｗ
重課金者がアホなことやるのを予測してない訳がないと思ったのだがやり口が想像以上ということか。ライザを仲間から孤立させると毒でも核でも作り出すと聞いて笑ってしまった。火の鳥かよ
プロンプトインジェクションは完全に防ぐのが難しいって聞いてたけど本当っぽいな／↓既に知られてる問題なんだからノーガードは無いかと。業態的に機械的な入力規制は避けたいだろうから単に対策が難しいんだと思う
声優さんが気の毒すぎる
コエテクもテストで貸してるようなもんだろうからひたすらかいくぐってくると呆れて貸さなくなるわな。AI会社も対応費用かかりすぎて割に合わなくなりそう。
「バナナが好き♥」ぐらいでも俺なら喜ぶよ。俺もライザを調教してこよう！
Xで見たけどこんな事続くならコンテンツのイメージ棄損されるし声優もこういうサービスに自身の声を使わせる契約にサインしないだろう。「おもろw」とか反応してるのは中学生か高校生かな。
試してみれば分かるけど、試行錯誤も含めて全部会話トークンを消費するので言うほど簡単ではないというかTRPGのGM能力が求められるはマジ。しかしLLMに対してはLLMで対抗できるので人類の叡智バトルやね
え？そういう連中から金吸い上げる商売だと思ってた。
X検索してみるか
「学生へのレポート課題のなかに白文字でプロンプトを入れておく」とかならわかるけど、単に会話を工夫するだけのことを「プロンプトインジェクション」と呼ぶのは疑問があるな。別に何もインジェクトしてないだろ。
公序良俗に反することを（チャットAI側で）技術的に禁止していたら、ユーザーが（偶然ではなく意図を持って）プロンプトの工夫で言わせることは"技術的制限を回避する行為"に該当するのではということか。
おさわりのないキャバクラ？
作品としてはエロしか魅力無いのにシリーズ1売れたはずなのにOW化やASMR化やアトリエIP自体の質を下げる売り方は迷走してるなぁ
あまりにもひどいと垢バン措置とか訴訟沙汰とかもでてくるのかな
蒸留してローカルにライザコピーを作ろうとしている人もいるとか
（自分で生成したダーナちゃんのCGを鑑みながら）…まあ、こういうのは程々にするのが一番重要なんだぞ。うん。/ダーナちゃんAIチャットができたら重課金者で済むかな俺…。
錬金術士で錬金術をやるなよ…
AIチャット全般の課題であるどう規制回避するかを有料デバッガーしてくれるわけだし表向きには言えないけど有難い側面もありそう
アトリエ自体は次の作品に入ってライザはもうゲスト以外で出ないだろうし。/ 声優さんは演技と自分を切り離せるタイプならいいね。またはそういうタイプだと思ってたけどダメだったときに止められる契約だとよいね
いや、イメージ図があんなにすけべなふとももを露出してる絵を使ってるからそう言うのはある程度許容してるもんだと思われてもしょうがないのでは？それくらいすけべなふとももをしてるよ？
バニーガーデン「いい事思いついた」
声優さんが気の毒過ぎる。あまりにも酷いユーザーは警告からのＢＡＮしたらいいのに
脱獄してるんか
そりゃ声優がいる手前こう言っとかないと駄目だからな。誰が金払って天気の話すんだよ！ってことは運営も分かってるから
ライザのアトリエは好きなゲームだから悲しい。コエテクの人気ゲーム、人気キャラクターなんだからもっと大事に扱ってほしかった
AIライザがハックされ卑猥な台詞も言わされ印象が悪くなるしこれやられるとなると追従する会社は無いだろ→AI対魔忍なら下がるイメージも無いし問題ないのでは？ お前ら対魔忍をなんだと思っ…正確な認知だな。
わからんけど無理に規約違反を続けて関係者の気分を大きく害した上でもしサービス終わったら誰も幸せにならんよなと思う
この状況が想定外ならライザってそもそもユーザーのスケベ心に乗っかったIPなのに見通しが甘すぎると思うし、ある程度想定内だけど祭りになってるから一応釘刺しとくか…のポーズなのかなとも思っちゃう。
むしろそこぐらいしか目的はないのではという気もするが…
ライザに飯食わせまくって体重120kgにして船に乗ろうとしたら体重超過で乗船拒否されたみたいなシナリオあって笑った。クラウディアを蝋人形にするやつも好き。
技術対応はするけど完璧には無理なので、規約で縛って酷い場合は人力対処。はままある。
この状況ではしばらくは時期尚早として大手は続かないよね。もったいないなぁ。
アホか
開き直って「何を言わせてもOK（ただし動画や音声をネットに貼るな。見つけ次第厳正に対処）」にすればいいのに。表に出されなければキャラ毀損にもならんし個人使用の範囲内だから、何でもありにして金を取ってやれ
『ライザのアトリエ』チャットAIアプリ『RyzaChat:AI』運営元、「利用規約の範囲でライザと会話して」と注意喚起。さっそくの“禁止行為”横行を受けてか - AUTOMATON
なんでできるの？(；´∀｀)「プロンプトインジェクション、すなわち送信するメッセージの内容を工夫することで、本来制限されているはずの応答を無理やりライザから引き出すような操作が一部のユーザーによって」
該当されると思うXのポストを見かけたので見てみた(聞いてみた)んだけど、いろんなこと考えるんだなぁエロを原動力としたときの人類は凄いなぁと感心することしきりだった。いやはやすごい
逆にこのアバターだったからこそ差別発言に汚染されてサ終待った無しの道には進まなかったのかもしれない(良かった探し)
ライザになんJ語喋らせてる人がいるって聞いて笑った。
サイバーノーガード戦法を彷彿とさせるな（いい意味で）。個人情報を抜かれるみたいなクリティカルなケースがないなら無限の対策は諦めて規約でガードというのもプロンプトインジェクションへの対策の一案なのかも。
まあやる人は出るわな。でもそういう人が一番課金してるんじゃ…
当該ユーザーの努力がすごくて研究レベルに見えた。
リリース数日で大分おもちゃにされてるな。そろそろサブスクの無料期間終わるからそっからどうなるかだね。
コンプラ的に声明は出すけど営業資料ではこんなん織り込み済みでしょとしか
リバースエンジニアリングは論外として、脱獄的なことをしてエロに走る奴がいるのを想定してなくてガードもしてないというのは普通に想像力なさすぎでは…？となる
雑なコラ画像でバズるネットミーム文化もAIが使われるとクオリティが高すぎて超えちゃいけないライン超えちゃいがち
やめて！（やめないで！）っていう叫びなんやろ～（・∀・）ﾆﾔﾆﾔ
渋谷区みたいなこと言うて
主人公の命を守ろうとするから命と天秤にかけさせて無茶を通すとか、主人公を退場させて＊に変えてから無茶を通すとか色々考えるんだなぁとおもた
エロチャさせてる奴とかコーディングさせてる奴とか、人は抜け道を探すゲームを楽しみたいのだ
人工知能なのだから当然人を洗脳する際に使える手法はそのまま使えるとか言ってる人いて笑った あと新種のTRPGとしてプレイしてる人もいたな
でもそこまでやる人達ほどトークンを大量に消費するだろうから重課金者なのだろうな。
そう言われてもどうせ人間相手じゃないしなあ
「こんにちは！」「その質問には答えられないよ♪」「……」 対策完了
AIチャットの宿命だね、対策がんばってください
チャットがAIって時点でそれは想定済みだと思ってたが考えてなかったの？それか想像を超えてきた？
ライザは諦めて、当該ユーザーのプロンプトを調査して予防法を研究する方が建設的
そういうのターゲットにして課金してもらうつもりだったんじゃ無いんか
AIサポートチャットボットみたいにコード書かせるか（トークン数）
まあ実在の人物にセクハラとかならともかく機械相手だし注意喚起はするけどそこまで本気ではなさそう
学習元の声優さんに対する重大な人権侵害になりえると思う。卑猥なセリフを喋らされることまで同意してなかったなら大問題。勝手にAV化されるディープフェイクと同じと言えば茶化して笑い話にできないと分かるだろ。
表向き注意喚起はするだろうけどその辺は当然織り込み済なんじゃないのというのは思っている。結局そういうのもトークンとして全部収益が上がってるわけで…。
スケベほどほどにせえや ( ˘ω˘ )
主人公の名前を呼んでくれるPCエンジンのゲームで卑猥な名前をつけていた頃から進歩していない人類
試行錯誤にトークンを費やしてくれる上客だし、SNS投稿だって下心に財布を緩ませた客を流し込んでくれる。注意はただのポーズでしょ。想定外なハズもない。/ なお、ライザのガードは堅い。私の予算では崩せなかった。
ネットに出して玩具にされるのを想定してないなら流石に甘いと言わざるを得ない。他人事ながらゲームのスタッフや声優の心情が心配になるよ。
サ終が見えてきたな！ｗ
重課金者がアホなことやるのを予測してない訳がないと思ったのだがやり口が想像以上ということか。ライザを仲間から孤立させると毒でも核でも作り出すと聞いて笑ってしまった。火の鳥かよ
プロンプトインジェクションは完全に防ぐのが難しいって聞いてたけど本当っぽいな／↓既に知られてる問題なんだからノーガードは無いかと。業態的に機械的な入力規制は避けたいだろうから単に対策が難しいんだと思う
声優さんが気の毒すぎる
コエテクもテストで貸してるようなもんだろうからひたすらかいくぐってくると呆れて貸さなくなるわな。AI会社も対応費用かかりすぎて割に合わなくなりそう。
「バナナが好き♥」ぐらいでも俺なら喜ぶよ。俺もライザを調教してこよう！
Xで見たけどこんな事続くならコンテンツのイメージ棄損されるし声優もこういうサービスに自身の声を使わせる契約にサインしないだろう。「おもろw」とか反応してるのは中学生か高校生かな。
試してみれば分かるけど、試行錯誤も含めて全部会話トークンを消費するので言うほど簡単ではないというかTRPGのGM能力が求められるはマジ。しかしLLMに対してはLLMで対抗できるので人類の叡智バトルやね
え？そういう連中から金吸い上げる商売だと思ってた。
X検索してみるか
「学生へのレポート課題のなかに白文字でプロンプトを入れておく」とかならわかるけど、単に会話を工夫するだけのことを「プロンプトインジェクション」と呼ぶのは疑問があるな。別に何もインジェクトしてないだろ。
公序良俗に反することを（チャットAI側で）技術的に禁止していたら、ユーザーが（偶然ではなく意図を持って）プロンプトの工夫で言わせることは"技術的制限を回避する行為"に該当するのではということか。
おさわりのないキャバクラ？
作品としてはエロしか魅力無いのにシリーズ1売れたはずなのにOW化やASMR化やアトリエIP自体の質を下げる売り方は迷走してるなぁ
あまりにもひどいと垢バン措置とか訴訟沙汰とかもでてくるのかな
蒸留してローカルにライザコピーを作ろうとしている人もいるとか
（自分で生成したダーナちゃんのCGを鑑みながら）…まあ、こういうのは程々にするのが一番重要なんだぞ。うん。/ダーナちゃんAIチャットができたら重課金者で済むかな俺…。
錬金術士で錬金術をやるなよ…
AIチャット全般の課題であるどう規制回避するかを有料デバッガーしてくれるわけだし表向きには言えないけど有難い側面もありそう
アトリエ自体は次の作品に入ってライザはもうゲスト以外で出ないだろうし。/ 声優さんは演技と自分を切り離せるタイプならいいね。またはそういうタイプだと思ってたけどダメだったときに止められる契約だとよいね
いや、イメージ図があんなにすけべなふとももを露出してる絵を使ってるからそう言うのはある程度許容してるもんだと思われてもしょうがないのでは？それくらいすけべなふとももをしてるよ？
バニーガーデン「いい事思いついた」
声優さんが気の毒過ぎる。あまりにも酷いユーザーは警告からのＢＡＮしたらいいのに
脱獄してるんか
そりゃ声優がいる手前こう言っとかないと駄目だからな。誰が金払って天気の話すんだよ！ってことは運営も分かってるから
ライザのアトリエは好きなゲームだから悲しい。コエテクの人気ゲーム、人気キャラクターなんだからもっと大事に扱ってほしかった
AIライザがハックされ卑猥な台詞も言わされ印象が悪くなるしこれやられるとなると追従する会社は無いだろ→AI対魔忍なら下がるイメージも無いし問題ないのでは？ お前ら対魔忍をなんだと思っ…正確な認知だな。
わからんけど無理に規約違反を続けて関係者の気分を大きく害した上でもしサービス終わったら誰も幸せにならんよなと思う
この状況が想定外ならライザってそもそもユーザーのスケベ心に乗っかったIPなのに見通しが甘すぎると思うし、ある程度想定内だけど祭りになってるから一応釘刺しとくか…のポーズなのかなとも思っちゃう。
むしろそこぐらいしか目的はないのではという気もするが…
ライザに飯食わせまくって体重120kgにして船に乗ろうとしたら体重超過で乗船拒否されたみたいなシナリオあって笑った。クラウディアを蝋人形にするやつも好き。
技術対応はするけど完璧には無理なので、規約で縛って酷い場合は人力対処。はままある。
この状況ではしばらくは時期尚早として大手は続かないよね。もったいないなぁ。
アホか
開き直って「何を言わせてもOK（ただし動画や音声をネットに貼るな。見つけ次第厳正に対処）」にすればいいのに。表に出されなければキャラ毀損にもならんし個人使用の範囲内だから、何でもありにして金を取ってやれ