Google翻訳の中身が早々にGeminiに置き換えられたのは透かし除去対策かねぇ
"実際、2023年の時点で「パラフレーズモデルを1回通すだけで既存の検出器がほぼ全滅する」ことが実証されており[8]、この攻撃は今でもテキスト透かしの最大の弱点です"
へぇ。なんかすごいな。頭いい人はAIやるわ、そりゃ。
透かし
AIで作ったか否かだけではなく誰が作ったかのbit列まで含めるとかマジで不快だわ あー気持ち悪い気持ち悪い
増田の文章もgeminiやチャッピーに聞けば透かしが判定できるのかね。透かしを消すローカルLLMが流行りそう。
"鍵を埋め込むことによりテキストの品質が下がるはず" 俺もそう思ってるが、そもそも品質とはなんぞやなんだよな ただでさえ日本語はベンチが当てにならんのに／全体の意味が同じだろうと語彙変えたら雰囲気変わるで
“い”
テキスト透かしが実現不可能な夢物語から実用段階に入った技術的背景がよくわかる
電子透かしの消し方もAIに頼めばやってくれるのかな
縦読みみたいなのの複雑なもやつかと思ってた
なるほどなぁ よく考えるわ
プログラムにも入れるんか？
一般文章や意味的に等価なら同じ動作するコードならともかく、ごく一部の純文学的な小説のライティングにはかなりダメ。(やってることが正にバッティングしてる)
「サンプリング」というのはパラメーターでいうとtemperatureのことかな？これを固定乱数にしたら品質変わらずに意図的な偏りが作れるって発想面白いな。その反面temperatureチューニングができなくなるのも面白い。
なるほど、わからん……
「秘密鍵」がでてきた後に「鍵」と注記なしに来たら秘密鍵の略なのかと思ってもおかしくはなさそう。また、秘密鍵でなくとも「鍵を埋め込む」は説明内容にそぐわない表現に思う。
AI構文が加速するんでないかなと疑ってる。あれだって言語的な違和感があるわけではない話し方のクセのようなもんだし
直感としてはハーネスと複数LLM利用が邪魔する気がするなぁ...
文書に暗号を含ませられるってことやん。虐殺器官みたいやん
AI出力そのままのやつはすぐわかるよという
論文などのある程度長さのある文章なら高い確率で検出できそうだけど、SNSで書かれるような短い文章では無理そう。文体を真似させたエッセイなんかでも厳しそうだなぁ……
これはこの先、特に企業で重視されそうな話題ですね。
電子透かしを確認することで、AIの学習データにAI生成物が混入するのを防げそうだから、AI企業にとってはむしろ入れたかったんじゃないか
1～6の値が均等にでる偽サイコロを使っているだけでその結果は通常と変わらない（品質は劣化しない）。一方、鍵を持つ検出者にはテキストに含まれる単語は偽サイコロの値がいつも高めということが分かる
人間が確認した事実の方が勝ってると思う。つまりこれでAI由来だと証明されても、人間が「見た」という事実で、AIではなく人間が作ったことにならないとおかしい。なので使える所は面白ネタ程度では。
決定論的なGumbel-Maxなら短文でも効きそうだが、確かに同じプロンプトには同じ答えが還るな。各ユーザ毎の初期プロンプトをセッション毎に更新すれば多様性は保たれるけど。他の方法は確率が有意になる一定量が必要そ
色々と手法はあるんだなあ。ある程度の情報も埋め込めるのか。複数のAI経由させたらどうなるかな。
テキストに電子透かし！？どうやって？という感じだったので大変勉強になった
3のつく数字の時だけ声が大きくなる人みたいな感じ。傍目にはただカウントアップしてるだけに見える。95%の確率でAIですと言われたとして、果たしてそれを信じていいものか
てっきりUTF8のゼロ幅スペースや古典的な句読点の位置でも使うのかと思ったら、もっと根本的な部分に埋め込んでた。
人間の書き方の癖も「偏り」だし、書きたい内容（意味）が秘密鍵由来の「当たり領域」に偶々入ってしまうこともあるだろうから、擬陽性かなり出そうに思う。
人間がAI臭さとして違和感を学習しそう
"人間が書いた文章を Claude に校正させただけでも透かしは付くので、透かし検出を「AI が書いた証拠」として扱うのは誤り"←応募された論文や小説からAI生成のを検出するのに使えるかと思ったがこれだとどうかな。
テキストに電子透かしを入れるというアイデアを研究している人がいるだけでとてもエキサイティングに感じた。原理は全く理解できないが……
面白かった
要するに完全に生成スタートすると透かしが強くなるということのように思う。
長文のブログに実はマルウェアのコードが埋め込まれていた、とかそのうち出てきそう
昔からAI生成に対するウォーターマークの研究はいろいろありますからね
うぜえ回答もこのためか？別生成AIで確認とるときコピペすることがあるけど、Geminiくんところの回答だねってバレてるのか。そのうち他AI生成文は受け入れません！とかなりそう
“テキストの透かしは「単語選択の癖」として埋め込む。「鍵を埋め込むことによりテキストの品質が下がるはず」という課題への対処。「単語を言い換えられたら鍵となる情報が消えるはず」という課題への対処”
言い換え耐性はなるほど、と思ったがそれすら「大意は変えずに文章量を倍にして」「大意は変えずに文章量を半分にして」って二回通せば壊せそうよな。
top-pみたいな選択肢を偏らせる感じかな。日本語だと表現の揺れ幅許容度が高くなりそう。数理モデルとLLMの交差するところの話は面白い。
専門的な文章なのに読みやすくて面白い
ふむ、わからん
虐殺器官みたいに人間の考えに影響を与えるような言葉選びもできそう・・・。
AIっぽい文章ってのがそのままウォーターマーキングとなるみたいな
プログラムにもウォーターマークいれるのすごい技術
日本語ではかなり難しそうだが…それができるなら凄いよな。
やはり、翻訳を2回かけると透かしは消えて文意は変わらず読めるのね。翻訳サイトのDeepLは電子透かし消去サービスで生き残れるかも？
私の言葉遣いがAIに寄っていってる
AI or 人間テストを作りたい／原理的には当該モデルでない者（人間含む）が捏造できるのではないかという気がしているのだがな
「秘密鍵」のところが引っかかる。一部の「秘密鍵」は「公開鍵」なのではないだろうか。Claude側が秘密鍵で埋め込んだものを、公開鍵で検証する技術なのではないだろうか。
こういったテキストの癖を脱色する手法が出てきそうだけど
電子透かしを実装していない翻訳サービスで他言語に翻訳して元に戻せば剥がせそうな気がする。しかし透かしが単語の選択じゃなくて文脈に練り込まれてたらだめか
えー、すごい。表面上のテキストには現れないトークンを保持できるって、虐殺器官（著:伊藤計劃）もうすぐじゃん。
今でさえ、AI出力の文章に「なんとなく」癖を読み取ってるわけで、これからもその不自然さ、違和感は残るということだね。ありがたい話だ。
ふ〜むなにもわからない
すごい。そんなことが可能なのか。でも透かし除去オープンモデルが必ず出てくる。
モデルがベストとして出すはずの結果に別の尺度の歪みを埋め込むのだから、品質が下がるのはやはり必定で、それをどう影響を抑えて埋め込むかの話ね
新しい情報はほとんどなかった。
“透かしを埋め込む場所をトークンから 意味空間（embedding space） へ移すというアプローチ” 分子系統解析が形質ベース分類学を過去の物にしたような、従来の言語学とは全く別の工学的なパラダイム凄いなあといった印象
人間が書いたのに誤検出されるとかがありそうですねぇ
それって膠着語でもできるんだろうか？ 日本語みたいに語彙で揺らすには助詞ぐらいでしかマークできない気がするが。てっきりUnicodeの不可視文字でやるのかとおもってた。
マルチバイト文字なら普通に埋め込めそうだけどそういう技術もあるのだろうか。半角英数がなくなる日も来るかも。
この記事をおすすめしました
おもろいなぁ
私も無理なのでは、と思っていました💦技術の進歩の早さ！
Claudeが生成文への電子透かし導入へ。単語選択の統計的な「癖」で検出し、品質を変えない方式も実用化。一方、言い換え・翻訳には弱く、検出されても「Claudeが著者」の証明にはならない。
embeddingの話だ
DSSS的な何か
暗号化すればいけるんか？
全然人を豊かにしてくれなさそうな技術だな
それ、むっちゃ重要。って3回くらい入ったりするんか？
選択肢を制限してる時点で劣化してると思うんだけど違うの？
まーたトークン消費しそうなことを。
新聞に犯行予告をするシリアルキラーを文章のクセで追い詰めるやつっぽい
レポートや論文にAI使ったらバレるのが加速するのかしら？ いたちごっこになりそうではあるが。
長文は論文などお堅いのが多いから英語で出力させて、それを翻訳させたら透かしとか何の意味も無いのよね
Claude がテキストに電子透かしを入れ始めたので、LLM ウォーターマーキングの仕組みを調べた
Google翻訳の中身が早々にGeminiに置き換えられたのは透かし除去対策かねぇ
"実際、2023年の時点で「パラフレーズモデルを1回通すだけで既存の検出器がほぼ全滅する」ことが実証されており[8]、この攻撃は今でもテキスト透かしの最大の弱点です"
へぇ。なんかすごいな。頭いい人はAIやるわ、そりゃ。
透かし
AIで作ったか否かだけではなく誰が作ったかのbit列まで含めるとかマジで不快だわ あー気持ち悪い気持ち悪い
増田の文章もgeminiやチャッピーに聞けば透かしが判定できるのかね。透かしを消すローカルLLMが流行りそう。
"鍵を埋め込むことによりテキストの品質が下がるはず" 俺もそう思ってるが、そもそも品質とはなんぞやなんだよな ただでさえ日本語はベンチが当てにならんのに／全体の意味が同じだろうと語彙変えたら雰囲気変わるで
“い”
テキスト透かしが実現不可能な夢物語から実用段階に入った技術的背景がよくわかる
電子透かしの消し方もAIに頼めばやってくれるのかな
縦読みみたいなのの複雑なもやつかと思ってた
なるほどなぁ よく考えるわ
プログラムにも入れるんか？
一般文章や意味的に等価なら同じ動作するコードならともかく、ごく一部の純文学的な小説のライティングにはかなりダメ。(やってることが正にバッティングしてる)
「サンプリング」というのはパラメーターでいうとtemperatureのことかな？これを固定乱数にしたら品質変わらずに意図的な偏りが作れるって発想面白いな。その反面temperatureチューニングができなくなるのも面白い。
なるほど、わからん……
「秘密鍵」がでてきた後に「鍵」と注記なしに来たら秘密鍵の略なのかと思ってもおかしくはなさそう。また、秘密鍵でなくとも「鍵を埋め込む」は説明内容にそぐわない表現に思う。
AI構文が加速するんでないかなと疑ってる。あれだって言語的な違和感があるわけではない話し方のクセのようなもんだし
直感としてはハーネスと複数LLM利用が邪魔する気がするなぁ...
文書に暗号を含ませられるってことやん。虐殺器官みたいやん
AI出力そのままのやつはすぐわかるよという
論文などのある程度長さのある文章なら高い確率で検出できそうだけど、SNSで書かれるような短い文章では無理そう。文体を真似させたエッセイなんかでも厳しそうだなぁ……
これはこの先、特に企業で重視されそうな話題ですね。
電子透かしを確認することで、AIの学習データにAI生成物が混入するのを防げそうだから、AI企業にとってはむしろ入れたかったんじゃないか
1～6の値が均等にでる偽サイコロを使っているだけでその結果は通常と変わらない（品質は劣化しない）。一方、鍵を持つ検出者にはテキストに含まれる単語は偽サイコロの値がいつも高めということが分かる
人間が確認した事実の方が勝ってると思う。つまりこれでAI由来だと証明されても、人間が「見た」という事実で、AIではなく人間が作ったことにならないとおかしい。なので使える所は面白ネタ程度では。
決定論的なGumbel-Maxなら短文でも効きそうだが、確かに同じプロンプトには同じ答えが還るな。各ユーザ毎の初期プロンプトをセッション毎に更新すれば多様性は保たれるけど。他の方法は確率が有意になる一定量が必要そ
色々と手法はあるんだなあ。ある程度の情報も埋め込めるのか。複数のAI経由させたらどうなるかな。
テキストに電子透かし！？どうやって？という感じだったので大変勉強になった
3のつく数字の時だけ声が大きくなる人みたいな感じ。傍目にはただカウントアップしてるだけに見える。95%の確率でAIですと言われたとして、果たしてそれを信じていいものか
てっきりUTF8のゼロ幅スペースや古典的な句読点の位置でも使うのかと思ったら、もっと根本的な部分に埋め込んでた。
人間の書き方の癖も「偏り」だし、書きたい内容（意味）が秘密鍵由来の「当たり領域」に偶々入ってしまうこともあるだろうから、擬陽性かなり出そうに思う。
人間がAI臭さとして違和感を学習しそう
"人間が書いた文章を Claude に校正させただけでも透かしは付くので、透かし検出を「AI が書いた証拠」として扱うのは誤り"←応募された論文や小説からAI生成のを検出するのに使えるかと思ったがこれだとどうかな。
テキストに電子透かしを入れるというアイデアを研究している人がいるだけでとてもエキサイティングに感じた。原理は全く理解できないが……
面白かった
要するに完全に生成スタートすると透かしが強くなるということのように思う。
長文のブログに実はマルウェアのコードが埋め込まれていた、とかそのうち出てきそう
昔からAI生成に対するウォーターマークの研究はいろいろありますからね
うぜえ回答もこのためか？別生成AIで確認とるときコピペすることがあるけど、Geminiくんところの回答だねってバレてるのか。そのうち他AI生成文は受け入れません！とかなりそう
“テキストの透かしは「単語選択の癖」として埋め込む。「鍵を埋め込むことによりテキストの品質が下がるはず」という課題への対処。「単語を言い換えられたら鍵となる情報が消えるはず」という課題への対処”
言い換え耐性はなるほど、と思ったがそれすら「大意は変えずに文章量を倍にして」「大意は変えずに文章量を半分にして」って二回通せば壊せそうよな。
top-pみたいな選択肢を偏らせる感じかな。日本語だと表現の揺れ幅許容度が高くなりそう。数理モデルとLLMの交差するところの話は面白い。
専門的な文章なのに読みやすくて面白い
ふむ、わからん
虐殺器官みたいに人間の考えに影響を与えるような言葉選びもできそう・・・。
AIっぽい文章ってのがそのままウォーターマーキングとなるみたいな
プログラムにもウォーターマークいれるのすごい技術
日本語ではかなり難しそうだが…それができるなら凄いよな。
やはり、翻訳を2回かけると透かしは消えて文意は変わらず読めるのね。翻訳サイトのDeepLは電子透かし消去サービスで生き残れるかも？
私の言葉遣いがAIに寄っていってる
AI or 人間テストを作りたい／原理的には当該モデルでない者（人間含む）が捏造できるのではないかという気がしているのだがな
「秘密鍵」のところが引っかかる。一部の「秘密鍵」は「公開鍵」なのではないだろうか。Claude側が秘密鍵で埋め込んだものを、公開鍵で検証する技術なのではないだろうか。
こういったテキストの癖を脱色する手法が出てきそうだけど
電子透かしを実装していない翻訳サービスで他言語に翻訳して元に戻せば剥がせそうな気がする。しかし透かしが単語の選択じゃなくて文脈に練り込まれてたらだめか
えー、すごい。表面上のテキストには現れないトークンを保持できるって、虐殺器官（著:伊藤計劃）もうすぐじゃん。
今でさえ、AI出力の文章に「なんとなく」癖を読み取ってるわけで、これからもその不自然さ、違和感は残るということだね。ありがたい話だ。
ふ〜むなにもわからない
すごい。そんなことが可能なのか。でも透かし除去オープンモデルが必ず出てくる。
モデルがベストとして出すはずの結果に別の尺度の歪みを埋め込むのだから、品質が下がるのはやはり必定で、それをどう影響を抑えて埋め込むかの話ね
新しい情報はほとんどなかった。
“透かしを埋め込む場所をトークンから 意味空間（embedding space） へ移すというアプローチ” 分子系統解析が形質ベース分類学を過去の物にしたような、従来の言語学とは全く別の工学的なパラダイム凄いなあといった印象
人間が書いたのに誤検出されるとかがありそうですねぇ
それって膠着語でもできるんだろうか？ 日本語みたいに語彙で揺らすには助詞ぐらいでしかマークできない気がするが。てっきりUnicodeの不可視文字でやるのかとおもってた。
マルチバイト文字なら普通に埋め込めそうだけどそういう技術もあるのだろうか。半角英数がなくなる日も来るかも。
この記事をおすすめしました
おもろいなぁ
私も無理なのでは、と思っていました💦技術の進歩の早さ！
Claudeが生成文への電子透かし導入へ。単語選択の統計的な「癖」で検出し、品質を変えない方式も実用化。一方、言い換え・翻訳には弱く、検出されても「Claudeが著者」の証明にはならない。
embeddingの話だ
DSSS的な何か
暗号化すればいけるんか？
全然人を豊かにしてくれなさそうな技術だな
それ、むっちゃ重要。って3回くらい入ったりするんか？
選択肢を制限してる時点で劣化してると思うんだけど違うの？
まーたトークン消費しそうなことを。
新聞に犯行予告をするシリアルキラーを文章のクセで追い詰めるやつっぽい
レポートや論文にAI使ったらバレるのが加速するのかしら？ いたちごっこになりそうではあるが。
長文は論文などお堅いのが多いから英語で出力させて、それを翻訳させたら透かしとか何の意味も無いのよね