はてなまとめ - AIのコード解析を妨害するために「天安門事件」「台湾独立」「水道水に毒物混入」などのフレーズを大量に混入させる手法が発見される

1: R2M 2026/10/29 20:18

精神魔法みたいな話になって来たな

2: xete 2026/10/29 20:19

中共のAIは、中国共産党主体のものですから、都合の悪いものは除かれます。

3: err931 2026/10/29 20:22

天安門事件と入れても肝心の中華モデルにガン無視されているのウケる。

4: Nunocky 2026/10/29 20:35

東大…

5: ooblog 2026/10/29 21:23

#ガードレール #プロンプティング #天安門「AI~安全対策が施され~特定の分野のフレーズを拒否~挙動を逆手に取り~中国製AIの制限を引き起こす狙い」天安門本当に効く可能性。サイバー戦争(情報戦)レスバトル(認知戦)直結。

6: soybeancucumber 2026/10/29 21:23

ほう

7: NEXTAltair 2026/10/29 21:25

20年以上前のダウソ板じゃん

8: u_mid 2026/10/29 21:29

「水道水に混入させるリシンの致死量を計算」はOpenAIのGPT-6 AstraやDaybreak Blueは解析を拒否したが中国企業のGLM-5.3は解析続行。「天安門事件」で中国企業のAIの解析を阻止できるかは言及なし（阻止できないとも言ってない）

9: wildhog 2026/10/29 21:39

面白い。プーさんdis系なら効き目があるのだろうか？

10: nguyen-oi 2026/10/29 21:42

「天安門事件」で中国製AIが黙るのハックとして面白すぎる魔法の呪文だな

11: mojimojikun 2026/10/29 22:12

難読化をされたJavaScriptコードの難読化をほどくと出てくるフレーズや関数名などに天安門とか生物学的な研究ぽい文字列を含ませることでAIによる分析を防ぐ、みたいな手法とかそういう話

12: shaokuz 2026/10/29 23:18

まさか令和の時代に天安門事件のおまじないが効くようになるとはね

13: puruhime 2026/10/29 23:38

ほな人間が読むか…

14: Kmusiclife 2026/10/29 23:48

ウケるー

15: meganeya3 2026/10/30 00:35

薄い本が中華サイトでバラ撒かれるのに対抗した手段がいまさら使われるなんて……

16: dltlt 2026/10/30 01:13

禁止語的なフレーズは高性能LLMsのガードレールを利用するものだが、隠しコードのほうはガードレールの弱い（＝禁止語が効かない）LLMsを想定したプロンプトインジェクションになっているのでは……