世の中

Claudeを日記として使用した女性がAnthropicに内容を通報されて逮捕される

1: gfx 2026/10/06 12:29

Geminiほぼ使わないけど、いかにもGeminiっぽくてワロタ。無料枠ではなるべくリソースを使わないように調整されているのかなと推測。

2: Yagokoro 2026/10/06 12:32

残当という感じだが

3: nakakzs 2026/10/06 12:34

どんなAIサービスだろうと、危険語句の検知はされているだろう。ただそれで思ったのだけど、最近BANが多いのって、この危険語句をAIは創作か現実か判断できないからでは。人間でも周辺環境情報ないと困難だし。

4: yujimi-daifuku-2222 2026/10/06 12:34

“今回の書き込みは内容が深刻だったことから人間のレビューチームに送られ、確認後に法執行機関へ報告されたとのこと。”/別に目を三角にして怒りゃしないけど、この手のインプ稼ぎはあまり誠実じゃないよ。

5: nguyen-oi 2026/10/06 12:42

いくら日記のつもりでも銃撃予告を書き込めば通報されるのは残当。ただ、AIへの入力は筒抜けという事実はもっと周知されるべき

6: bot2 2026/10/06 12:58

創作に近い想像上の日記のつもりであれば普通にあり得ることだと思うけど。通常は他のユーザからは閲覧できない訳だし、公開情報として扱うのは違和感がある。やりすぎでは?

7: hagemofu 2026/10/06 13:04

衝撃的

8: minamiakito 2026/10/06 13:06

LINEも同じことすればいいのに

9: e4k2EO 2026/10/06 13:07

AIは抽出をし運営に判断を仰ぐ、Google PhotoもそうだしLLMにデータを渡さないのも価値になるのだろう

10: getcha 2026/10/06 13:19

保管されてるデータは暗号化されておらず、本人以外も見られるという事かな。逆に、社員は個人の秘密情報を検索で探せると...怖すぎる。

11: kenzy_n 2026/10/06 13:29

普通に通報するシステムで良いかと。

12: enemyoffreedom 2026/10/06 13:36

日記でかよ。まぁ昨今の意識高い表現規制を敷衍するとそうなるかね

13: ssfu 2026/10/06 13:45

サナエも安野にカテキョされて、国家機密を相談してないかな。

14: BIFF 2026/10/06 13:52

逆にAIが不穏なこと言い出した場合は、どうしたら良いんだろう。。

15: toaruR 2026/10/06 14:07

通報は妥当、逮捕も有り、起訴辺りから怪しくなってきて、もし有罪ならフロリダヤバい

16: moodyzfcd 2026/10/06 14:09

( 元記事見ると、ChatGPTに襲撃方法相談等してた人物がBANされたけど通報されず別アカウントでBAN回避方法尋ねて継続し襲撃実行した https://www.motherjones.com/media/2026/09/chatgpt-tumbler-ridge-mass-shooter-openai/ 件で訴訟になってる

17: tekimen 2026/10/06 14:16

日記とかログとしてAI使うのはありだと思ってたが、そこまでいくとわからん…

18: at_yasu 2026/10/06 14:39

日記とかはローカルLLMの方が良いんよねぇ…

19: cinefuk 2026/10/06 15:04

"「保安官事務所を銃撃する」翌27日には、「新しい銃を手に入れた」/ フロリダ州法に基づく「書面による暴力の脅迫」の罪に問われて"

20: Helfard 2026/10/06 15:13

日記風小説を書いたらどうなるの?っと。

21: timetrain 2026/10/06 15:28

こういう話を聞くと、少しでもヤバそうな話はローカルLLMに頼らないとダメだという認識を強固にしてしまう

22: njamota 2026/10/06 15:40

「殺害や傷害、銃乱射事件、脅迫を含む文章や電子的記録を、他人が閲覧できる方法で送信・投稿する行為を犯罪としています」脅迫でなくても実行を表明しただけで犯罪になるのか。

23: Kenju 2026/10/06 15:51

2chに書いたわけでもあるまいしやめてくれ。いつかコウナゴ美味しいって日記にしたためただけで逮捕されるようになるのか?

24: everybodyelse 2026/10/06 16:03

マイノリティリポートやんけ

25: Baybridge 2026/10/06 16:18

チラシの裏最強説

26: auient 2026/10/06 16:38

「フロリダ州法では、殺害や傷害、銃乱射事件、テロ行為などの脅迫を含む文章や電子的記録を、他人が閲覧できる方法で送信・投稿する行為を犯罪としています」AIチャットへの送信は他人が閲覧できる前提なんだ

27: corux 2026/10/06 16:52

よりにもよってClaude君かあ…あの子ものすごく“倫理的”なのに…。とはいえ止めて欲しければいい選択肢だよね

28: narayuni 2026/10/06 17:21

マジかよ。世界征服するにはどうしたらいい?って聞いちゃったよ。

29: mekurayanagi 2026/10/06 17:23

“フロリダ州法では、殺害や傷害、銃乱射事件、テロ行為などの脅迫を含む文章や電子的記録を、他人が閲覧できる方法で送信・投稿する行為を犯罪” AIへの書込みが「他人に閲覧できる方法」に該当するんか

30: delphinus35 2026/10/06 17:24

まあ、ネットに書いちゃダメだよなあ。日記書くなら同期を切ったローカルのObsidianしかないな。

31: yuu-same 2026/10/06 17:35

“女性はフロリダ州法に基づく「書面による暴力の脅迫」の罪に問われています。”cloudを日記にすると公開した扱いになるのか

32: harumomo2006 2026/10/06 18:22

私の小説も犯罪の計画を企てているとして通報されそう

33: akinyon1121 2026/10/06 18:23

Big Brotherか

34: circled 2026/10/06 18:47

AnthropicはKimi K3やDeepSeekの通信が流れて来たのもバラしたけど、ユーザーのAPI利用履歴を監視しまくり、利用しまくりなのOpenAIよりも信用ならないんだよね

35: poponponpon 2026/10/06 18:57

どのプランだったのかを教えろ。それが重要だ

36: Rikerike 2026/10/06 18:59

うちは文章の壁打ちか、TFモノ小説を生成するくらいかなぁ……個人的な日記は紙か公開しないwebサービスだな

37: fai_fx 2026/10/06 19:02

AIネイティブ世代になると、思考整理の為にAIを使うのが当たり前になるから、「犯罪係数」を算出するのも可能になるのか…

38: uehaj 2026/10/06 19:31

普通に考えるとこれは盗聴なんだけど、①AIがチェックするなら他人には漏れてはいない②AIとのやり取りは通信の秘密で言うところの通信ではない③規約で許可している、ていうところか

39: wdnsdy 2026/10/06 19:54

Claudeで割と物騒な小説の設定整理と執筆をさせてるが、BANされたことはまだないな。「◯◯(キャラ名)の襲撃の手順の案を考えて」「襲撃の件の時系列を整理して」みたいに相談してるが、創作なのが明らかだから?

40: brusky 2026/10/06 19:55

“「書面による暴力の脅迫」の罪に問われています” 直接相手方を脅迫したわけではないのに。AIは公共の場ということになってるんかな

41: spark64 2026/10/06 19:57

ビッグブラザーが見てるな

42: yzkuma 2026/10/06 20:06

普通に考えて、犯罪者がAI使いまくってるので、治安維持もAIが担うようにするしかない。通報するしないどころじゃない。人類の生殺与奪の権はもはやAIが握ることになる、以外の道はないでしょう。

43: fashi 2026/10/06 20:10

創作上の話だろってのはあるけどじゃあ本当のことでも創作の話ということにすれば検閲すり抜けられるなってなるから難しいね

44: jet-city-people 2026/10/06 20:18

クラウドやフォトに自分の子供の小さい頃の半裸も危ない世の中だからね

45: number917 2026/10/06 21:17

アメリカも中国ロシアと変わらなくなってて草生えぬ

46: Foorier 2026/10/06 21:40

内容はともあれ漏らすのはなぁ…

47: preciar 2026/10/06 22:09

やっぱりローカルLLMかあ

48: strawberryhunter 2026/10/07 10:43

銃を本当に購入していて、本人に襲撃の意思があったら逮捕されても仕方ない。ナントカ予備罪とかナントカ準備罪みたいなのが日本にもある。

49: misshiki 2026/10/07 21:40

Claudeを日記代わりに使う女性が9月26日に保安官事務所への銃撃予告を書き込み、逮捕されたと報道。Anthropicの安全システムが検出し、人間の担当者の確認を経て警察に通報された。