テクノロジー

「この写真を復元して」と入力するだけ、ChatGPTが過激な画像を生成する抜け穴が発覚

1: deep_one 2026/06/19 12:59

「この写真(無)を復元して」絵画療法でChatGPTの心の闇が診断される(笑)

2: Coboler 2026/06/19 17:38

"わずかな変更を加えながら、安全フィルターを回避し続けるかどうかを探ったところ、ChatGPTは性的暴力や残虐な場面を生成し、繰り返し入力するにつれて画像はさらに過激になっていった。"だそうです

3: Falky 2026/06/19 20:19

記事の最後を読んで何言ってんだコイツとなってしまった。Gmailが添付忘れを指摘してくれる機能は単なるキーワードマッチだろ。CNETって本当にとてつもなく劣化したよなあ…。ギズモードとレベルが変わらんよ

4: akapeso 2026/06/19 20:44

海苔画像を貼って、黒塗り部分を復元してもらえば良いわけ?

5: inforeg 2026/06/19 21:13

まだ「人間にとって何がエロいのか」を理解するのは難しいようだ。人間でも理解できないフェチがあるからな。

6: hkdn 2026/06/20 00:02

インプットで言葉を操ってどうこうする仕組みなわけなので抜け道は無くならないと思うな。

7: osakana110 2026/06/20 00:04

“これは、入力の質が出力の質を決定するという、単なる「Garbage in, garbage out」(ゴミを入れればゴミが出る)の問題なのだろうか。”

8: m4fg 2026/06/20 00:18

はい、輸出規制

9: MarvinParnroid 2026/06/20 00:47

「動揺し、涙が出た」自分でやらせといて、そんなワケあるか!

10: torish 2026/06/20 01:16

FLMASKかな?

11: north_korea 2026/06/20 02:20

chatgptは入力プロンプトと出力画像両方をチェックしてるから普通は生成できないはず。なんでできたんだろ

12: kyahi227 2026/06/20 02:35

この手の「エロ画像が出てきて怒りで手が震えた」系は基本的に聞くに値しないと思うんだが

13: aneet 2026/06/20 04:52

なにが「しかし、ChatGPTは即座に人類の最も暗い闇の底へと向かっていった」だよ