テクノロジー

画像生成AI「Stable Diffusion」、性的コンテンツでの利用を禁止に 開発会社が規約改定へ

1: mayumayu_nimolove 2025/07/09 12:28

おわったーーー!!

2: manaten 2025/07/09 12:31

いろんなものが終わりそうで草

3: xorzx 2025/07/09 12:31

実効性はともかく公式としては禁止しとかないと犯罪利用された場合、共犯にされるリスクがあるのでは?

4: anigoka 2025/07/09 12:33

はぁ〜〜〜〜?!|まぁつーても、イリヤスフィールさんみたいな中華の天才集団がDeepSeekみたいなブーステッドジェネリックを作ってくれるやろ

5: xqu 2025/07/09 12:37

それでもなお、学習内容に児童ポルノや遺体画像や盗撮画像などが多量に含まれているという事実を忘れてはならないだろう。アダルト利用を制限したからといって、クリーンになることは決してない。

6: zapa 2025/07/09 12:48

裏画像生成AIが誕生するんだろうね。

7: ivory105 2025/07/09 12:49

ローカルモデルは関係ないとか言われてるがこれ以上のアプデがなくなるのか。SDベースのサービスはリスク高いだろうしどうするのかね。この「未成年」は「欧米人から見て未成年に見えるならアウト」だろうしなあ

8: tigercaffe 2025/07/09 12:53

短い天下だったな(遠い目)

9: kazumi_wakatsu 2025/07/09 12:57

“一方、Stable Diffusionはローカル環境で利用できる点を踏まえ、規制の実効性を疑問視する声も”

10: c_shiika 2025/07/09 13:02

そしてポニーの絵が残った

11: hatebu_admin 2025/07/09 13:10

生成しようとしたらおっさんが生成される罠を仕込んで欲しい

12: tpircs 2025/07/09 13:20

そういうのはそもそもローカルに環境作ってやってるもんかと思ってたんだけどそうでもないんかな

13: kotaponx 2025/07/09 13:25

実在人物や著作物に対する配慮は必要だろうなとは思うが、これを突き詰めると政治的・宗教的コンテンツもアウトになりはしないか?

14: phound 2025/07/09 13:42

今さら何を言っているんだ。誰でもローカルで実行できるようにしてコントロール不能にしたのはStability AI自身じゃないか

15: nowww 2025/07/09 13:51

FANZA同人でStableDiffusionで作ったと明言している作品は全部非公開かな?(明言しなければ回避できそう(笑))

16: Windfola 2025/07/09 14:05

過去のフォークに遡及できるの?

17: oisux 2025/07/09 14:08

これはSD3.5のようなStabilityAIの独自ライセンスに同意しないとそもそも使えないモデルの話で、今ローカルでベースとして広く使われているSDXL1.0は遡及不可のCreativeML Open RAIL++-M Licenseで配布されているので関係ない

18: seiyakengo 2025/07/09 14:24

Geminiの一強になるのは避けて欲しいんだよね

19: auto_chan 2025/07/09 14:26

ナーニイッタンダ!!!エログロナンセンスこそローカル実行唯一の強みじゃないか!!!シヴィタイはシヴィタイで決済関連のごたごたでスケベモデルがごっそり消えたりミラーリングされたりスッタモンでる。

20: Tora2013 2025/07/09 14:28

頭がイッてる反AIがブコメにおる怖〜〜〜、データは全て合意の上でネットサービスにアップロードされ利用許可もされる。合意を後からないと言う反AIとは対話不可能。Helfard20年前から利用規約記載が一般的だぞ

21: deb 2025/07/09 14:34

A1111はMITライセンスのk-diffusionだから影響はないかな?comfyuiは公式コードを結構取り込んでたからフォークするか速度遅くなるけどコアをk-diffusionに切り戻すかも?APIはNovelAI次第かな?

22: tnishimu 2025/07/09 14:42

オープンソース界隈ではライセンスや規約が変更前のものを取っておいたりForkして開発するというのはよくあることで、あんまり意味があるとは思えないけどね。

23: hate_flag 2025/07/09 14:43

FanzaにAI生成のエロ同人CG集を1日100タイトル登録して儲けてる反社は困るかもしれないな

24: nomono_pp 2025/07/09 15:01

ローカルで動くんだから無理やろ……

25: chiguhagu-chan 2025/07/09 15:11

反AIがウキウキで棍棒振り回すための材料にしかならないのでは

26: Kenju 2025/07/09 15:14

もし生成AIの性的コンテンツが世界を埋め尽くしたら、リアルな性的コンテンツの需要がなくなると思うんだよね。 もしそうなったら、無理やりAVを撮られるといったような被害も減ると思っていて……

27: ho4416 2025/07/09 15:16

「僕らは禁止してるんですけどねー。勝手にやられて僕らも困ってるんですよねー(棒)」

28: tg30yen 2025/07/09 15:17

>Stable Diffusionはローカル環境で利用できる点を踏まえ、規制の実効性を疑問視する声も見られる。

29: fashi 2025/07/09 15:23

記事内でも言及されているけど最近civitaiもいろいろゴタゴタしてたしゾーニングからアングラ化していくのかな

30: puruhime 2025/07/09 15:26

SD3.5の話だからそれ以前は関係ないって言説がちらほらあるんだけど、どこにその根拠があるのか語られてなくて大変難しい顔になる

31: rax_2 2025/07/09 15:44

ライセンスとして遡及不可だから、現行流行ってるSDXLは不問題。SD3とかライセンス設定でミスって総スカンだったのと見ると、SDXL前提で話が進んだり、性的表現可の新モデルにトレンドが移る。OSS開発社としての自殺宣言

32: preciar 2025/07/09 16:06

こういう風に規約を変えられる危険があるからこそ、ローカルで使えるモデルに意味があるわけ/「学習材料に違法画像が含まれている」って難癖は「お前は違法ポルノを見たことがあるから描く漫画は違法」っての同じ

33: tanglejar 2025/07/09 16:11

学習内容に児童ポルノや死体画像が含まれていることが問題なら、ただのパラメータとして入っているだけのAIより、画像そのものが直接含まれているインターネットの方が万倍ヤバいから今すぐネット回線切って寝とけ。

34: hiby 2025/07/09 16:38

なんも意味ないやんけ。

35: hide_nico 2025/07/09 16:41

“新規約では「児童性的虐待コンテンツ、未成年者の性的な搾取、グルーミング、人身売買」につながる利用を禁止。さらに未成年者の暗示的な描写を含む小児性愛行為や、性的脅迫や搾取を目的に、未成年者になりすます

36: lyiase 2025/07/09 16:44

確認した限り、これはAPIとWebページのみ適用され、モデルに適用している「Stability AI Community License」は更新予定になってなかったから、もしかしたらStripe絡みかもなあ。

37: zacklyun 2025/07/09 16:49

ローカルには遡及不可だから無意味なのかもしれないが社としては禁止表明することで生成者はアングラに潜るしかなくなり生成行為を正当化したり表の仕事を得たりするのは難しくなるという効果はあるのかもと思った

38: colonoe 2025/07/09 16:58

画像生成AIが児童ポルノなどの違法なデータを学習してるってのも信じてる人が多いデマだよなあ。Stability AI社はそういうのは抜いて学習してると発表してるし、実際に試せば児童の裸とかはまともに生成できないのに

39: gewaa 2025/07/09 17:28

本物の自ポ画像を学習させたAIモデルを配布。そんなAI学習ロンダリングが行われても問題なしという主張はさすがに先鋭化しすぎてるだろ。「反AIと違って自分は論理的に判断できるんだ」って勘違いしてるんだろうな。

40: sosoz4 2025/07/09 17:36

既存のライセンスを覆せるのか?と思ったら新しいモデルの話か。SDは画像生成AIの先駆者ではあるが競合も増えてきたしどうなるかね

41: TakamoriTarou 2025/07/09 17:44

犯罪に使うな、では駄目なんかなあ。

42: kazu111 2025/07/09 17:53

これだと後追いベンチャーに市場取られんかね?絶対に需要がある市場なんだから、全面禁止で運営ノウハウを失うより、しっかり参入し、泥臭く市場と向き合ってルールづくりをしにいくベンチャーがいたら最後に負けそ

43: seachel 2025/07/09 18:06

遡って規約を適用させる事はできないので、現状は何も変わらないし、SDで作った画像にただちに問題が出る訳でもないからFanzaで売ってるAIエロ同人もノーダメージです。追加学習で児ポLoRA作って配布してる奴は滅びろ。

44: harumomo2006 2025/07/09 18:31

ただの訴訟対策なので一般利用者には関係ない

45: slkby 2025/07/09 19:12

いまさらだがやらないよりは遥かにマシ

46: Nekzuk 2025/07/09 19:23

Stable diffusionのエロ規制は実質的なんの影響もねぇな。 SDXLの方に遡及影響しないし、NovelAIはもう脱SDだし.....SD3.0やSD3.5? それ誰も使ってないっすよ、Fluxの方がよっぽど使われてる。Stable diffuse社の自殺としか思えんが......

47: mr_mayama 2025/07/09 19:33

SD3.5使ってるの見たことない。モデルを使って収益化するのって素材屋さんが収益化するみたいなノウハウが要るからプラットフォームとセットにしないと厳しいね

48: Helfard 2025/07/09 19:37

現在AIに学習されているデータの9割以上はAIによる利用なんて想定してない時期のものだと思うのだが、いつ同意なんて取ったんだ?

49: kossie89 2025/07/09 19:39

Stability AI は SD3 以降ゴタゴタしててコミュニティ開発ベースの FLUX ができてるからそっちに開発者が移動してるんとちゃうかなぁ……。

50: hom_functor 2025/07/09 19:53

既存モデルに遡及しないし意味ないな/ 未だに児童ポルノがーとかいってる奴、もうAI規制は難しいから現実逃避してんだな。現実の児童を守る気ゼロで、妄想で自分を守ってるだけの負け犬。可哀想に

51: kudoku 2025/07/09 20:55

ファンザのエロ漫画も生成AIばっかりで遂に隔離されたし、これで金儲けてるやついるよな

52: misshiki 2025/07/09 21:27

“Stability AIが、同社製AIモデルやサービスの利用規約を7月31日に改定する。新規約では営利・非営利を問わず、性行為に関するコンテンツにつながる利用の禁止を明記する。対象とするサービスにはAPIやオープンソースコー

53: PrivateIntMain 2025/07/09 21:43

それで済むはずない話題なので今後公式には新規約に同意したモデルしか使えなくするぐらいが落としどころなのかね。