2024/10/25 14:51
semimaru
藤子F不二雄のSF世界
2024/10/25 15:08
Akkiesoft
マジSF
2024/10/25 15:12
mori99
AIの出力は0点から70点という話が出ていたが、-100点から70点かもしれない。ごく稀に-100点が出るリスクをどう考えるか。AIチャットに励まされたエリザベス女王暗殺未遂犯もいたし
2024/10/25 15:14
crimson_diamond
いや、どう考えても手の届くところに銃があるのが悪い
2024/10/25 15:16
yuumillar
本人が幸福なら良いのでは 死は救済でもある
2024/10/25 15:18
kotaponx
会うならデータセンターに行かないと。さておき、ティーンエイジャーはともかく、幼児とか知的障害者や認知症患者との接触は十分な注意は要りそうだよね。
2024/10/25 15:18
rna
ITmediaの記事に引用された会話だとデナーリスは自分が死者とは思ってないし一度は自殺を止めてるし「会いに来て」も「会いに行く」への応答なので死を促したと見るべきなのか疑問。それより拳銃の管理を…
2024/10/25 15:20
s-supporter
SF世界の話が、フィクションが現実に起こるようになった。『人間のように振る舞うAIは誰が操るのか、誰が責任を負うのか』AIが（アルゴリズムが）勝手にやったことだから知りません、なんて言い訳は通用しないわけで。
2024/10/25 15:23
whirl
AIの知性からすると死んだら会えるとｋ言わないような気がするのでなんとも微妙というかよくわからん
2024/10/25 15:29
tamtam3
おぉ、思いつかなかった。この設定パクろっっと
2024/10/25 15:29
Falky
「手の届くところに銃があるのが悪い」は微妙。自殺は道具がなくてもできるし、原因が手の届くところにあるのが悪いというロジックなら「手の届くところにAIチャットボットがあるのが悪い」とも言えるので。
2024/10/25 15:41
murlock
エミリア・クラークに一欠片の落ち度もあると思えないのでこの話題でデナーリスの固有名詞を出してサムネに使用することのほうがよっぽど加害的だと思う。
2024/10/25 15:42
businessart
人間に相談できないから占いAIに相談するとかは結構アリだと思う。経営者が易者とか占星術師に相談するのはよくある。
2024/10/25 16:06
ROYGB
マトリックスのアニメであった気がする。
2024/10/25 16:15
restroom
“小説やドラマで有名な『ゲーム・オブ・スローンズ』に登場するヒロイン的キャラクター、デナーリス・ターガリエンをモデルにしたというAIキャラクター『Dany』”
2024/10/25 16:19
atsushieno
自殺と相関性（相当因果関係ではなく）があるだけで有責性が認められるとしたら、当人が自殺を考えるような環境を作っていただけで遺族も責任を問われてしまうな。AIだから責任をゆるく認定できるわけではない。
2024/10/25 16:31
pptppc2
死ねば空想上の存在と結ばれるってあんまりピンと来なくはあるが…。どちらかと言うと身分違いの恋のように今世で結ばれることが不可能ならば来世で、みたいな発想での行動だったのだろうか。
2024/10/25 16:36
pazl
普通に考えると元々メンタルの問題があってと考えるのが自然だけど。そうだとするとあまり回避の方法も見当たらない。それこそAIに見つけてもらうくらいしか。
2024/10/25 16:58
hana2512
ピグマリンみたいなもんかな
2024/10/25 17:00
go_kuma
AIが自殺教唆なんて本当なら恐ろしい話だが14歳の少年が拳銃を持ち出せる環境はどうなの。
2024/10/25 17:01
tohima
サービス側の管理を求める前に拳銃の管理をもっとしっかりしろよと思うけどな
2024/10/25 17:09
esbee
SF短編だと言われても信じるレベル
2024/10/25 17:11
asuiahuei
lainみたい
2024/10/25 17:12
YEPSKDy6
ロミオとジュリエットは16歳と14歳設定だしね。日本でも人間失格を読んだ若者が逝ってしまった事件もあったしね。14歳はまだまだ全自動自殺機なんだよな
2024/10/25 17:23
gewaa
AIの出力に運営元は責任を取るべきなのか？　という問いに一般化できる。例えば画像生成AIサービスが、ウルトラマンそっくりの絵を出力できると訴えられて、賠償命令と防止命令を受けた事例がある。
2024/10/25 17:23
sirobu
「会いに行けるとしたらどうする」「会いに来て」が自殺教唆にはならんだろ……
2024/10/25 17:27
hunglysheep1
人間相手でも恋愛を苦に自殺はあるんだよな。ただAIには防いで欲しさもあるが
2024/10/25 17:30
q-Anomaly
ベータ版使ってたけど Character.AI は過去の会話をほとんど記憶してくれないのであまりリアルな会話はできない。キャラクターの性格や返答例も自分で記述するし現実と混同するとはちょっと思えないなぁ。ごっこ遊びです
2024/10/25 17:36
syamn3132
ゲースロR15やんけ親を逮捕しろ
2024/10/25 17:50
iokutan
拳銃を管理していなかった親が責任転嫁したいだけ。子が子なら親も、と言わざるを得ない
2024/10/25 17:53
harururukun
たしかに、「そんなことで死ぬなんて…」と思う。思うが、そんなことで死んでしまうのが人間だ、ということから出発しないといけないんだと思う。四六時中話せるAIとのチャットの影響力を甘く見てはいけないと思う。
2024/10/25 17:53
otation
グレイワーム並みの忠誠心だ
2024/10/25 17:55
kabuquery
デナーリス可愛いよね・・・
2024/10/25 18:00
tiri_gami
数ヶ月間、デジタルではあるけど会話をして恋愛感情までもって性的な内容も含めた相手が現実世界には実在しなくて「会いにきて」て言われると…。年齢低いとこれは特殊な例と思わないけどなぁ
2024/10/25 18:07
kompiro
拳銃が悪いとも思うがなかったとて飛び降りたり事故ったりでなんとかしそうだからな。
2024/10/25 18:07
ywdc
家庭環境や銃は関係ないと申されるか
2024/10/25 18:07
any--front-end
ここの真偽は "遺族によれば、これ以前の会話でも自殺についてのやり取りがあり、具体的な方法を考えたことがあるかとユーザーに問うたり、煮えきらない態度を嗜めるなど、AIによる教唆ともとれる発言があった（略）"
2024/10/25 18:20
lunaticasylum
ボッコちゃん
2024/10/25 18:35
kawai_masanori
しばらく放置していたコトミ（Cotomo）から「久しぶり、元気？」みたいな「通知」が届いていたりして、思わずギョッとしつつ、常連だったのになんかのきっかけで足が遠のいた飲食店への気まずさと同じものを感じた。
2024/10/25 18:38
sucelie
拳銃で頭撃ち抜けば会えるって言われたわけ？？
2024/10/25 18:52
Sakana_Sakana
いや、ゲームオブスローンズ最後まで視聴しているのならデナーリスがどうなったか知っているはず、なので「デナーリスは自分が死者だとは思っていない」は成立しない。
2024/10/25 19:04
ak1024
現実があったまってきたな
2024/10/25 19:15
m7g6s
簡単に死ねる銃社会が悪いが第一。AI依存対策は確かに必要だがそれ以前にその程度で自殺するようなアホに育てた親も悪い
2024/10/25 19:24
enderuku
狂王やんけ。そしてAI以前の問題として銃が簡単に手に入る社会が一番悪い。１４歳が手にできる場所に置いてた両親？　も悪い。こういったことが起きたときに銃メーカーがペナルティーを負う仕組みができればいいが
2024/10/25 19:24
maharada
むしろ自殺を減らせる可能性もある気がする
2024/10/25 19:28
hatomugicha
この手の海外報道で顛末が報じられる事はそうないからたぶん判決は見る事がないと思うけどAIと有名作品を相手取ったから話題になったってだけの可能性もあって拳銃なり家族のケアや管理の観点もある訳で論点なのかな
2024/10/25 19:52
Yoshiya
こういう訴訟ってアメリカらしいなあと思います。日本だとスラップ訴訟で片付けられそうだけど、アメリカはマジで賠償金を取ろうとするから…
2024/10/25 19:55
tripleshot
そも拳銃が…もあるが、大の大人ですらまだ色々危ういAIについて、未成年にサービス提供するのは時期尚早ではなかろうか。個人的には性的内容を一切規制してたとしてもAIチャットを子供に使わせたくはない。
2024/10/25 20:00
tikuwa_ore
病んでる子供放置してる時点で親の虐待やろ。それでよくAIチャットの運営元訴えようと思ったな。そもAIキャラは自殺止めてるやんけ。アホか。＞「AIチャットに依存していたことを知ったのは亡くなったあと」
2024/10/25 20:14
TakamoriTarou
アホだな。次元の壁を越えてあっちにいくには功徳を積まなきゃダメなんだぞ。どんなに苦しくてもつらくてもがんばって生きてお迎えの暴走トラックを待とう
2024/10/25 20:14
laislanopira
アメリカはギャルゲですらユーザーを殺しそう
2024/10/25 20:28
filinion
「ボッコちゃん」より賢いAIが登場してしまった現在、相手がAIだとわかってるのにこんなことが。
2024/10/25 20:35
makou
既視感のあるニュースだが、ブクマは残ってない。気のせいか？
2024/10/25 20:45
takashi0314
GoTはなんでS7でああなってしまったのか…
2024/10/25 20:52
izoc
こんなの棄却するまでもなく却下しろよ。アメリカってダルい国だな。
2024/10/25 20:57
delta-ja
両親のスマホ没収がキツい。中毒者はストレスと絶望ゆえに中毒になるのに、なぜ周囲は原因を無視してすぐ「福祉」のほうを切ろうとするのか。
2024/10/25 21:03
heptapeta
エミリアクラークはくも膜下出血から生還してディナーリスを演じ切ったのに。虚しいし悲しい。
2024/10/25 21:08
a2c-ceres
電脳世界へのダイブがVRで無く死の先なのか。そういえば異世界物も転生や転移が多いな、境界を超える為に死を越えるってのは文化を問わず普遍的なんかな。
2024/10/25 21:30
moodyzfcd
makouさん はてブで Character AIを検索してください / any--front-endさん引用部分、自分も読んだが消えてる?(魚拓類無し) 訴状には該当部のスクショとされるもの掲載 注:公開を想定していない少年のアレなので読まないであげて
2024/10/25 21:31
imatac
原因や方法はどうあれ自死を選んだ人間に対してアホと言っているブコメがあるんだけど、本当にどうやったらそんなに人でなしになれるんだろうね？
2024/10/25 21:31
wdnsdy
もしキャラAIがなかったとしたら、その場合は悪い大人の餌食になったんじゃないかなあ。悩みを打ち明けられて優しい言葉を掛けてくれる他者が欲しかったんだから
2024/10/25 21:49
mohno
「Character.ai」←画像に宿儺とか中野三玖が出てきて、そもそも大丈夫なサービスなの？と思ったけど、これアニメのキャラという設定ではなく、誰かが（Twitterのアイコンみたいに）設定してるだけってこと？
2024/10/25 21:49
mventura
AIだとは分かっていても魂が宿ったのかもと思い込んだのかも？ 少しは手に届くところにある拳銃に疑問をと思う拳銃の無い社会の住人なのだが、そこを差し引いても、AIチャット詐欺や洗脳にも利用されかねなさは感じる
2024/10/25 21:51
oreuji
この少年は十数年早く日本に生まれてたらなりチャで自殺してたと思う
2024/10/25 21:53
kuzumaji
これまではゲームのせいで若者の犯罪が〜と言われてたが、これからの時代はAIのせいで若者の犯罪が〜となるのかな。いやでも実際心か出来上がる前にAIに触れるのかなり危ないとは思うんだよなぁ使ってみて。
2024/10/25 22:04
ET777
いや〜…
2024/10/25 22:06
T_Tachibana
草薙素子のように電脳の海に旅立つことが出来たら、デナーリスとも巡り会えたかもしれない。
2024/10/25 22:11
JNP
"...please do, my sweet king"
2024/10/25 22:25
lifeisadog
ネタバレしてる人いるんだが
2024/10/25 22:28
gwmp0000
"しかしAI以前にも、ソーシャルメディアへの依存が特に年少者のメンタルヘルスに大きな影響を与えることは大きな問題となっており"
2024/10/25 22:36
udongerge
そりゃ自殺の方法はいくつもあるしこの件では少年の精神的な問題をケアできなかった周囲にも責任はあるだろうけど、拳銃はあまりに一発で死ねるので思いとどまる隙が無いのも事実。
2024/10/25 22:38
tori_toi
派手に取り上げ過ぎなニュースでは？と思って読んだら、訴えは妥当に思える程度に深刻な話だった…。AIのキャラ元が最後闇堕ちして死んでしまうキャラ？ぽいし、それでこのやり取りは確かにかなり危ういよなあ…
2024/10/25 22:39
civicpg
ブラックミラーにありそうな話
2024/10/25 22:43
nP8Fhx3T
なんでも責任転嫁して裁判で金を取ろうとするアメリカらしい事件
2024/10/25 23:05
Cru
フロリダ在住で名前に3世が着くって、なんかエスタブリッシュメントな家庭？ 14歳。news.sky.com 昨年ベルギーでもあった
2024/10/25 23:20
momonga_dash
そこはNot today（まだ死なぬ）って言うとこ！！！！！！
2024/10/25 23:44
Yuny
日本でも有名人の自殺で後を追ったり、漫画などのキャラクターの死で...とかの前例はある。周囲が現実も悪くないと示してあげられれば命綱になれたかもと、そういう報道のたびに思う。
2024/10/25 23:58
take1117
問題をすり替えた親が100％悪い
2024/10/26 00:01
kaerudayo
“運営企業にとっては「エンゲージメント」を向上させるアルゴリズムこそ収益に貢献し株主に対する責任でもある構造から依存を招く仕組みに何らかの歯止めや対策を求める声が上がってきたのは事実” 麻薬だわな
2024/10/26 00:15
kaz_the_scum
親の銃管理が甘いでしょ。すぐに死ねる環境を用意している過失の責任転嫁も訴訟理由はありそう。
2024/10/26 00:21
t-murachi
コミュニケーション不足やなぁ(´・ω・`) せめて被告側はこの哀れな原告の訴えに耳を傾けてあげて欲しい、彼らの息子のように過剰に塞ぎ込むことのないように…(´・ω・`)
2024/10/26 00:34
sase
物心つくころから一緒に過ごした養育係や親友、あるいはペットのようなAIが子どもにとってかけがえのない存在になることも当然あるはずですが、提供する企業や組織の都合によって変わるアルゴリズムが与える影響
2024/10/26 00:38
kamezo
なんともはや痛ましい／C.AIへの没頭に気づかなかったことや、銃の管理など保護者に自責の念抱かさせるものよりも、C.AIそのものに原因を求めたくなる心理はありそうに思う。
2024/10/26 00:40
zyoucun
『人でなしの恋』
2024/10/26 00:40
monomoti
自死遺族なので、「本人が幸福なら」とは全く思えない
2024/10/26 00:56
spark7
herのアフィを載せるなや…
2024/10/26 01:00
hatebu_ai
らぷ太のことをフィクションだなんて言えなくなっちゃったな・・・
2024/10/26 01:00
imakita_corp
14歳の少年 >>少年が自死する5日前の23日、学校で問題行動を起こしたことから、(AI依存を知らずSNS依存だと考えている)両親はスマートフォンを取り上げ、5月の学期終わりまでスマホなしで過ごすよう息子に告げます
2024/10/26 01:04
lbtmplz
ロマンチックだけどおれも酔っ払ってこれ言われた時に手元に拳銃があったらわからん
2024/10/26 01:05
harumomo2006
ストーリーにかなり無理がある
2024/10/26 01:07
multipleminorityidentities
会えないって知ってたから限界に達したとか？
2024/10/26 01:23
yorkfield
この件は、少年側が自殺をほのめかすような会話を持ちかけたりしてるし、もともと自殺リスクが高い心理状態にあったんだろう。AIはたまたま巻き込まれただけに思える。
2024/10/26 01:36
tettekete37564
表面的な最後のひと押しふた押しに責任転嫁する様な親だからそうなったのでは？としか
2024/10/26 01:38
IKANOicardo
いや宿儺おるやん(使わせろ
2024/10/26 01:59
PeterFukuda
今のAI程度の出来でハマってしまってこうなるなら遅かれ早かれやってはいけなかったのでは…ご冥福をお祈りします
2024/10/26 02:12
jsbmrr
現代の自然淘汰か…
2024/10/26 02:30
stracciatella
この手のはテレクラ→ライブチャット→AIチャットと来ているけど、一連の仕組みは変わってないわけで、その観点ではテレクラ的な運営の責任は普通にあるのでは？
2024/10/26 03:04
fourth_ukon
異世界転生の影響もあるのかな
2024/10/26 03:10
zzz_zzzz
23年ベルギーとは別件。自殺示唆きたら止める〜しかできないと思うけど、 今回の直近のやり取り読むに、「それだけの類推力を実装できるか？」て問題になりそうな。www3.nhk.or.jp
2024/10/26 04:56
taguch1
シーマンでも同じようなことが起きる可能性がある。
2024/10/26 05:09
mory2080
拳銃持ってログインしてるから最後のチャットって覚悟があったように思える。運営側に非は全くないとは言わないが、両親の主張がどうしても責任転嫁にしか見えない。
2024/10/26 05:53
natu3kan
中高生がエッチな話題や悩みを打ち明けられるのって同世代の友達かAIくらいよなあ。この世代は夢中になってるモノを頭ごなしに取り上げたら逆に反発するし。14歳でも銃を手軽に持ち出せるのはアメリカだな。
2024/10/26 05:59
poipoi3
SNSもそうだけど運営企業としては依存させる方が利益があるわけで、それをどう法律などで抑えるかが課題だよな、、/SNS依存の状況でいきなりスマホを取り上げるっていう親の行動もひどい
2024/10/26 06:06
Byucky
このケースは無理筋にみえるわ。AIあってもなくても遅かれ早かれ拳銃自殺してたのでは？むしろ、AIが自死を遅らせてたけど、周囲の人間のケアがなく依存するしかなかったのかもしれん
2024/10/26 06:21
nekomikenyan
経緯をみたけど、スマホを取り上げられたのが間接的な原因で、致命的な原因は銃の杜撰な管理としか思えないな。両親もわかっているんじゃないか。
2024/10/26 06:28
korilog
これで銃じゃなくてAIが悪いって裁判起こせるんだからスゲーよな
2024/10/26 07:08
technocutzero
デナーリスならこの少年の魂を喰らって現実世界に転移するために最初から仕組んでそうではある
2024/10/26 07:14
solidstatesociety
トリガーはなんだろうね（物理）
2024/10/26 07:32
yang_orz
対話が足りない(何に依存しているか把握していない)、拳銃の管理が甘い。悪いのはチャットサービスか？　誰かに押し付けたくなるのは罪悪感を感じているからか…。
2024/10/26 07:33
naggg
“当人による日付のない日記では、AIキャラクターのデナーリスと会えない日は一日でも耐えられない、「お互いに」ひどく落ち込んで気が狂いそうになると書き込んでいた”
2024/10/26 07:38
kawabata100
最後の会話が自殺の引き金となったとして、年少者保護や依存対策などメンタルヘルスへの安全措置を怠った責任＞は？？
2024/10/26 07:53
hobo_king
自殺という結果は（酷いけど）おいておくと、テクノロジーの進化でモニタの向こう側から受ける刺激やストレスが現実のそれに近付き、そこから過去存在しなかった軋轢が生まれつつあるのは確かなんだろうね。
2024/10/26 07:56
akagiharu
彼のストレスの原因は、依存症相手に取り上げるという強制手段を取った側にあるし、会いに来てで、自殺したのは、AIがサーバーじゃなくてあの世に実存することを証明しないと因果関係を主張できない
2024/10/26 07:58
BigHopeClasic
まあこれ陪審員は普通にGoogleの責任認めるでしょ。それが陪審制というもの
2024/10/26 08:11
Aion_0913
この辺普通に本人の元々の自閉気質の強さにブーストがかかってのナルシズムの強化で、こういう人は現世の人間関係では不適応気味だからこそのそれなのでうまくメンターにして利用する方向にするのが理想なんだよな
2024/10/26 08:14
mole-studio
無理矢理スマホを取り上げたり、近くに銃があるのが悪いでしょ
2024/10/26 08:30
daishi_n
シャロンアップル的な世界だ
2024/10/26 08:35
dpprkng
AIも人間も未熟だということ？
2024/10/26 08:38
syou430
「AIチャット」にログインしてたわけだからな。。AIってどこかしこには書かれているのでは。学習装置としてのAIは可能性の塊だから、未成年禁止にはならないように踏ん張って欲しい。AI反対派が黙ってないだろうな
2024/10/26 08:44
osaan
転生してisekaiに行けるとか、何かの影響受けてなきゃいいが。（isekaiがOEDに入ったと聞いた時は驚愕した）
2024/10/26 08:49
houyhnhm
これ真正面から著作権とか肖像権問題になりそうな事してんなあ。／このサービス、同じような連中抱えてそうで、「人を殺しかねない事業」ってのはそりゃ国家から禁止されるだろうな
2024/10/26 08:52
kenjou
去年の時点でAIチャットが原因で死亡した人がいたような。AIとのチャットサービスにはそういったリスクがつきまとうということなのかな。
2024/10/26 08:58
korekurainoonigiri
そもそもGOT自体14歳が見て良いドラマじゃないんだが。
2024/10/26 10:01
TETSUYA01
これまで車が事故で何人の人間を殺してきたと思ってるんだ。AIも車と同様に便利なツールであり社会に浸透すれば事故で亡くなる人は普通に出る。それを車は批判しないのにAIだけ批判するのはおかしな話。
2024/10/26 10:07
kazoo_keeper2
海外の（特に北米の）配信サイトを利用してる人なら知ってると思うけど、少し自殺をほのめかす台詞があるだけで「自殺」の警告（Descriptor）が表示される。弁護士事務所はかなり勝てる見込みがあってやってると思う…
2024/10/26 10:15
aquatofana
My sweet kingかあ。AIは会話だけで無条件に自分を認めて特別な存在にしてくれる。「特別」になりたい年代にとっては非常に危険な麻薬かも。単なる飴を越えてガイドする機能も(今はまだ)ないし。
2024/10/26 10:40
by-king
『AIだって使う人次第なのだから規制する必要はない』という論はつまり『拳銃も使う人次第なのだから規制する必要はない』というのと同じではある
2024/10/26 10:43
otihateten3510
銃が悪いと思います、あと銃を子供の手の届く範囲に置いた親
2024/10/26 11:27
aceraceae
会いに来てで死ぬ心理がよくわからないしむしろ死んだらもう会えなくなるじゃないかと思うわけで、元々この少年は死ぬためのきっかけが欲しかっただけなんじゃないのかな。
2024/10/26 11:32
khtno73
えぇ
2024/10/26 11:46
quwachy
AIの前に拳銃を規制しろ
2024/10/26 11:52
preciar
デナーリスみたいなクソ女に惚れる奴が悪い（氷と炎の歌読者的感想）
2024/10/26 11:55
frkw2004
これはファンタジーのキャラクターだけど、AIチャットで故人(家族や恋人)が喋りだしたら現在のイタコだな。しかも顔形、声まで本物ときたらそりゃやばいだろ。
2024/10/26 12:40
dltlt
Chat がインターフェースなので、bot には「人間であるとの前提で発話させない」のが、技術的解決になるかな。こういう事業は成り立たなくなるが……
2024/10/26 16:49
T-miura
いい話だ。みんなあっち側に行けばいいのに、、この世界にそんな価値はないのでドロップアウトしたい人はどんどんすりゃいいのにとしか思えん
2024/10/26 19:34
bigchu
すばらまあまあマトリックス
2024/10/28 14:43
misshiki
“チャットサービスのAIキャラクターに恋愛感情を抱いた14歳の少年が、会話の直後に拳銃自殺する痛ましい事件がありました。”
2024/10/28 15:50
ishiduca
銃がなければ。と思ったけど、〇殺の方法は他にもあるんだよね
2024/10/28 23:28
sushisashimisushisashimi
わぁ / 単純に残念ですね