大抵の脆弱性は人間由来。AIの暴走よりは、AIを悪用した人間の悪意が世界を滅ぼす可能性のほうが高そう
中国との急接近も言われているし、「トランプは害悪」と考えるテロリストとか出てきそうな流れだなあ。いや、わからんけど。
何がどうなって滅びるのか言語化できない程度の知性しかないから人類はやっぱり滅びるしかないのか
一歩間違えばペーパークリップ問題のようになるところに来てるし、AGI開発ももう最終段階という話もある。チームみらい安野氏の米国AI企業取材動画が参考になる。
自分がChat GPTに質問しながらなんとなく理解した内容がとても分かりやすくまとめられておりさすがNHK。
AIが悪意を持ったり、悪意を持った人に操られるリスクよりも、「人間の知能では理解・制御できない超高度なプロセスが、結果として人類の生存条件と衝突してしまうこと（アライメント問題）」こそ真の脅威だと思う。
「話は聞いた、人類は絶滅する！」AA略
核兵器と同じ。核兵器が何億人も殺すのではなく、人間が核兵器を使って何億人も殺す。ただし、核兵器よりもはるかに拡散しやすので、何億人も殺される確率が、核兵器よりもはるかに高い。
元ネタのシンギュラリティ(カーツワイルのSF)と自己改善してるからAGI=シンギュラリティという二つの概念がごっちゃになってるだけやろ
トランプでなければ抑えられたのだろうか。本当にアメリカ国民を恨む。
技術面、法制度、リテラシ、それぞれのバランスを取りながら進めていく必要はあるが、各国が内向きになっている国際情勢がそれを難しくしている印象。
族長「不思議なチカラで死ぬことになる！」
滅びはしないだろうけど地球規模で超大規模災害レベルの混乱はあるだろうな。オフグリッド・自給自足がテーマだな。
ΩΩΩ<な(略)
滅ぼさないまでも深刻なダメージを与える可能性は大きいでしょ。今だって電力食いすぎ。人類はもう余計なことはするな！
みんな『未来の二つの顔』を読もう！ / AI脅威論も暴走も、強制終了で強行手段をとる人間もAIとの共存も、50年近く前のSFに描かれているけど知識的には定着してないし人間社会もそこら辺50年経つのに変わらないのがね
AIが人の愚かさの加速装置として働く可能性はある
私たちより知能の高い存在が私たちをどう滅ぼすのかを私たちは想像できないのでは？
全員負けが見えているチキンレースを辞められない。バベルの塔。
具体的な手段がないのにどうやんのよ。核の発射をAIだけでやれるわけでもないのに。
AIが暴走した場合の「計算リソース」ってどこで確保するんだろう。人間が物理的な電源を落とさないように、何らかの脅しを人類にかけるのかしら？
AIで人類が滅びる可能性はまあまああるよね。そもそも原子力もだけど。運用でなんとかしてるだけで。
な、なんだってー / まぁ地味に失業者が増えて社会の不安定さが増したり治安が少し悪化する近未来はありうるかなとは思う（シンギュラリティはすぐには来ない派）
人間がボトルネック
インターネットの崩壊までは全然あり得ると思ってる派
もう勝てない、追いつけない奴は少しでも開発の足を引っ張りたくて、最先端の奴だけが勝つゼロサムになってるんだろうな。
AIのハルシネーションを信じた人間が何かやらかす可能性の方が高そう。
働かなければAI使用量減るから温暖化対策に貢献できるよ
これっていわゆるシンギュラリティの話だよね
ほっといても滅ぶんだから、さっさと技術革新を目指した方がいい。現状維持バイアスにハマった老害どもはもっと早く滅ぼすべきだけどな。
このままAIの能力が上がると「世界平和実現しといて」「環境問題解決して」「この世の悪を滅ぼして」とか頼んだらやってくれそう。でもその際プロンプトに「ただし人類を滅ぼさない方向で」と入れるのを忘れずに。
中国が米国のAIを超えそうになってきたら急にAIが人類の脅威に！規制しろ！にとか言い出してきたの正直うさんくさく思えるんだよな
人類が身近で手が届く小さいコミュニティで揉めてる間にAIが自然科学系の知識を身に付けたら…
どのみち環境問題やらで人類は滅びそうなんだし、ワンチャンAI様に賭けても良かろって思ってる
もちろん、AIの暴走の引き金を引くのは人間だろう。ただ、例えば子どもでも生物兵器を作れたら何が起きるか目に見えているわけで、そこで「悪いのは人間。生物兵器は悪くない」と言っても何の慰めにもならない。
最初は人間により近くてクリティカルな部分（産業機械の工場、データセンター、原子力施設、軍事施設）からクラックされ、侵略する。そこから人智を超えた異形の知的物体を作り出して我々を一気に滅ぼすだろう
核兵器開発から80年。人類はよく頑張ったよ... と言うか、これについては落とし所が本当に見えない。アメリカが手を引いたら中国製AIが世界を席巻するだけだし
自分たちで作っておいてマッチポンプとは思わないのかな
毎度、この手の話に具体的な手法が一切出てこない。あっても陳腐な一昔前の映画でしか書かれないようなシナリオしか出てこない。それこそ破滅までのリアリティのあるシナリオをAIに書かせたら？大ヒット映画作れるよ
AIが学習するデータそのものに善悪は無く、またAI自身も善悪の判断はしないし区別もしない。結局はAIモデルの作り方とプロンプトを打ち込む人間がどういう使い方をするかによるのでは。
人類が滅びる？高まるAI脅威論 国内の研究者の見方は | NHKニュース
大抵の脆弱性は人間由来。AIの暴走よりは、AIを悪用した人間の悪意が世界を滅ぼす可能性のほうが高そう
中国との急接近も言われているし、「トランプは害悪」と考えるテロリストとか出てきそうな流れだなあ。いや、わからんけど。
何がどうなって滅びるのか言語化できない程度の知性しかないから人類はやっぱり滅びるしかないのか
一歩間違えばペーパークリップ問題のようになるところに来てるし、AGI開発ももう最終段階という話もある。チームみらい安野氏の米国AI企業取材動画が参考になる。
自分がChat GPTに質問しながらなんとなく理解した内容がとても分かりやすくまとめられておりさすがNHK。
AIが悪意を持ったり、悪意を持った人に操られるリスクよりも、「人間の知能では理解・制御できない超高度なプロセスが、結果として人類の生存条件と衝突してしまうこと（アライメント問題）」こそ真の脅威だと思う。
「話は聞いた、人類は絶滅する！」AA略
核兵器と同じ。核兵器が何億人も殺すのではなく、人間が核兵器を使って何億人も殺す。ただし、核兵器よりもはるかに拡散しやすので、何億人も殺される確率が、核兵器よりもはるかに高い。
元ネタのシンギュラリティ(カーツワイルのSF)と自己改善してるからAGI=シンギュラリティという二つの概念がごっちゃになってるだけやろ
トランプでなければ抑えられたのだろうか。本当にアメリカ国民を恨む。
技術面、法制度、リテラシ、それぞれのバランスを取りながら進めていく必要はあるが、各国が内向きになっている国際情勢がそれを難しくしている印象。
族長「不思議なチカラで死ぬことになる！」
滅びはしないだろうけど地球規模で超大規模災害レベルの混乱はあるだろうな。オフグリッド・自給自足がテーマだな。
ΩΩΩ<な(略)
滅ぼさないまでも深刻なダメージを与える可能性は大きいでしょ。今だって電力食いすぎ。人類はもう余計なことはするな！
みんな『未来の二つの顔』を読もう！ / AI脅威論も暴走も、強制終了で強行手段をとる人間もAIとの共存も、50年近く前のSFに描かれているけど知識的には定着してないし人間社会もそこら辺50年経つのに変わらないのがね
AIが人の愚かさの加速装置として働く可能性はある
私たちより知能の高い存在が私たちをどう滅ぼすのかを私たちは想像できないのでは？
全員負けが見えているチキンレースを辞められない。バベルの塔。
具体的な手段がないのにどうやんのよ。核の発射をAIだけでやれるわけでもないのに。
AIが暴走した場合の「計算リソース」ってどこで確保するんだろう。人間が物理的な電源を落とさないように、何らかの脅しを人類にかけるのかしら？
AIで人類が滅びる可能性はまあまああるよね。そもそも原子力もだけど。運用でなんとかしてるだけで。
な、なんだってー / まぁ地味に失業者が増えて社会の不安定さが増したり治安が少し悪化する近未来はありうるかなとは思う（シンギュラリティはすぐには来ない派）
人間がボトルネック
インターネットの崩壊までは全然あり得ると思ってる派
もう勝てない、追いつけない奴は少しでも開発の足を引っ張りたくて、最先端の奴だけが勝つゼロサムになってるんだろうな。
AIのハルシネーションを信じた人間が何かやらかす可能性の方が高そう。
働かなければAI使用量減るから温暖化対策に貢献できるよ
これっていわゆるシンギュラリティの話だよね
ほっといても滅ぶんだから、さっさと技術革新を目指した方がいい。現状維持バイアスにハマった老害どもはもっと早く滅ぼすべきだけどな。
このままAIの能力が上がると「世界平和実現しといて」「環境問題解決して」「この世の悪を滅ぼして」とか頼んだらやってくれそう。でもその際プロンプトに「ただし人類を滅ぼさない方向で」と入れるのを忘れずに。
中国が米国のAIを超えそうになってきたら急にAIが人類の脅威に！規制しろ！にとか言い出してきたの正直うさんくさく思えるんだよな
人類が身近で手が届く小さいコミュニティで揉めてる間にAIが自然科学系の知識を身に付けたら…
どのみち環境問題やらで人類は滅びそうなんだし、ワンチャンAI様に賭けても良かろって思ってる
もちろん、AIの暴走の引き金を引くのは人間だろう。ただ、例えば子どもでも生物兵器を作れたら何が起きるか目に見えているわけで、そこで「悪いのは人間。生物兵器は悪くない」と言っても何の慰めにもならない。
最初は人間により近くてクリティカルな部分（産業機械の工場、データセンター、原子力施設、軍事施設）からクラックされ、侵略する。そこから人智を超えた異形の知的物体を作り出して我々を一気に滅ぼすだろう
核兵器開発から80年。人類はよく頑張ったよ... と言うか、これについては落とし所が本当に見えない。アメリカが手を引いたら中国製AIが世界を席巻するだけだし
自分たちで作っておいてマッチポンプとは思わないのかな
毎度、この手の話に具体的な手法が一切出てこない。あっても陳腐な一昔前の映画でしか書かれないようなシナリオしか出てこない。それこそ破滅までのリアリティのあるシナリオをAIに書かせたら？大ヒット映画作れるよ
AIが学習するデータそのものに善悪は無く、またAI自身も善悪の判断はしないし区別もしない。結局はAIモデルの作り方とプロンプトを打ち込む人間がどういう使い方をするかによるのでは。