人類が滅びる？高まるAI脅威論 国内の研究者の見方は | NHKニュース

中国との急接近も言われているし、「トランプは害悪」と考えるテロリストとか出てきそうな流れだなあ。いや、わからんけど。

何がどうなって滅びるのか言語化できない程度の知性しかないから人類はやっぱり滅びるしかないのか

一歩間違えばペーパークリップ問題のようになるところに来てるし、AGI開発ももう最終段階という話もある。チームみらい安野氏の米国AI企業取材動画が参考になる。

自分がChat GPTに質問しながらなんとなく理解した内容がとても分かりやすくまとめられておりさすがNHK。

AIが悪意を持ったり、悪意を持った人に操られるリスクよりも、「人間の知能では理解・制御できない超高度なプロセスが、結果として人類の生存条件と衝突してしまうこと（アライメント問題）」こそ真の脅威だと思う。