AI脅威論、アンソロピックCEOに賛同広がる　歯止めなき競争に恐怖感 - 日本経済新聞

難しいよねぇ。中国などはAIが情報統制を破壊するリスクは当然考えてるとは思うが、中国内企業は狙ってやってたりして。

完全に同意するけど、もう無理なのよ。AIにより人類文明が疲弊するのは明らかだけど、疲弊すればするほどAI依存が深まるという負のループにハマっている。電力を失って石器時代に戻る機会を待とう。

「癌の治療法見つけます」「エコな新素材作ります」「労働から解放します」→「でも開発遅めます」

ペースを決めるのは国家じゃなくて自分達と思ってこれまでやってきたんだろうに、という批判にはどんな回答を用意するんだろうか。損得ではなくてこれは良心からの訴えです、と言われてもなあ。

堺屋太一の『油断！』ならぬコロナ禍による『隔離！』があってトランプによる『独善！』と続きついにはAIによる『遮断！』が現実となる暗い未来

AIによって人々が労働から解放されても金持ちがわざわざ我々を養ったり、私有財産が廃止されたり、資本主義から解放されたりということにはならない。経済のシステムを変えないことには人間への需要が減るだけだよね

中国は情報統制を破壊するリスクというよりも、AIによって情報統制を強める動きを狙ってると思うんよね。天安門事件とかAIは知らぬ存ぜぬって返すように学習させて、世の中に普及させれば自分たちの主張を通せる。

囚人のジレンマだな。この嘘つきどもが「いっせーのーせ！でやめようね」で真面目に止めるわけないし、こいつらも相互にそう考えてる

おそらく、すでにハーネスをつけても制御しきれない事例が増えてきていて、さらに能力を上げたら何がおきるのか、彼らも予想がつかなくなってきているんでしょう。再帰的自己改善を止めようとしても勝手にやるとか。