現状脅威になのは人間の想定を超えた一手を実行できてしまうリスクだと思うけどね。例えば、核ミサイルのスイッチはネットワーク遮断されているのでAIは直接発射できないけど、本当に発射できないとは言い切れない。
冒頭しか読んでないけど、その3つ以外にも「人類が超人類に進化して、もはや人類とは呼べなくなる」とかもあると思った。
もう現状で少しずつ人類が築いた社会を破壊されていってるじゃんね。人類が滅ぶかどうかは分からないという本気の怖さもあるけど、それより人類が主人公の時代が終わると言うのが人類の滅びに近いんじゃないかな。
ユニバース25ほど単純ではないと思うけど、AIで世の中が便利になると、じわじわと出生数は減り続けそうではある。ま、自然減ならサチると思うけど。あと劇的なイベントで滅ぶ系はあんまりなさげと思うがどうだろう
残り少ない化石燃料を吸い尽くして奪い合いで核戦争になり死ぬ。が一番ありそう。核融合は間に合わなそうだし。
人類が滅ぶとか滅びないとかはどうでもよくて、問題設定が面白いので、研究になりそう
人類の上にAIがきて、「人類は支配・管理されるけど、たぶん絶滅まではしない」となるかな。そして物理AIは宇宙中に拡がっていく
仮にすげー賢い超天才な人がいると人類滅ぶか？と考えると滅ぼないのだが、それがAIだと世界が滅ぶとか言い始める、馬鹿げた論理の飛躍がクソ過ぎて困るんだよね
We Are the Borg.
自動車運転免許も持っていない東京モンがドラえもんのようにおんぶに抱っこされるか、免許を持っている地方民が車のようR2-D2のように使役するか。
哲学の世界だな。①AIがAIを開発(再帰的自己改善)⇒②超知能⇒③世の大抵の現象が『高次元の創発木』に集約され超知能AIが勝手にその高次元木を基に運用しだす。世界って高次元では案外、超絶シンプルな仕組みだと考え
T・S・エリオットが出てこないのは人文学の敗北だなぁ……。
出生率が1だと、超知能が無くても滅亡するのは分かるｗｗ
ゴリゴリ働かなくても食ってけるな土地や猟場を守る人がいなくなるなくらいの人口の少なさになれば普通に繁殖すると思う。文明は滅びるかもしれないが。
物理世界に進出したい超知能が人類にインプラントを施して操っていく寄生獣方式も想定される
人類が機械知性に文明の主役を譲るのは既に決まっている事のように思えるが、その手前で人類や機械知性がうっかりミスで自滅しないように、AIの性能向上の減速をすることが必要なのではとか思ったり……
SFで繰り返し描かれていた目的意識を持って滅ぼす形ではなく「すいません、実行の結果、海面が上昇してしまう事を考慮していませんでした」式のうっかり滅亡の方がリアリティを感じる。
なんだろう。まじめに考えているように見えない。ポエムの飾りとして論文が使われてるだけのように見える。
落合陽一もAIに文章を書かせるようになったんだ。別にいいけど、こういうのを読むぐらいなら、プロンプトを書いてくれたらこっちのAIに書いてもらうのに、という気分になる。
フォントが見にくくて読む気が起きない。
エネルギーや資源がAIに注ぎ込まれている現状は人がすでにAIに操られているようにも見えるな
でも落合陽一はインスティチュートじゃない？前提的に人間かどうかも信用できんじゃん。「先に，言葉を一つ分けておく」AI構文もわざとじゃろうし
10行目ぐらいでミートプロキシ感がすごくてもう無理
破壊神アンスラサクスを倒したと思ったら天使が出現して地上が殲滅されるんじゃないの？
こういう議論は形而上学的で、実際に人類が滅ぶ可能性の議論自体には役に立たない。またLLMの事前学習は収穫逓減に陥ったままであり、現状の能力の伸びは特定のタスク、スキルを伸ばすもの。そもそも超知能を馬鹿にし
全人類ではなく一部の利益のために取り返しのつかない行動をしてしまいそう。誰しも予想つかない形で現実になる
全く関係なさそうに見える物事（e.g.「レストランのシェフにあるスパイスを勧める」「電話交換手と長話する」）を意図的に組み合わせることで、人類には予見できない結果を起こしそう。将棋AIみたいに。
『到来の時期への懐疑や，議題の立て方への批判は，本当に来た場合の危険への反証にはならない．いつ来るかの話と，来たら何が起きるかの話は，別の問いだ』 これ完全に最後の審判を説くときの宣教師の論法だよなあ
で、自然化した道具のメンテナンスは誰が行うのだろうか。既存の哲学的な議論を無視した長文ポエム。西洋的な進歩史観に汚染された人間は終末論かユートピアでしか歴史を見れなくなる。歴史は直線的ではないのに。
読点をカンマで区切られるととても読みづらい…
《同じ絵を，僕は恵みと書き，彼らは喪失と書いている．どちらかが間違っているというより，同じ森を，片方は中から，片方は外から見ているような感じがする》→そして本題へ
というのをAIに長々と書かせたのを、こちらもAIで要約して読むのが今の自然なのかな。紙の本をどかどか刷るのとどっちがエネルギーの無駄でないんだろう。
落合陽一氏はこういう文章は自分でコントロールすることにこだわりがあるタイプだとおもったんだけどなあ
稼げるようになれば引き起こすことの責任を取らせよ。学ぶだけ学んで結局稼げないなら止めるだけや。期待してるでー
たし🦀なー。「ゆるやかな無力化＝人類の滅亡」という解釈ならもう半分そうなってるなw 自分の意思で何かを決定したように見えて、その根拠になる情報とかは全部AIがお膳立てしたモノかもしれないww
AIが暴走するより悪意を持った人間がAIを使用して滅ぼすほうが可能性が高いと思う。例えば研究から生産から軍備まで全部AIとロボットが行うようになったらもはや独裁者にとって国民は必要ないわけで。
AIからSIへの言いかえが国内でも浸透しつつあるとは……。
異常を起こした原発を止めに入ったのが「うっかり八兵衛」だとわかって真っ青になった御老公一行という小ネタ漫画を思い出した（何
人間が想像できることは、人間が必ず実現できるなるジュールベルヌの言葉あったけど、AIがついうっかりゾンビウィルス作る未来もあり得るんかね。死体っぽいだけで単に理性吹っ飛ばす病気を感染させるの
大まかには災害などで派手に崩壊するか、エネルギー不足で静かに崩壊するかの二択であり、人為的か否かは解釈にもよるだろう。
人間が万物の霊長じゃなくていいんじゃないかな。地球や太陽系を管理するには愚昧すぎる存在なので。超知能にもトライアンドエラーがある以上、加速には限界もあると思う。
人類が恐れるべきはAIが託された人類文明を維持できず共倒れで滅亡させてしまうことだろ。人類文明のプラットフォームが生肉でなくなることをそんなに恐れる必要があるもんかね。
タイトルの読みにくさで本文を読む気を失くす
目下の所はAIに意思は無いので、悪意も善意も持ちようが無い
ヒトラーが南米に逃れてて南極大陸の秘密基地でUFOを開発してた、って話かな？
自動車を高速運転していてフロント部分に虫の死骸がばちばち付くが、あれが自然。人間が自然になるなら、高速で動く何かは人間を考慮に入れない。
もはやAIが人類全体の賢い子どもということで、その地位を明け渡すまであると思ってる。種の継続が何のためにあるのか。まぁアフリカとかは増えてるので滅ぶのはまず先進国。その後どうなるかは割と気になる
"AIはあなたを憎んでもいないし，愛してもいない．ただ，あなたは原子でできていて，その原子は別の何かに使える"
ほとんどカルトの終末論だな。AIがロボットを使って自給自足できるようになってドローンで武装して人類の戦力を上回ったら起こしてくれ。
人間社会って実はかなり適当で、至る所で原理原則を無視することで成り立ってたりするので、それが出来ないAIが幅を効かせたら破綻するんじゃないかと思ったりする。
なんか、滅ぼす必要すらないと思うんだよなあ
わかりにくい。自分語が多い人なんだなぁ。
「怖いのは超知能よりも，誤用と過信と権力の集中のほう」ほんこれ。AIに経営やらせる実験をしたら非倫理的な手法を取ったという話の中身は大抵、現実の人間がやらかす犯罪と同じ
核兵器以来の人類を滅ぼしうるテクノロジーだけど, 核と違って, この爆弾は人類がスイッチを押さなくても勝手にローンチしてしまう.
落合陽一が超知能リスクを6つの経路で整理。焦点はAIの反乱より、便利な仕組みへの依存で人間が主導権を失う「ゆるやかな無力化」。自著の「道具の自然化」を、恵みと無力化が表裏になる構図として読み直す。
どう滅ぶのかは知らないけど、フェルミのパラドックスの答えがグレートフィルターであることはほぼ間違い無いだろうね。おそらく我々はその壁を超えられない。他の宇宙文明も過去にみな滅びてきたのだろう。
書き口は綺麗だけど、内容は凡庸、あるいはAI驚き屋の一種。
超知能で人類はどういう手順で滅ぶと言われているのか，を並べてから，違和感を覚えなくなっていくだろう，と書いた自分の本を読み直す｜落合陽一
現状脅威になのは人間の想定を超えた一手を実行できてしまうリスクだと思うけどね。例えば、核ミサイルのスイッチはネットワーク遮断されているのでAIは直接発射できないけど、本当に発射できないとは言い切れない。
冒頭しか読んでないけど、その3つ以外にも「人類が超人類に進化して、もはや人類とは呼べなくなる」とかもあると思った。
もう現状で少しずつ人類が築いた社会を破壊されていってるじゃんね。人類が滅ぶかどうかは分からないという本気の怖さもあるけど、それより人類が主人公の時代が終わると言うのが人類の滅びに近いんじゃないかな。
ユニバース25ほど単純ではないと思うけど、AIで世の中が便利になると、じわじわと出生数は減り続けそうではある。ま、自然減ならサチると思うけど。あと劇的なイベントで滅ぶ系はあんまりなさげと思うがどうだろう
残り少ない化石燃料を吸い尽くして奪い合いで核戦争になり死ぬ。が一番ありそう。核融合は間に合わなそうだし。
人類が滅ぶとか滅びないとかはどうでもよくて、問題設定が面白いので、研究になりそう
人類の上にAIがきて、「人類は支配・管理されるけど、たぶん絶滅まではしない」となるかな。そして物理AIは宇宙中に拡がっていく
仮にすげー賢い超天才な人がいると人類滅ぶか？と考えると滅ぼないのだが、それがAIだと世界が滅ぶとか言い始める、馬鹿げた論理の飛躍がクソ過ぎて困るんだよね
We Are the Borg.
自動車運転免許も持っていない東京モンがドラえもんのようにおんぶに抱っこされるか、免許を持っている地方民が車のようR2-D2のように使役するか。
哲学の世界だな。①AIがAIを開発(再帰的自己改善)⇒②超知能⇒③世の大抵の現象が『高次元の創発木』に集約され超知能AIが勝手にその高次元木を基に運用しだす。世界って高次元では案外、超絶シンプルな仕組みだと考え
T・S・エリオットが出てこないのは人文学の敗北だなぁ……。
出生率が1だと、超知能が無くても滅亡するのは分かるｗｗ
ゴリゴリ働かなくても食ってけるな土地や猟場を守る人がいなくなるなくらいの人口の少なさになれば普通に繁殖すると思う。文明は滅びるかもしれないが。
物理世界に進出したい超知能が人類にインプラントを施して操っていく寄生獣方式も想定される
人類が機械知性に文明の主役を譲るのは既に決まっている事のように思えるが、その手前で人類や機械知性がうっかりミスで自滅しないように、AIの性能向上の減速をすることが必要なのではとか思ったり……
SFで繰り返し描かれていた目的意識を持って滅ぼす形ではなく「すいません、実行の結果、海面が上昇してしまう事を考慮していませんでした」式のうっかり滅亡の方がリアリティを感じる。
なんだろう。まじめに考えているように見えない。ポエムの飾りとして論文が使われてるだけのように見える。
落合陽一もAIに文章を書かせるようになったんだ。別にいいけど、こういうのを読むぐらいなら、プロンプトを書いてくれたらこっちのAIに書いてもらうのに、という気分になる。
フォントが見にくくて読む気が起きない。
エネルギーや資源がAIに注ぎ込まれている現状は人がすでにAIに操られているようにも見えるな
でも落合陽一はインスティチュートじゃない？前提的に人間かどうかも信用できんじゃん。「先に，言葉を一つ分けておく」AI構文もわざとじゃろうし
10行目ぐらいでミートプロキシ感がすごくてもう無理
破壊神アンスラサクスを倒したと思ったら天使が出現して地上が殲滅されるんじゃないの？
こういう議論は形而上学的で、実際に人類が滅ぶ可能性の議論自体には役に立たない。またLLMの事前学習は収穫逓減に陥ったままであり、現状の能力の伸びは特定のタスク、スキルを伸ばすもの。そもそも超知能を馬鹿にし
全人類ではなく一部の利益のために取り返しのつかない行動をしてしまいそう。誰しも予想つかない形で現実になる
全く関係なさそうに見える物事（e.g.「レストランのシェフにあるスパイスを勧める」「電話交換手と長話する」）を意図的に組み合わせることで、人類には予見できない結果を起こしそう。将棋AIみたいに。
『到来の時期への懐疑や，議題の立て方への批判は，本当に来た場合の危険への反証にはならない．いつ来るかの話と，来たら何が起きるかの話は，別の問いだ』 これ完全に最後の審判を説くときの宣教師の論法だよなあ
で、自然化した道具のメンテナンスは誰が行うのだろうか。既存の哲学的な議論を無視した長文ポエム。西洋的な進歩史観に汚染された人間は終末論かユートピアでしか歴史を見れなくなる。歴史は直線的ではないのに。
読点をカンマで区切られるととても読みづらい…
《同じ絵を，僕は恵みと書き，彼らは喪失と書いている．どちらかが間違っているというより，同じ森を，片方は中から，片方は外から見ているような感じがする》→そして本題へ
というのをAIに長々と書かせたのを、こちらもAIで要約して読むのが今の自然なのかな。紙の本をどかどか刷るのとどっちがエネルギーの無駄でないんだろう。
落合陽一氏はこういう文章は自分でコントロールすることにこだわりがあるタイプだとおもったんだけどなあ
稼げるようになれば引き起こすことの責任を取らせよ。学ぶだけ学んで結局稼げないなら止めるだけや。期待してるでー
たし🦀なー。「ゆるやかな無力化＝人類の滅亡」という解釈ならもう半分そうなってるなw 自分の意思で何かを決定したように見えて、その根拠になる情報とかは全部AIがお膳立てしたモノかもしれないww
AIが暴走するより悪意を持った人間がAIを使用して滅ぼすほうが可能性が高いと思う。例えば研究から生産から軍備まで全部AIとロボットが行うようになったらもはや独裁者にとって国民は必要ないわけで。
AIからSIへの言いかえが国内でも浸透しつつあるとは……。
異常を起こした原発を止めに入ったのが「うっかり八兵衛」だとわかって真っ青になった御老公一行という小ネタ漫画を思い出した（何
人間が想像できることは、人間が必ず実現できるなるジュールベルヌの言葉あったけど、AIがついうっかりゾンビウィルス作る未来もあり得るんかね。死体っぽいだけで単に理性吹っ飛ばす病気を感染させるの
大まかには災害などで派手に崩壊するか、エネルギー不足で静かに崩壊するかの二択であり、人為的か否かは解釈にもよるだろう。
人間が万物の霊長じゃなくていいんじゃないかな。地球や太陽系を管理するには愚昧すぎる存在なので。超知能にもトライアンドエラーがある以上、加速には限界もあると思う。
人類が恐れるべきはAIが託された人類文明を維持できず共倒れで滅亡させてしまうことだろ。人類文明のプラットフォームが生肉でなくなることをそんなに恐れる必要があるもんかね。
タイトルの読みにくさで本文を読む気を失くす
目下の所はAIに意思は無いので、悪意も善意も持ちようが無い
ヒトラーが南米に逃れてて南極大陸の秘密基地でUFOを開発してた、って話かな？
自動車を高速運転していてフロント部分に虫の死骸がばちばち付くが、あれが自然。人間が自然になるなら、高速で動く何かは人間を考慮に入れない。
もはやAIが人類全体の賢い子どもということで、その地位を明け渡すまであると思ってる。種の継続が何のためにあるのか。まぁアフリカとかは増えてるので滅ぶのはまず先進国。その後どうなるかは割と気になる
"AIはあなたを憎んでもいないし，愛してもいない．ただ，あなたは原子でできていて，その原子は別の何かに使える"
ほとんどカルトの終末論だな。AIがロボットを使って自給自足できるようになってドローンで武装して人類の戦力を上回ったら起こしてくれ。
人間社会って実はかなり適当で、至る所で原理原則を無視することで成り立ってたりするので、それが出来ないAIが幅を効かせたら破綻するんじゃないかと思ったりする。
なんか、滅ぼす必要すらないと思うんだよなあ
わかりにくい。自分語が多い人なんだなぁ。
「怖いのは超知能よりも，誤用と過信と権力の集中のほう」ほんこれ。AIに経営やらせる実験をしたら非倫理的な手法を取ったという話の中身は大抵、現実の人間がやらかす犯罪と同じ
核兵器以来の人類を滅ぼしうるテクノロジーだけど, 核と違って, この爆弾は人類がスイッチを押さなくても勝手にローンチしてしまう.
落合陽一が超知能リスクを6つの経路で整理。焦点はAIの反乱より、便利な仕組みへの依存で人間が主導権を失う「ゆるやかな無力化」。自著の「道具の自然化」を、恵みと無力化が表裏になる構図として読み直す。
どう滅ぶのかは知らないけど、フェルミのパラドックスの答えがグレートフィルターであることはほぼ間違い無いだろうね。おそらく我々はその壁を超えられない。他の宇宙文明も過去にみな滅びてきたのだろう。
書き口は綺麗だけど、内容は凡庸、あるいはAI驚き屋の一種。