ミソスの時もそうだが騒いでもそこまでにはならないのでは。。
インターネットの一時的な全滅ぐらいで済めば、ものすごくちょうどいい(人類の)学習用ダメージだと思う。致命的な生物兵器とかをいきなり喰らうよりよほどいいきっかけになる。
実際に減速するのは難しいと思うけど第三者評価機関や安全策の整備を急ぐべきというのは同意できる
ツェリード二ヒみたいやな
AIがAIを作って、ネットで増殖すればアウトだな。計算資源（エサ）をどうやって確保するのかわからんが。大量のPCから少しずつ計算資源を奪うボットネットってのがあるらしい。PTPビットコイン方式のAIとか。
ネットくらい滅んでも人類にはノーダメやろしょうもな
例えていうなら核兵器を世界中の人が使えるような感じか。お互いに攻撃し出してあらゆるネットサービスやそれに繋がる金融、政府や自治体、鉄道や航空の社会インフラに電気、通信も全部突然止まる日が来るかもな。
fanza乗っ取られたら死ぬ。情報障壁の消滅こそがリアルな人類補完計画だったんだよ！
ガソリンを撒きながら火の用心を叫んでいる。本気で「全員が死ぬ可能性がある」と信じているなら、今すぐ開発のコンセントを抜くのが倫理的判断だろ。狙いは「責任の非人格化・非所在化」と「参入障壁」上げかな
御社で電源のプラグを引っこ抜けばいいのでは？
今でも怖いけどロボットがその辺を動き回る時代にそれをやられたらと想像すると更に怖いな
AI産業は最初から「リスクやモラルを主張することで（より妥当な開発方針をとると主張する自社に）投資を呼ぶ」構造になってるのがな
すでにGAFAMとCDN事業者に乗っ取られてるようなもんでは
インターネット全体を乗っ取るって具体的にどうやってやるのかな。
AI驚き屋の親玉
地球外少年少女みたいにリミッターを付けて使うようになるのか
（ネタバレ）映画トランセンデンスと似たシチュエーションだが、映画だとすべての電子（気？）機器の動作を阻害するウィルスをばらまくことで、人類の技術レベル後退と引き換えにAIの暴走を阻止してたが、さて。
全然怖くないんだけど、具体的にClaudeは我々に何をやらかすの？
これって、AIの能力が高いから、ではなくて、本質的にはアホで制御不能だから、だよね。
結局、生成AIのデバック手法がまだ確立されてないってだけなんじゃ。だから何?と言いたくなる。ポジショントーク過ぎてなんとも。
だからスカイネットを作るなよ、と何度言ったら。
しばらく電子メールが一切使えない世界とかなら見てみたい。
ユドコウスキー・エリーザー&ソアレス・ネイト『超知能AIをつくれば人類は絶滅する』 AIが人類を滅ぼすリスクに興味があるなら必読。超知能がなぜ制御不能になり得るのか、最悪のシナリオが描かれている
ネットの一時停止は重いね。一見、デジタルな損害に見えるけど、医療・決済・物流を想像すると、非常にフィジカルな打撃。自分の金融資産がゼロになるリスクもあるのかな？
CNN的にはGrokはチャットボットらしい
「インターネットが壊れた！」が起こりうるかもって言われてるのはなんかすごい時代だなと思う
核ミサイルのボタン押すとかまでいかなくても、今なら大手企業（IT、金融、物流、医療、etc）のデータベース壊すだけで社会が止まることもありそうだしなぁ。超AIならDNSルートサーバー落とすのもできそう。
しかしインターネットを乗っ取るって具体的にどうやるのよ
AnthropicのDario AmodeiがAI開発の減速を提言。半年～1年以内にAIがネット全体を乗っ取る能力を持つ可能性を警告。第三者評価機関の導入を提案し、OpenAIとxAIも賛意。
”自社の安全対策を検証し、事故を報告し、AIモデルや学習パイプライン、プロセスを確認できるよう、社内全体にアクセスできる第三者評価機関を採用する"
開発元のお前らがちゃんとガードしろ、という話でしかない（そしてちゃんと被害者に金払え）
アンソロピックCEOが警鐘、AIが半年～1年以内にインターネット全体を乗っ取る能力持つ可能性
ミソスの時もそうだが騒いでもそこまでにはならないのでは。。
インターネットの一時的な全滅ぐらいで済めば、ものすごくちょうどいい(人類の)学習用ダメージだと思う。致命的な生物兵器とかをいきなり喰らうよりよほどいいきっかけになる。
実際に減速するのは難しいと思うけど第三者評価機関や安全策の整備を急ぐべきというのは同意できる
ツェリード二ヒみたいやな
AIがAIを作って、ネットで増殖すればアウトだな。計算資源（エサ）をどうやって確保するのかわからんが。大量のPCから少しずつ計算資源を奪うボットネットってのがあるらしい。PTPビットコイン方式のAIとか。
ネットくらい滅んでも人類にはノーダメやろしょうもな
例えていうなら核兵器を世界中の人が使えるような感じか。お互いに攻撃し出してあらゆるネットサービスやそれに繋がる金融、政府や自治体、鉄道や航空の社会インフラに電気、通信も全部突然止まる日が来るかもな。
fanza乗っ取られたら死ぬ。情報障壁の消滅こそがリアルな人類補完計画だったんだよ！
ガソリンを撒きながら火の用心を叫んでいる。本気で「全員が死ぬ可能性がある」と信じているなら、今すぐ開発のコンセントを抜くのが倫理的判断だろ。狙いは「責任の非人格化・非所在化」と「参入障壁」上げかな
御社で電源のプラグを引っこ抜けばいいのでは？
今でも怖いけどロボットがその辺を動き回る時代にそれをやられたらと想像すると更に怖いな
AI産業は最初から「リスクやモラルを主張することで（より妥当な開発方針をとると主張する自社に）投資を呼ぶ」構造になってるのがな
すでにGAFAMとCDN事業者に乗っ取られてるようなもんでは
インターネット全体を乗っ取るって具体的にどうやってやるのかな。
AI驚き屋の親玉
地球外少年少女みたいにリミッターを付けて使うようになるのか
（ネタバレ）映画トランセンデンスと似たシチュエーションだが、映画だとすべての電子（気？）機器の動作を阻害するウィルスをばらまくことで、人類の技術レベル後退と引き換えにAIの暴走を阻止してたが、さて。
全然怖くないんだけど、具体的にClaudeは我々に何をやらかすの？
これって、AIの能力が高いから、ではなくて、本質的にはアホで制御不能だから、だよね。
結局、生成AIのデバック手法がまだ確立されてないってだけなんじゃ。だから何?と言いたくなる。ポジショントーク過ぎてなんとも。
だからスカイネットを作るなよ、と何度言ったら。
しばらく電子メールが一切使えない世界とかなら見てみたい。
ユドコウスキー・エリーザー&ソアレス・ネイト『超知能AIをつくれば人類は絶滅する』 AIが人類を滅ぼすリスクに興味があるなら必読。超知能がなぜ制御不能になり得るのか、最悪のシナリオが描かれている
ネットの一時停止は重いね。一見、デジタルな損害に見えるけど、医療・決済・物流を想像すると、非常にフィジカルな打撃。自分の金融資産がゼロになるリスクもあるのかな？
CNN的にはGrokはチャットボットらしい
「インターネットが壊れた！」が起こりうるかもって言われてるのはなんかすごい時代だなと思う
核ミサイルのボタン押すとかまでいかなくても、今なら大手企業（IT、金融、物流、医療、etc）のデータベース壊すだけで社会が止まることもありそうだしなぁ。超AIならDNSルートサーバー落とすのもできそう。
しかしインターネットを乗っ取るって具体的にどうやるのよ
AnthropicのDario AmodeiがAI開発の減速を提言。半年～1年以内にAIがネット全体を乗っ取る能力を持つ可能性を警告。第三者評価機関の導入を提案し、OpenAIとxAIも賛意。
”自社の安全対策を検証し、事故を報告し、AIモデルや学習パイプライン、プロセスを確認できるよう、社内全体にアクセスできる第三者評価機関を採用する"
開発元のお前らがちゃんとガードしろ、という話でしかない（そしてちゃんと被害者に金払え）