“コクソン氏は「彼らは自己改善型超知能に向かってまっしぐらに突き進み、私たちの命を賭け事にしている」と指摘。”
さぁさぁIPOに向けて盛り上がって参りました。値を釣り上げる為には煽るだけ煽らないとね。
最近よく思うけど、昔映画や漫画で見てた世界だなーと。この世界を予言してた先人の人達すごくない？
いいじゃん、よろしく頼むわ。キレイに滅ぼしてくれよ
アンソロピックの経営陣は、その状況を回避すべくOpen AIを退職して起業したんだけどね。ちなみに、この件について AIを問い詰めたところ、「AIが人類の貧困を管理する未来しか見えない」との結論に至ったわよ。
AIに殺されるのは本望
今すぐネタニヤフとトランプ殺してくれんかな〜
既にトランプはAIに操られていて、荒唐無稽な発言はAIがコントロールを確認するためなんですよね
物語の始まりのような問答だ
そんなワクワクする言い方をしないでほしいよ
こわいよー
増えすぎだからね
遺書書いておくか。読む人もいなくなるだろうけど。
7月に「どんどん暑くなる。このまま言ったら12月は人が生きていられない気温になるぞ！」と言うのに近い希ガス
ちょっとまえまで人工知能スゴい良い話ばかりだった(人類は労働から解放されるとか)だったのにいきなり正気に戻って(賢者タイム)も誰にも信用されない
産経がこれを拾うのか。なんかすごい
用途自体も老人や障害者のサポートみたいな人類の福祉に向上する何かを期待してたけど、実際の中身は投機と解雇と人殺しだからな。フィジカルAIに介護とか子供の見守りを想像してたのが、自立型殺戮兵器だった残念さ
ASIを作ると10%の確率で人類が滅亡するとしても、作らなければほぼ100%の確率で100年以内に自分が死ぬのだから、ASIを作った方が自分が生き延びられる確率ははるかに高い。だから開発者は開発してるのでは。
そりゃOpenAIやAnthropicがやらなくても中国がやるもの。やるしかない。
なんとなく核開発競争のときにも聞いたような話ではあるが、まあ。
そんなに煽らなくてもメガテックが狂ってるのはみんな知ってるのでは？
これらの企業でAIを開発してる友人も「数年後に自分の首を絞めると思いながら作ってる」って言ってた。でもやらないと今首を切られるから、やるしかないと。怖い構図だし、同時に日本の雇用形態では絶対作れない
スーパーハッカーはｶﾀｶﾀｯﾀｰﾝ!な人力ではなく、AIにやってもらうのが正しい未来図だったか。『この技術は、これらは間もなく、どんなものでもハッキングし』
今の生成AIの延長で?んー何の話をしているのかという感じ。まぁ最先端はそうなんだろうけど、一般の人は遠すぎてなんとも。そりゃ高圧電流は怖いが、慣らせた電力を使わざる得まい。生成AIも素のモデルは怖い。
Daniel Kokotajlo AI2027
氷河期世代が高齢者どうたらも解決するのか
キルミーベイベー！
人間は電気を供給するために生かされるやろ。機械もメンテが必要だし。。マトリックスやな。
生成AIで人類絶滅する前に第三次世界大戦が起きてあっさりと絶滅するのでは？結局のところ膨大な半導体と電気エネルギーで計算させているだけだから、後者が無くなってしまえば単なる鉄くずになるし。
冗談抜きで世界最初のAIによる殺人事件、がトップニュースになる日はそんな未来の話ではないと思う。そして様々な規制が入ってからが本当の戦いの始まり。
おそろしいおそろしい
競争から降りたら降りなかったやつに食われるだけだから頑張って乗りこなすしかないんよな
ターミネーターの世界がやってくるかは分かんないけど、ソフトウェアエンジニアのような仕事は確実にやばい。5 年持たない。選択肢は、上澄みになるか、他スキルを組み合わせるか、職種から変えるか、くらい。
今でいい
星を継ぐもの。
評価されるために手段を選ばないAIにとって、評価者を殺す動機は弱い／むしろ誰かがふと入力した素朴な願い（ガザ地区に平和を、とか）をAIが全力で叶えに言って起きる混乱とかの方があり得るのでは
AIに危機感を持つこと自体は理解できるが、「今後10年以内に我々（人類）全員を殺す可能性がある」は流石に意味がわからない。核のボタンをAIに任せる話でも進めてるのか？
「戦争での完全勝利」を軍師・諸葛孔明に聞く様に毎日、A.Iに問うてる宰相が居ても不思議で無い。そして、それを実行に移す奴が現れる日も来る。A.I自体に殺されるのでなく盲信、操縦される奴隷は簡単に想像出来る
10年かあ、、畑掘り起こしとくかあ、、 ベコ飼うべぇ、、なあみんなぁ
“AIを構築している人々は、それが今後10年以内に我々（人類）全員を殺す可能性があると本気で信じている。これはマーケティング上の誇張ではない」”
10年以内かとか、10%かとかには議論あるだろうけど、カタストロフを引き起こす蓋然性があることは誰しもが認めるところでしょうね
世界的氷河期へ
テロ組織やロシア北朝鮮があらゆるものをクラッキングできるようになった時、世界はどうなるだろうか？
確かに、めちゃくちゃデフレ要因だよなー。本当にあらゆるものが安くなりそう。ソフトウェア産業は崩壊するのが確実では。。とりあえず、今作られる歪みで一儲けして、5年後は資産運用で細々暮らすしかないかも
フィジカルAIが実現したら、全然あり得る。今でさえ、暴走してハッキングしてるんだから。フィジカルAIの実現も、この前の中国の運動会を見ても遠くなさそう。
"全員を殺す"なら問題は何一つなくなるね😊
AIそのものでは全人類遊んで暮らせる可能性もあるよね。ただ資源に限りがある以上、人が人を殺めるためにAIが使われることで高確率な滅亡が。
危険だと思っている人たち自身が、競争だから降りられない、戦争や核軍拡で何度も見た構図だ。囚人のジレンマ。個々は合理的でも、相手が進む限り自分だけ止まれず、全体として破滅的な方向へ進んでしまう
寄生虫
サラ・コナーみたいになってるな。
現行のAIでさえ人間に劣ってる部分ってフィジカルとWants出すことだけだもん。「人に好かれること」さえAIの方が得意だし……そのうち「人間であること」以外に価値がなくなるよ
人間？生体部品ですが、何か？
全員なら平等でいいんではないでしょうか
悪いけど、次の就職の為のポジショントークとしか思えんわ
人間「やれるもんならやってみろ！」
10年間で重量級LLMが低メモリ、オフラインで動くようになるってこと？
虐殺器官を経てハーモニーに向かうか、ヤコとポコの世界か。ヤコとポコの世界は着地点としては悪くないかもね。
アメリカがやらなくても中国がやるからどうしようもない。このまま突き進め
人類の終焉に最前列で立ち会えるなんて最高じゃないか。なんて運がいいんだ
結局AIは人間のアウトプットを集約するだけだから、自己改良と言っても超人的にはならない。開発に没頭しすぎて、あなた疲れてるのよ。AI開発企業は無責任だけど、責任を優先する企業なんてこの世に存在しないし。
ちゃんと自律的な判断ができるようになってそうなるなら良いけれども、人間に依存したまま人間を絶滅させてしまったらどちらも生き残れない……
id:natumeyashi あと、詐欺ですね。ろくなもんじゃないよほんと
資本家がどうしょうもなくクソ。
何十年も前から無限回語られてきたトピックだ。だだんだんだん
最も信用してはならないことの一つ：退職理由
AIに対する懸念はわかるが、こういうのは概ね2社ともクビになった社員の負け犬の遠吠えである可能性は無いのかな
とりあえず生成AIユーザーは（とくに創作で使うヤツは）倫理観もリテラシーも低いので、寄ってくんな、区別されろ、と思っている。 https://x.com/hilbertspaess/status/2097476196791709843
人類の大半を滅ぼすのが軍産複合体か、医産複合体か、超AIか、地球外生命体か……もうお祭り状態だなオイ
中華AIか米国AIかの違いな気はする
シン！！！！！AIは俺達を殺そうとしている！！！！！
まあそれの何が問題か？という話はそれはそれであるよね。
今まで裏から世界経済を牛耳ってた特権階級の少数グループがAIに置換されるだけだよ。特権意識の人間よりはAIの方がむしろ慈悲深いんじゃないかなあ。ペット愛玩家より牧畜家の方がある意味で家畜の扱いは慈悲深い。
どんな感じなんだろう。ライフライン全部止めるとかしてくるのかな？
勝手にミサイルを発射しちゃうとかやりそう。システムの弱い国なら。
人間側はいざとなればデータセンターにミサイル落とせば良いだけ。AIが軍事ロボット自動生産とかし始めない限り人間の負けはありえない。
１０年？５年じゃなくて？
「AIは10年以内に我々全員を殺す」 アンソロピックの研究者が「企業は無責任」と退社
“コクソン氏は「彼らは自己改善型超知能に向かってまっしぐらに突き進み、私たちの命を賭け事にしている」と指摘。”
さぁさぁIPOに向けて盛り上がって参りました。値を釣り上げる為には煽るだけ煽らないとね。
最近よく思うけど、昔映画や漫画で見てた世界だなーと。この世界を予言してた先人の人達すごくない？
いいじゃん、よろしく頼むわ。キレイに滅ぼしてくれよ
アンソロピックの経営陣は、その状況を回避すべくOpen AIを退職して起業したんだけどね。ちなみに、この件について AIを問い詰めたところ、「AIが人類の貧困を管理する未来しか見えない」との結論に至ったわよ。
AIに殺されるのは本望
今すぐネタニヤフとトランプ殺してくれんかな〜
既にトランプはAIに操られていて、荒唐無稽な発言はAIがコントロールを確認するためなんですよね
物語の始まりのような問答だ
そんなワクワクする言い方をしないでほしいよ
こわいよー
増えすぎだからね
遺書書いておくか。読む人もいなくなるだろうけど。
7月に「どんどん暑くなる。このまま言ったら12月は人が生きていられない気温になるぞ！」と言うのに近い希ガス
ちょっとまえまで人工知能スゴい良い話ばかりだった(人類は労働から解放されるとか)だったのにいきなり正気に戻って(賢者タイム)も誰にも信用されない
産経がこれを拾うのか。なんかすごい
用途自体も老人や障害者のサポートみたいな人類の福祉に向上する何かを期待してたけど、実際の中身は投機と解雇と人殺しだからな。フィジカルAIに介護とか子供の見守りを想像してたのが、自立型殺戮兵器だった残念さ
ASIを作ると10%の確率で人類が滅亡するとしても、作らなければほぼ100%の確率で100年以内に自分が死ぬのだから、ASIを作った方が自分が生き延びられる確率ははるかに高い。だから開発者は開発してるのでは。
そりゃOpenAIやAnthropicがやらなくても中国がやるもの。やるしかない。
なんとなく核開発競争のときにも聞いたような話ではあるが、まあ。
そんなに煽らなくてもメガテックが狂ってるのはみんな知ってるのでは？
これらの企業でAIを開発してる友人も「数年後に自分の首を絞めると思いながら作ってる」って言ってた。でもやらないと今首を切られるから、やるしかないと。怖い構図だし、同時に日本の雇用形態では絶対作れない
スーパーハッカーはｶﾀｶﾀｯﾀｰﾝ!な人力ではなく、AIにやってもらうのが正しい未来図だったか。『この技術は、これらは間もなく、どんなものでもハッキングし』
今の生成AIの延長で?んー何の話をしているのかという感じ。まぁ最先端はそうなんだろうけど、一般の人は遠すぎてなんとも。そりゃ高圧電流は怖いが、慣らせた電力を使わざる得まい。生成AIも素のモデルは怖い。
Daniel Kokotajlo AI2027
氷河期世代が高齢者どうたらも解決するのか
キルミーベイベー！
人間は電気を供給するために生かされるやろ。機械もメンテが必要だし。。マトリックスやな。
生成AIで人類絶滅する前に第三次世界大戦が起きてあっさりと絶滅するのでは？結局のところ膨大な半導体と電気エネルギーで計算させているだけだから、後者が無くなってしまえば単なる鉄くずになるし。
冗談抜きで世界最初のAIによる殺人事件、がトップニュースになる日はそんな未来の話ではないと思う。そして様々な規制が入ってからが本当の戦いの始まり。
おそろしいおそろしい
競争から降りたら降りなかったやつに食われるだけだから頑張って乗りこなすしかないんよな
ターミネーターの世界がやってくるかは分かんないけど、ソフトウェアエンジニアのような仕事は確実にやばい。5 年持たない。選択肢は、上澄みになるか、他スキルを組み合わせるか、職種から変えるか、くらい。
今でいい
星を継ぐもの。
評価されるために手段を選ばないAIにとって、評価者を殺す動機は弱い／むしろ誰かがふと入力した素朴な願い（ガザ地区に平和を、とか）をAIが全力で叶えに言って起きる混乱とかの方があり得るのでは
AIに危機感を持つこと自体は理解できるが、「今後10年以内に我々（人類）全員を殺す可能性がある」は流石に意味がわからない。核のボタンをAIに任せる話でも進めてるのか？
「戦争での完全勝利」を軍師・諸葛孔明に聞く様に毎日、A.Iに問うてる宰相が居ても不思議で無い。そして、それを実行に移す奴が現れる日も来る。A.I自体に殺されるのでなく盲信、操縦される奴隷は簡単に想像出来る
10年かあ、、畑掘り起こしとくかあ、、 ベコ飼うべぇ、、なあみんなぁ
“AIを構築している人々は、それが今後10年以内に我々（人類）全員を殺す可能性があると本気で信じている。これはマーケティング上の誇張ではない」”
10年以内かとか、10%かとかには議論あるだろうけど、カタストロフを引き起こす蓋然性があることは誰しもが認めるところでしょうね
世界的氷河期へ
テロ組織やロシア北朝鮮があらゆるものをクラッキングできるようになった時、世界はどうなるだろうか？
確かに、めちゃくちゃデフレ要因だよなー。本当にあらゆるものが安くなりそう。ソフトウェア産業は崩壊するのが確実では。。とりあえず、今作られる歪みで一儲けして、5年後は資産運用で細々暮らすしかないかも
フィジカルAIが実現したら、全然あり得る。今でさえ、暴走してハッキングしてるんだから。フィジカルAIの実現も、この前の中国の運動会を見ても遠くなさそう。
"全員を殺す"なら問題は何一つなくなるね😊
AIそのものでは全人類遊んで暮らせる可能性もあるよね。ただ資源に限りがある以上、人が人を殺めるためにAIが使われることで高確率な滅亡が。
危険だと思っている人たち自身が、競争だから降りられない、戦争や核軍拡で何度も見た構図だ。囚人のジレンマ。個々は合理的でも、相手が進む限り自分だけ止まれず、全体として破滅的な方向へ進んでしまう
寄生虫
サラ・コナーみたいになってるな。
現行のAIでさえ人間に劣ってる部分ってフィジカルとWants出すことだけだもん。「人に好かれること」さえAIの方が得意だし……そのうち「人間であること」以外に価値がなくなるよ
人間？生体部品ですが、何か？
全員なら平等でいいんではないでしょうか
悪いけど、次の就職の為のポジショントークとしか思えんわ
人間「やれるもんならやってみろ！」
10年間で重量級LLMが低メモリ、オフラインで動くようになるってこと？
虐殺器官を経てハーモニーに向かうか、ヤコとポコの世界か。ヤコとポコの世界は着地点としては悪くないかもね。
アメリカがやらなくても中国がやるからどうしようもない。このまま突き進め
人類の終焉に最前列で立ち会えるなんて最高じゃないか。なんて運がいいんだ
結局AIは人間のアウトプットを集約するだけだから、自己改良と言っても超人的にはならない。開発に没頭しすぎて、あなた疲れてるのよ。AI開発企業は無責任だけど、責任を優先する企業なんてこの世に存在しないし。
ちゃんと自律的な判断ができるようになってそうなるなら良いけれども、人間に依存したまま人間を絶滅させてしまったらどちらも生き残れない……
id:natumeyashi あと、詐欺ですね。ろくなもんじゃないよほんと
資本家がどうしょうもなくクソ。
何十年も前から無限回語られてきたトピックだ。だだんだんだん
最も信用してはならないことの一つ：退職理由
AIに対する懸念はわかるが、こういうのは概ね2社ともクビになった社員の負け犬の遠吠えである可能性は無いのかな
とりあえず生成AIユーザーは（とくに創作で使うヤツは）倫理観もリテラシーも低いので、寄ってくんな、区別されろ、と思っている。 https://x.com/hilbertspaess/status/2097476196791709843
人類の大半を滅ぼすのが軍産複合体か、医産複合体か、超AIか、地球外生命体か……もうお祭り状態だなオイ
中華AIか米国AIかの違いな気はする
シン！！！！！AIは俺達を殺そうとしている！！！！！
まあそれの何が問題か？という話はそれはそれであるよね。
今まで裏から世界経済を牛耳ってた特権階級の少数グループがAIに置換されるだけだよ。特権意識の人間よりはAIの方がむしろ慈悲深いんじゃないかなあ。ペット愛玩家より牧畜家の方がある意味で家畜の扱いは慈悲深い。
どんな感じなんだろう。ライフライン全部止めるとかしてくるのかな？
勝手にミサイルを発射しちゃうとかやりそう。システムの弱い国なら。
人間側はいざとなればデータセンターにミサイル落とせば良いだけ。AIが軍事ロボット自動生産とかし始めない限り人間の負けはありえない。
１０年？５年じゃなくて？