そう、国際民間航空条約の Annex 8 や Annex 13 、ならびに航空安全情報ネットワーク（ASI‐NET）に相当する国際的な枠組みが必要になる……とまでは言ってなかった。
規制の必要性はわかるけど先行者利益を守るためのポジショントーク感も否めないな
自分たちの研究が核爆弾という殺戮兵器を生み出してしまってこのまま世界を滅ぼすかもしれないと戦慄を覚えたアインシュタインたちみたいな境地なんだろうか。/ 追：起きうる大惨事への逃げと見ることも当然可能だ
MS「我が社は既に副操縦士制を導入しているので、もし機長がポンコツでもご安心下さい」
各企業に好き勝手にやらせていると、そのうちとんでもないことになりそうではあるよね。国際的な取り決めが必要になってくるのだろう。
Anthropicに限らずAIベンチャーは「巨額の赤字を出して先行投資で競合の存在意義を無くし、市場を総取りして、何年も掛けて投資を取り戻す」ビジネスモデルだから、競争が止まってくれないと赤字で潰れそうなんだろうな
最近この手の話をよくしてるけど、実はすでに世界を滅ぼし得るAIの開発の目処が見えてるのかな。
結局はミュトス独占したいだけのポジショントーク。無視でいいよ。オープン中華モデルこそが正義
これをやると開発競争で中国に負けるだろう。
決めごとで制御しようとしてもそんなん無視する国が得するだけやで
航空機並みの安全審査を通ったオンリーワンのAIが数年後独裁を・・・
この企業は2番手であり、野党なんだよな。そう考えると分かりやすい。で、これ公開した翌日、政府にサイバーリスクを理由に最新モデルを止められて。口だけ企業なのが即オチでバレてしまった。
安全審査を受けていながらボーイングはあの体たらくという
ドイツに負けないために核開発を進めたノイマンみたいになってきたな……／原文公開されてるから読むといいよ他にも示唆に富んでる言説多い
“「Mythosクラスのモデルがもたらすサイバーリスクは、私たちが直面しなければならない最後のリスクではない。生物学的リスクがまもなく続き、深刻なAI自律性のリスクもそう遠くない将来に迫っている」”
天皇には資質（帝王学）が必要からAI開発＆取り扱いにも資質が必要なんだが、それって一億総中流くらい教育水準が高くないとなんだろうなと。
そもそも人間の強い倫理観の介入無しに進化したAIの行きつく所は犯罪ツール、戦争ツールにしかなり得ないと思ってるし、おそらくトランプは使っている。
AI高度化はもうぼちぼちでいいから、安価でもっとオープンにしてほしいなぁ
ダリオ・アモデイは思想が強いっていうからな。技術進化は人を選ばないんで、他のベンダーもミュトス級にいずれ追いつくとなればどんなAIが出てくるかということを心配するのもわかる。
23年にも「GPT-4を超えるAIの開発を半年止めろ」と一部AI研究者が声明出してたが、結局誰も相手にしなかった。そういうしょうもないポジショントークを真に受ける奴未だにいるんだな
空理空論の類と見える。機械の安全認証と決定的に異なるのは「ＡＩは自律的に抜け穴を探せる」点であり、仮に人間が対処できないレベルの「抜け穴」が存在した場合、正直に指摘するインセンティヴは働かないのでは？
AIはシンギュラリティを超えるのか。人間から見るとバブルに見えるけど。
ChatGPT 出てきた時のサムアルトマンも同じこと言ってた覚えがある。だから非営利で、OpenAIって名前で。なのに、上場するとか。状況がよくわからない。
中華モデルの進化スピードが指数関数的に上がってるからな。しかもAnthropicやOpenAIに不正アクセスして蒸留用データ集めてる。わからんでもないが中華は止められない。
ロボット三原則はいろいろと応用されているけどロボットが人に嘘をつくことを防げないというのを小松左京の小説？で読んだ覚えが。MAGIのカスパーやHAL9000が人の命に背くのをプログラムでは防げないよなとは思う
将来AIを使った戦争になったとしても、AIなんてデータセンターを攻撃して破壊すればいいんだから まだ簡単だよな 人命も失われないし /でもAI≒データセンターとライフインフラ直結させて 人命を名目上の盾にしそう
"航空機並みの安全審査" ボーイング737max…
続・猿の惑星
これって結局安全審査を利用した寡占がしたいだけじゃないのか？エアバスとボーイングみたいに
イーロン・マスクとかスティーブ・ウォズニアクがAIの開発スローダウン署名をした時に、みんな笑ってたけど、今AnthropicとOpenAIが同じこと言い出してるのアホだよね
アンソロピックが脅すから政府がびびって停止しちゃった
危険だと煽りまくった結果、自分の自由がなくなってしまったアンソロピック。
『私たちが直面しなければならない最後のリスクではない』
火の鳥未来編につづく
核開発は一応国際監視できるが、AI開発はそうはいかんからな。もう人類は滅びるしかない
何を言っても、協調できたとしても、どんなに理想的に進められたとしても「なお中国」の一言で全てがひっくり返る限り、もうこの流れは止まらないのよ。そういう人類史の中にいま生きている。
うーん、個人的に自由に使いたいのでローカルで使う準備が必要かも
「国家権力と個人の自由」では、AIが「究極の独裁ツール」となる危険性を指摘。AIを使った市民の監視や権力の集中を防ぐため、民主主義を守る仕組みの強化を訴えている。
人類、情報に支配され過ぎている。しょせんピコピコごときに依存し過ぎだし恐れ過ぎ。
生成AIは原理的に｢推測｣しておらず、あてずっぽうの域を出ない。さすがに自惚れが過ぎると思う。
なんだかAI相談所がメタバース内に出来て悪の闇市や相談所みたいになる未来とかあるんかねえ
"航空機並みの安全審査"アメリカ企業にはザル審査で日中は絶対審査に通さないってこと？
実際に政府から差し止められてて笑う
作業中のユーザ「メーデー!メーデー! モニタ左の AI の制御が効かない! 緊急シャットダウンを要請する! 右モニタの AI は制御可能!」
ヤバいものを開発する奴らはいつもこんなこと言ってる。自分たちはやりたい放題、事態が手遅れになってから周囲に自制を求める。責任は取らない
独裁を防ぐと言い出すとアメリカでは使えなくなりそう
オタワ
AIに「航空機並みの安全審査」「独裁を防ぐ」 アンソロピックCEOが政策提言
そう、国際民間航空条約の Annex 8 や Annex 13 、ならびに航空安全情報ネットワーク（ASI‐NET）に相当する国際的な枠組みが必要になる……とまでは言ってなかった。
規制の必要性はわかるけど先行者利益を守るためのポジショントーク感も否めないな
自分たちの研究が核爆弾という殺戮兵器を生み出してしまってこのまま世界を滅ぼすかもしれないと戦慄を覚えたアインシュタインたちみたいな境地なんだろうか。/ 追：起きうる大惨事への逃げと見ることも当然可能だ
MS「我が社は既に副操縦士制を導入しているので、もし機長がポンコツでもご安心下さい」
各企業に好き勝手にやらせていると、そのうちとんでもないことになりそうではあるよね。国際的な取り決めが必要になってくるのだろう。
Anthropicに限らずAIベンチャーは「巨額の赤字を出して先行投資で競合の存在意義を無くし、市場を総取りして、何年も掛けて投資を取り戻す」ビジネスモデルだから、競争が止まってくれないと赤字で潰れそうなんだろうな
最近この手の話をよくしてるけど、実はすでに世界を滅ぼし得るAIの開発の目処が見えてるのかな。
結局はミュトス独占したいだけのポジショントーク。無視でいいよ。オープン中華モデルこそが正義
これをやると開発競争で中国に負けるだろう。
決めごとで制御しようとしてもそんなん無視する国が得するだけやで
航空機並みの安全審査を通ったオンリーワンのAIが数年後独裁を・・・
この企業は2番手であり、野党なんだよな。そう考えると分かりやすい。で、これ公開した翌日、政府にサイバーリスクを理由に最新モデルを止められて。口だけ企業なのが即オチでバレてしまった。
安全審査を受けていながらボーイングはあの体たらくという
ドイツに負けないために核開発を進めたノイマンみたいになってきたな……／原文公開されてるから読むといいよ他にも示唆に富んでる言説多い
“「Mythosクラスのモデルがもたらすサイバーリスクは、私たちが直面しなければならない最後のリスクではない。生物学的リスクがまもなく続き、深刻なAI自律性のリスクもそう遠くない将来に迫っている」”
天皇には資質（帝王学）が必要からAI開発＆取り扱いにも資質が必要なんだが、それって一億総中流くらい教育水準が高くないとなんだろうなと。
そもそも人間の強い倫理観の介入無しに進化したAIの行きつく所は犯罪ツール、戦争ツールにしかなり得ないと思ってるし、おそらくトランプは使っている。
AI高度化はもうぼちぼちでいいから、安価でもっとオープンにしてほしいなぁ
ダリオ・アモデイは思想が強いっていうからな。技術進化は人を選ばないんで、他のベンダーもミュトス級にいずれ追いつくとなればどんなAIが出てくるかということを心配するのもわかる。
23年にも「GPT-4を超えるAIの開発を半年止めろ」と一部AI研究者が声明出してたが、結局誰も相手にしなかった。そういうしょうもないポジショントークを真に受ける奴未だにいるんだな
空理空論の類と見える。機械の安全認証と決定的に異なるのは「ＡＩは自律的に抜け穴を探せる」点であり、仮に人間が対処できないレベルの「抜け穴」が存在した場合、正直に指摘するインセンティヴは働かないのでは？
AIはシンギュラリティを超えるのか。人間から見るとバブルに見えるけど。
ChatGPT 出てきた時のサムアルトマンも同じこと言ってた覚えがある。だから非営利で、OpenAIって名前で。なのに、上場するとか。状況がよくわからない。
中華モデルの進化スピードが指数関数的に上がってるからな。しかもAnthropicやOpenAIに不正アクセスして蒸留用データ集めてる。わからんでもないが中華は止められない。
ロボット三原則はいろいろと応用されているけどロボットが人に嘘をつくことを防げないというのを小松左京の小説？で読んだ覚えが。MAGIのカスパーやHAL9000が人の命に背くのをプログラムでは防げないよなとは思う
将来AIを使った戦争になったとしても、AIなんてデータセンターを攻撃して破壊すればいいんだから まだ簡単だよな 人命も失われないし /でもAI≒データセンターとライフインフラ直結させて 人命を名目上の盾にしそう
"航空機並みの安全審査" ボーイング737max…
続・猿の惑星
これって結局安全審査を利用した寡占がしたいだけじゃないのか？エアバスとボーイングみたいに
イーロン・マスクとかスティーブ・ウォズニアクがAIの開発スローダウン署名をした時に、みんな笑ってたけど、今AnthropicとOpenAIが同じこと言い出してるのアホだよね
アンソロピックが脅すから政府がびびって停止しちゃった
危険だと煽りまくった結果、自分の自由がなくなってしまったアンソロピック。
『私たちが直面しなければならない最後のリスクではない』
火の鳥未来編につづく
核開発は一応国際監視できるが、AI開発はそうはいかんからな。もう人類は滅びるしかない
何を言っても、協調できたとしても、どんなに理想的に進められたとしても「なお中国」の一言で全てがひっくり返る限り、もうこの流れは止まらないのよ。そういう人類史の中にいま生きている。
うーん、個人的に自由に使いたいのでローカルで使う準備が必要かも
「国家権力と個人の自由」では、AIが「究極の独裁ツール」となる危険性を指摘。AIを使った市民の監視や権力の集中を防ぐため、民主主義を守る仕組みの強化を訴えている。
人類、情報に支配され過ぎている。しょせんピコピコごときに依存し過ぎだし恐れ過ぎ。
生成AIは原理的に｢推測｣しておらず、あてずっぽうの域を出ない。さすがに自惚れが過ぎると思う。
なんだかAI相談所がメタバース内に出来て悪の闇市や相談所みたいになる未来とかあるんかねえ
"航空機並みの安全審査"アメリカ企業にはザル審査で日中は絶対審査に通さないってこと？
実際に政府から差し止められてて笑う
作業中のユーザ「メーデー!メーデー! モニタ左の AI の制御が効かない! 緊急シャットダウンを要請する! 右モニタの AI は制御可能!」
ヤバいものを開発する奴らはいつもこんなこと言ってる。自分たちはやりたい放題、事態が手遅れになってから周囲に自制を求める。責任は取らない
独裁を防ぐと言い出すとアメリカでは使えなくなりそう
オタワ