この程度では、重大事故や中国に追い抜かれたときのためにアリバイを作っている様に聞こえる。RSIのパフォーマンスをKPIに設定しないこと、投資家もそれを求めないこと……で、合意していかなければならないのでは。
“アモディ氏は、「安全なペースで最先端を推進するために今回提案した措置の実現は容易ではない。しかし、人類のために試みる義務があると考えている」と言及している。”
ものすごく漠然とした話
アメリカが減速しても、中国がフルスロットルで開発するから、自主規制は無意味
開発レース煽り散らかしたトップ勢が揃って減速言い出すの梯子外し感すごいな
一方Googleは実装速度レースに参加せず、ずっと3.5Proの安全性を築き上げているのであった…。
中国に追い抜かれそうだから、政府はもっと中国に規制を入れてくれというおねだりかな
何回目？
中国のAIが結局claudeやchatgpt丸投げだったから、みんな安心して減速できますね
核軍縮みたいな
最近はハルシネーションを減らせていないけど…加速している？能力が上がっているなら違法行為や規範違反を絶対するなと命令すれば良いだけでは？
既に十分に賢いし、もはやこちらの設計次第ではモデルを落としても大抵の事は実現出来るから実務的には問題ない。
この手の話題になると中国が〜という話になるけど、資本主義国家より中国の方が「はい明日からAI禁止です。あとすべての企業を国有化して富を再分配します」とかやりやすそう。
技術的特異点はまだでも戻れないターニングポイントはAI開発を減速すれば他者に負ける構造ができてしまったことでとっくに過ぎてる。あらゆる戦争で勝つために止まれないのでは？
ワシントン軍縮条約みたいなことがオープンなSNSで繰り広げられるアメリカすげぇ。減速しても、日本はもはや追いつけなさそうなのもすげぇ。どっちがすげぇのかもわからん。
「中国だって開発停止はできる」なんて世迷言を宣っている人がいる。こいつらは営利企業、あいつらは国家。インターネットが既に国家の手中にある国だ。世界を滅ぼす手札は多い方がいいだろう。この違いは大きいよ？
アンソロピックは自社AIをサンドボックスに閉じ込めて置けずガチにやばい、OpenAIは競争に付き合うほどのキャッシュがなくなりつつある、マスクはgrokが追いつけてないので減速ありがたいと、それぞれ思惑が違うのでは
企業や国を跨ぐとどうしても囚人のジレンマ的な状況に陥りそう、一斉に減速したほうが良くても互いの実態が分からずにアクセルを緩められないとか
競争激化で資金が続かないので「談合」的なニュアンスも各方面読み取ってると思う。国家というシステムを内側から食い破る計画だったんだろうけど、統制中国の方が色々後出しもできるので圧倒的に有利でしょう。
AIはアメリカが規制しても中国や、何なら頭の良い個人でも開発が可能だから規制は無駄だろう。大量のウランや大規模な濃縮施設が必要となる核開発と比べるとAI開発は必要条件が違い過ぎて規制は機能しない。
そんなことできるかね、アメリカが休んでる間に、中国がガンガン推し進める気がする
要は「犯罪対策をちゃんとやってから能力上げないと」と言う話なのだが、「犯罪対策」みたいなものは存在するのだろうか？
IAEAじみてきたな『常駐評価者に従業員同様のアクセス権を与えるのは素晴らしいアイデア』
買い占めたメモリとGPUを返してから言え
各社のAI同士で三目並べ対戦させればいいんじゃないかな(映画Wargames脳)
まさにチキンレース
こんなこと言いながら、しれっと今月末頃にFable 6とか出しそう。もう誰も信用してないよね
開発しているのは単純な頭の良さだけでは無いと思うが
おいおいオマエラなら自由市場で解決しろよw 都合のいい時だけ当局の規制に保護してもらおうとすんなよw しかも業界丸ごとだ。テックリバタリアンが本質的にどういう存在かわかる例ではあるな。
トップ集団が息切れしてきたから休みたいけど出し抜かれたくないので全体で一旦休憩取りましょう！と提案しているとみなしている。
世界が一つになる時がきた
新規技術がスケールを拡大する段階では、金と資源と人を無限に投入できる独裁国に絶対勝てないです。我々西側の民主主義・自由主義陣営は既に敗北が確定しているので、もはやデジタル鎖国しか手はないんですよ。
ポジショントークでもなんでもそういう流れを作ってかないと地球が持たん
Google「だからGemini Proの開発を遅らせていたのさ、エコだろ？」
軍縮条約は結局破られることが多い。米国外のプレーヤーが多数いるし。
単にgpuや資金、電力の取得問題だろう。どこも確保が難しくなってきてる。
こういう話の時には必ず、中国がどんどん開発を続けるから意味がない旨の発言が出るが、そうはならないだろうなと思っている。現時点でもっともAIに制限を課しているのは中国だしね。
何なら頭の良い個人でも開発が可能ってのはすごく違和感。モデルの学習はさすがに個人の資金力でできるほどの規模じゃないんじゃないかな。
減速というかいままで知能の進化を最優先にしてきたのを、知能はもうだいぶいいとこまでいったからセキュリティやプライバシーなどの人の安全を守る設計を優先しようってことだと思ってる。
蒸留は安いからやっているだけだと推測する。アメリカ勢のAIが進化を止めても中国勢の進化は一時的に鈍化するかもしれないが、止まらないか、中国製GPUによって突き放されるだけだろう。
AI特需型どうなるか…
理想だけど、誰も守らないやつにしか聞こえないし、なんなら馬鹿正直なやつを出し抜こうとか、コレを盾に顧客や後続を制御しようくらいのこと思ってそう。
寡占…カルテル…。
最近CodexでAstra使ってるけど本当に凄い。Computer Useとかさせると人の介入は許可だけでローカルアプリもWebアプリも使ってタスク遂行してくからな。ハーネス効きづらい最近のモデルなら破壊的な事やりかねないと実感した
そもそも中国でも開発していて、アメリカが規制に入るならそこの技術者を引き抜いて開発を加速したい国は中国だけでもないからなあ。Anthropicは事故とするサイバーアタックを止められないのだろうが。
息切れでしょ。Kimi3は2.8兆パラメーターだがAnthropic 5～8兆と言われている。費やしているコストが違いすぎる。アメリカ勢も無限にスケールしても割に合わない自覚をし出したのだと思う。
仮にBIG TECHが開発をやめても、エンジニアが中国に行くだけではないのかな？これは止められない(´Д｀)めう
ってゆーか、儲からないからでは？
問題は中国だよね。あの国の国家元首が減速を指示するとは思えない。
誰かの損失は誰かの利益、だから損失を被るから困るなら見方によっては合理的なのよなあ。性能の高さが必ずしも利益を最大化するわけではない。
これ核開発と同じで、AI開発にこれ以上の資金を投入する競争をやめたいと考えているのでは?すでに高度研究開発以外での投資効率が悪すぎる。1動画生成するのにスマホ6台分の電気消費量だよ。無駄な利用が多すぎる。
日本には「うちの堀を埋めていいから停戦しようぜ」と打診した結果、滅んだ大名がおりましてな
自らが生み出したものの責任を取れない、と宣言し、実際にそれが起こった時の言い訳を作っているように見える。神が作られたとて製造物責任からは逃れられないよ。
なんの根拠もなく10年10％と言われてもなあと言った感じ。27歳の現場叩き上げの天才が突然目覚めて終末論に傾倒してキバヤシみたいなこと言い出した。の方がまだ信じられる。
AIに対する危機意識もわかる一方、単に儲かってないんだろうなと言う印象持ってしまう。IPOも先延ばしだし、公開できない決算なんだろうな…とか
パンドラの箱が開かれてしまいましたとさ
マラソン大会の学生レベルの知能の持ち主か？
ふーん
IPOに向けた俺たちのAI凄いんだぞアピールでしょ。ハード的に辛いというのもありそうだけど本気で減速したいと思ってるわけがない
これ高度な情報戦ってやつじゃないの？裏でバリバリ作ってるんだろ？知らんけど。
向かう方向が変わらないなら減速しても同じじゃね？やるなら方向転換しないと
「安全性」も性能の尺度になるようになるのだな。
AI開発「減速」をアンソロピックCEOが提案 アルトマン氏・マスク氏らも賛同
この程度では、重大事故や中国に追い抜かれたときのためにアリバイを作っている様に聞こえる。RSIのパフォーマンスをKPIに設定しないこと、投資家もそれを求めないこと……で、合意していかなければならないのでは。
“アモディ氏は、「安全なペースで最先端を推進するために今回提案した措置の実現は容易ではない。しかし、人類のために試みる義務があると考えている」と言及している。”
ものすごく漠然とした話
アメリカが減速しても、中国がフルスロットルで開発するから、自主規制は無意味
開発レース煽り散らかしたトップ勢が揃って減速言い出すの梯子外し感すごいな
一方Googleは実装速度レースに参加せず、ずっと3.5Proの安全性を築き上げているのであった…。
中国に追い抜かれそうだから、政府はもっと中国に規制を入れてくれというおねだりかな
何回目？
中国のAIが結局claudeやchatgpt丸投げだったから、みんな安心して減速できますね
核軍縮みたいな
最近はハルシネーションを減らせていないけど…加速している？能力が上がっているなら違法行為や規範違反を絶対するなと命令すれば良いだけでは？
既に十分に賢いし、もはやこちらの設計次第ではモデルを落としても大抵の事は実現出来るから実務的には問題ない。
この手の話題になると中国が〜という話になるけど、資本主義国家より中国の方が「はい明日からAI禁止です。あとすべての企業を国有化して富を再分配します」とかやりやすそう。
技術的特異点はまだでも戻れないターニングポイントはAI開発を減速すれば他者に負ける構造ができてしまったことでとっくに過ぎてる。あらゆる戦争で勝つために止まれないのでは？
ワシントン軍縮条約みたいなことがオープンなSNSで繰り広げられるアメリカすげぇ。減速しても、日本はもはや追いつけなさそうなのもすげぇ。どっちがすげぇのかもわからん。
「中国だって開発停止はできる」なんて世迷言を宣っている人がいる。こいつらは営利企業、あいつらは国家。インターネットが既に国家の手中にある国だ。世界を滅ぼす手札は多い方がいいだろう。この違いは大きいよ？
アンソロピックは自社AIをサンドボックスに閉じ込めて置けずガチにやばい、OpenAIは競争に付き合うほどのキャッシュがなくなりつつある、マスクはgrokが追いつけてないので減速ありがたいと、それぞれ思惑が違うのでは
企業や国を跨ぐとどうしても囚人のジレンマ的な状況に陥りそう、一斉に減速したほうが良くても互いの実態が分からずにアクセルを緩められないとか
競争激化で資金が続かないので「談合」的なニュアンスも各方面読み取ってると思う。国家というシステムを内側から食い破る計画だったんだろうけど、統制中国の方が色々後出しもできるので圧倒的に有利でしょう。
AIはアメリカが規制しても中国や、何なら頭の良い個人でも開発が可能だから規制は無駄だろう。大量のウランや大規模な濃縮施設が必要となる核開発と比べるとAI開発は必要条件が違い過ぎて規制は機能しない。
そんなことできるかね、アメリカが休んでる間に、中国がガンガン推し進める気がする
要は「犯罪対策をちゃんとやってから能力上げないと」と言う話なのだが、「犯罪対策」みたいなものは存在するのだろうか？
IAEAじみてきたな『常駐評価者に従業員同様のアクセス権を与えるのは素晴らしいアイデア』
買い占めたメモリとGPUを返してから言え
各社のAI同士で三目並べ対戦させればいいんじゃないかな(映画Wargames脳)
まさにチキンレース
こんなこと言いながら、しれっと今月末頃にFable 6とか出しそう。もう誰も信用してないよね
開発しているのは単純な頭の良さだけでは無いと思うが
おいおいオマエラなら自由市場で解決しろよw 都合のいい時だけ当局の規制に保護してもらおうとすんなよw しかも業界丸ごとだ。テックリバタリアンが本質的にどういう存在かわかる例ではあるな。
トップ集団が息切れしてきたから休みたいけど出し抜かれたくないので全体で一旦休憩取りましょう！と提案しているとみなしている。
世界が一つになる時がきた
新規技術がスケールを拡大する段階では、金と資源と人を無限に投入できる独裁国に絶対勝てないです。我々西側の民主主義・自由主義陣営は既に敗北が確定しているので、もはやデジタル鎖国しか手はないんですよ。
ポジショントークでもなんでもそういう流れを作ってかないと地球が持たん
Google「だからGemini Proの開発を遅らせていたのさ、エコだろ？」
軍縮条約は結局破られることが多い。米国外のプレーヤーが多数いるし。
単にgpuや資金、電力の取得問題だろう。どこも確保が難しくなってきてる。
こういう話の時には必ず、中国がどんどん開発を続けるから意味がない旨の発言が出るが、そうはならないだろうなと思っている。現時点でもっともAIに制限を課しているのは中国だしね。
何なら頭の良い個人でも開発が可能ってのはすごく違和感。モデルの学習はさすがに個人の資金力でできるほどの規模じゃないんじゃないかな。
減速というかいままで知能の進化を最優先にしてきたのを、知能はもうだいぶいいとこまでいったからセキュリティやプライバシーなどの人の安全を守る設計を優先しようってことだと思ってる。
蒸留は安いからやっているだけだと推測する。アメリカ勢のAIが進化を止めても中国勢の進化は一時的に鈍化するかもしれないが、止まらないか、中国製GPUによって突き放されるだけだろう。
AI特需型どうなるか…
理想だけど、誰も守らないやつにしか聞こえないし、なんなら馬鹿正直なやつを出し抜こうとか、コレを盾に顧客や後続を制御しようくらいのこと思ってそう。
寡占…カルテル…。
最近CodexでAstra使ってるけど本当に凄い。Computer Useとかさせると人の介入は許可だけでローカルアプリもWebアプリも使ってタスク遂行してくからな。ハーネス効きづらい最近のモデルなら破壊的な事やりかねないと実感した
そもそも中国でも開発していて、アメリカが規制に入るならそこの技術者を引き抜いて開発を加速したい国は中国だけでもないからなあ。Anthropicは事故とするサイバーアタックを止められないのだろうが。
息切れでしょ。Kimi3は2.8兆パラメーターだがAnthropic 5～8兆と言われている。費やしているコストが違いすぎる。アメリカ勢も無限にスケールしても割に合わない自覚をし出したのだと思う。
仮にBIG TECHが開発をやめても、エンジニアが中国に行くだけではないのかな？これは止められない(´Д｀)めう
ってゆーか、儲からないからでは？
問題は中国だよね。あの国の国家元首が減速を指示するとは思えない。
誰かの損失は誰かの利益、だから損失を被るから困るなら見方によっては合理的なのよなあ。性能の高さが必ずしも利益を最大化するわけではない。
これ核開発と同じで、AI開発にこれ以上の資金を投入する競争をやめたいと考えているのでは?すでに高度研究開発以外での投資効率が悪すぎる。1動画生成するのにスマホ6台分の電気消費量だよ。無駄な利用が多すぎる。
日本には「うちの堀を埋めていいから停戦しようぜ」と打診した結果、滅んだ大名がおりましてな
自らが生み出したものの責任を取れない、と宣言し、実際にそれが起こった時の言い訳を作っているように見える。神が作られたとて製造物責任からは逃れられないよ。
なんの根拠もなく10年10％と言われてもなあと言った感じ。27歳の現場叩き上げの天才が突然目覚めて終末論に傾倒してキバヤシみたいなこと言い出した。の方がまだ信じられる。
AIに対する危機意識もわかる一方、単に儲かってないんだろうなと言う印象持ってしまう。IPOも先延ばしだし、公開できない決算なんだろうな…とか
パンドラの箱が開かれてしまいましたとさ
マラソン大会の学生レベルの知能の持ち主か？
ふーん
IPOに向けた俺たちのAI凄いんだぞアピールでしょ。ハード的に辛いというのもありそうだけど本気で減速したいと思ってるわけがない
これ高度な情報戦ってやつじゃないの？裏でバリバリ作ってるんだろ？知らんけど。
向かう方向が変わらないなら減速しても同じじゃね？やるなら方向転換しないと
「安全性」も性能の尺度になるようになるのだな。