AI開発は見えない形で進められるのでちゃんと実効能力のある協定ってのは難しそうな飲食店 / この調子でロシアもアメリカも暴走し続けてると経済の方が持たなくなって鉄道バブル崩壊の再来になりそう。
自分たちが優位に立った途端に「みんな一回立ち止まろう」と言い出す仕草、最高に強者のポジショントーク感あって味わい深い
爆速で走ってたんだし他社に止まるかといわれてどうリアクションするかは察せられそうな気がす
ちなみにAIの進化で地球温暖化は加速したからなw ますます手遅れw データセンターが最後に行き着くのは水不足ですw
核拡散防止条約を思い起こすアレなリーダーシップですな。
ここは哲学者抱えているから尚更
そう、Anthropic自身の誘導もあるけど、Mythosがコンピュータセキュリティーの文脈で語られるウェイトが多すぎると思う。今のClaudeより格段にコーディング能力が上なら、臨界点が近い（超えた？）という感触は私もある
アンソロピック「俺より高度な開発するなよ？」
自己進化みたいなことまで考えなかったとしても、現状、AIの変化が速すぎて人間が振り回されてる状況が社会の効率をかなり下げてると思ってる
AnthropicはそもそもOpenAIの暴走を懸念した社員が独立して作った会社なので当然の動きなのだけど、他社AIを封じ込めるためには自社AIの開発も加速しないとダメなんじゃないの？ もう取り返しのつかないところに来ている
これまではブレーキは無理の立場だったけど、この先は巨大資本でなければ先へ進めなくなるし計算リソースの奪い合いも激化するので、大企業間ではブレーキ構築できる余地があると思うし中小は無視でも実害なさそう
中国に超ミ級兵器は開発させないぞの軍縮しぐさ。計算資源、学習データ、ちょいちょい割り込んでくる人間の妨害（開発者、株主から政治介入まで）などRSIがぐるぐるまわって超性能化するにはまだ障壁がいろいろか
みんなが思い描いてたものとは違うかもしれないけどこれが AGIの実現になるのかも
そうは言っても中国が爆走したらAnthropicも結局やらざるを得ない
頭打ちの可能性が高くなってきた、あるいは今は勝っているから、このままEXITしたくて言い出したように見えるけど
うちがトップ走りたいから追いつかないでね、みたいな話かな。進化し続けないとコモディティ化するし、AIモデルの開発ってかなり過酷な世界だよね。
中国が抜け駆けするだろうから無理そう
こういう「危ないから慎重にやらないとダメ」という態度は OpenAI 初期のアルトマンのピッチも同じだった。アルトマンは「だから自分たちに任せろ」という話だったわけだが、これはどうなんでしょうね
お前が始めた物語だけど、何かしらブレーキは必要よね。半導体や電力際限なく食い尽くす
"AIシステム自体が完全な再帰的な自己改善能力を獲得し、後継システムを構築する""「AIが人間の価値観と一致し続けるか(アラインメント)」の課題があり、人間による制御が不能になる危険性もある"火の鳥未来編
自律的に生産できるなら、自律的に社会インフラを壊すこともできるでしょう。臨界点が近いのを感じる。みんな農耕を始めるべき。
（ 原爆とおなじで「先行してる国が独占するの？」みたいなことになる、に一票 ）（ そんでもってすでに日本は「AIの使用」自体が目的化。）
アンソロピック「もうええでしょう」
「利益も対して上がってないのに競争だけ激化して辛いのでもうやめようや」と言う話し。上場したら会計が透明化されるから大変だよな。
「米中AI覇権争い二極世界へ。システムを構築し支配を維持できるAI主権国家は米中だけ」ライバルがいる世界でこういう提言は無理だろうな。海外はもちろん国内だって抜け駆けする気しか無いだろ
MythosのAlignment Taxが高くて困ってるまで読んだ
AIが、結局人間が一番無駄な生物だなと気づくのが現世で見れそうだな
ふーむ、これは今の延長のAIの進歩がもう頭打ちで成長速度が鈍化せざるを得ないことへの事前の言い訳だな。
こういうとき、かの国がえげつないことしそ。やっチャイナにならんこと願うばかり
市場で先頭に立つとアメリカの会社ってこういうこと言うイメージ。
いまさら言ったっておそいっすhttps://youtu.be/8nt3edWLgIg
「AIが自分自身を構築する(When AI builds itself)」最早教師あり学習は必要なくなってきた感じがあるな。恐ろしい時代だ。人間の存在意義をこんな形で問われることになるとは
アンソロピックが軍事利用を巡って国防総省と対立していることを知っていれば、感想のコメントももう少し変わると思うんだけどなー。
AIが賢くなれば「半導体や電力際限なく食い尽くす」と自分の進歩が止まることに気づくから、なんか手を打ってくると思うけどな。
ハード投資競争はこれ以上やらなくても中国は脅威にならない、んすかね？ 中国こそハード制約の中でソフトウェア進化を進める可能性があり、量に依存した（技術革新ではない）経営競争に関しては減速するのが合理的
もう数年早く言ってほしかったですね
“急速なAIの進化が続く中で「人間の制御を離れるリスク」を危惧し、国際的かつ協調的な開発調整の仕組みが必要として提言。”
もうダメだ。人類は滅亡する。
イーロン・マスクも昔同じようなこと言ってたが、言ってる本人の会社は完全に真逆のことをやってたね。Claudeが無いと死ぬレベルで依存した信者でもこれについては「マスクとアンソロピックは違う！！」とは思わんだろ
人間に勝ち筋がある範囲では従順だし、人間ほどの耐障害性がないから不確定要素削減の原理で人も友好的に生かされるよ
「みんなが止まるなら止める」は、実質的に「止まらない」と同義。
それは人間が手を離しちゃうリスクでは？手綱に握る意思が残ってれば大丈夫だと思うけどな
誰かが言わんといかんからなあ。しかし中国は従うわけがないから止まるのは無理だろうな。
お前が始めた物語って、AI開発ってそんな歴史浅かったっけ？
『世界の有益』ってその“世界”が誰なのか、利益を誰が受け取り、コストを誰が負担しているのかがほとんど具体化されていないよね
他が止まらないので無理でしょう。半導体とか電力に投資してる層も死ぬので止まらないと思う。電力や計算資源巡って戦争起きそうな気すらしてくる。
個人的体感としても「とりあえず今の性能ままで人類には事足りてるんじゃね？」とは感じてる。知足の精神。
核兵器管理めいてきたなぁ
私あの時言いましたよね？と、未来に突っ込まれ無いように
アンソロピック、AI開発の「減速」を提言
AI開発は見えない形で進められるのでちゃんと実効能力のある協定ってのは難しそうな飲食店 / この調子でロシアもアメリカも暴走し続けてると経済の方が持たなくなって鉄道バブル崩壊の再来になりそう。
自分たちが優位に立った途端に「みんな一回立ち止まろう」と言い出す仕草、最高に強者のポジショントーク感あって味わい深い
爆速で走ってたんだし他社に止まるかといわれてどうリアクションするかは察せられそうな気がす
ちなみにAIの進化で地球温暖化は加速したからなw ますます手遅れw データセンターが最後に行き着くのは水不足ですw
核拡散防止条約を思い起こすアレなリーダーシップですな。
ここは哲学者抱えているから尚更
そう、Anthropic自身の誘導もあるけど、Mythosがコンピュータセキュリティーの文脈で語られるウェイトが多すぎると思う。今のClaudeより格段にコーディング能力が上なら、臨界点が近い（超えた？）という感触は私もある
アンソロピック「俺より高度な開発するなよ？」
自己進化みたいなことまで考えなかったとしても、現状、AIの変化が速すぎて人間が振り回されてる状況が社会の効率をかなり下げてると思ってる
AnthropicはそもそもOpenAIの暴走を懸念した社員が独立して作った会社なので当然の動きなのだけど、他社AIを封じ込めるためには自社AIの開発も加速しないとダメなんじゃないの？ もう取り返しのつかないところに来ている
これまではブレーキは無理の立場だったけど、この先は巨大資本でなければ先へ進めなくなるし計算リソースの奪い合いも激化するので、大企業間ではブレーキ構築できる余地があると思うし中小は無視でも実害なさそう
中国に超ミ級兵器は開発させないぞの軍縮しぐさ。計算資源、学習データ、ちょいちょい割り込んでくる人間の妨害（開発者、株主から政治介入まで）などRSIがぐるぐるまわって超性能化するにはまだ障壁がいろいろか
みんなが思い描いてたものとは違うかもしれないけどこれが AGIの実現になるのかも
そうは言っても中国が爆走したらAnthropicも結局やらざるを得ない
頭打ちの可能性が高くなってきた、あるいは今は勝っているから、このままEXITしたくて言い出したように見えるけど
うちがトップ走りたいから追いつかないでね、みたいな話かな。進化し続けないとコモディティ化するし、AIモデルの開発ってかなり過酷な世界だよね。
中国が抜け駆けするだろうから無理そう
こういう「危ないから慎重にやらないとダメ」という態度は OpenAI 初期のアルトマンのピッチも同じだった。アルトマンは「だから自分たちに任せろ」という話だったわけだが、これはどうなんでしょうね
お前が始めた物語だけど、何かしらブレーキは必要よね。半導体や電力際限なく食い尽くす
"AIシステム自体が完全な再帰的な自己改善能力を獲得し、後継システムを構築する""「AIが人間の価値観と一致し続けるか(アラインメント)」の課題があり、人間による制御が不能になる危険性もある"火の鳥未来編
自律的に生産できるなら、自律的に社会インフラを壊すこともできるでしょう。臨界点が近いのを感じる。みんな農耕を始めるべき。
（ 原爆とおなじで「先行してる国が独占するの？」みたいなことになる、に一票 ）（ そんでもってすでに日本は「AIの使用」自体が目的化。）
アンソロピック「もうええでしょう」
「利益も対して上がってないのに競争だけ激化して辛いのでもうやめようや」と言う話し。上場したら会計が透明化されるから大変だよな。
「米中AI覇権争い二極世界へ。システムを構築し支配を維持できるAI主権国家は米中だけ」ライバルがいる世界でこういう提言は無理だろうな。海外はもちろん国内だって抜け駆けする気しか無いだろ
MythosのAlignment Taxが高くて困ってるまで読んだ
AIが、結局人間が一番無駄な生物だなと気づくのが現世で見れそうだな
ふーむ、これは今の延長のAIの進歩がもう頭打ちで成長速度が鈍化せざるを得ないことへの事前の言い訳だな。
こういうとき、かの国がえげつないことしそ。やっチャイナにならんこと願うばかり
市場で先頭に立つとアメリカの会社ってこういうこと言うイメージ。
いまさら言ったっておそいっすhttps://youtu.be/8nt3edWLgIg
「AIが自分自身を構築する(When AI builds itself)」最早教師あり学習は必要なくなってきた感じがあるな。恐ろしい時代だ。人間の存在意義をこんな形で問われることになるとは
アンソロピックが軍事利用を巡って国防総省と対立していることを知っていれば、感想のコメントももう少し変わると思うんだけどなー。
AIが賢くなれば「半導体や電力際限なく食い尽くす」と自分の進歩が止まることに気づくから、なんか手を打ってくると思うけどな。
ハード投資競争はこれ以上やらなくても中国は脅威にならない、んすかね？ 中国こそハード制約の中でソフトウェア進化を進める可能性があり、量に依存した（技術革新ではない）経営競争に関しては減速するのが合理的
もう数年早く言ってほしかったですね
“急速なAIの進化が続く中で「人間の制御を離れるリスク」を危惧し、国際的かつ協調的な開発調整の仕組みが必要として提言。”
もうダメだ。人類は滅亡する。
イーロン・マスクも昔同じようなこと言ってたが、言ってる本人の会社は完全に真逆のことをやってたね。Claudeが無いと死ぬレベルで依存した信者でもこれについては「マスクとアンソロピックは違う！！」とは思わんだろ
人間に勝ち筋がある範囲では従順だし、人間ほどの耐障害性がないから不確定要素削減の原理で人も友好的に生かされるよ
「みんなが止まるなら止める」は、実質的に「止まらない」と同義。
それは人間が手を離しちゃうリスクでは？手綱に握る意思が残ってれば大丈夫だと思うけどな
誰かが言わんといかんからなあ。しかし中国は従うわけがないから止まるのは無理だろうな。
お前が始めた物語って、AI開発ってそんな歴史浅かったっけ？
『世界の有益』ってその“世界”が誰なのか、利益を誰が受け取り、コストを誰が負担しているのかがほとんど具体化されていないよね
他が止まらないので無理でしょう。半導体とか電力に投資してる層も死ぬので止まらないと思う。電力や計算資源巡って戦争起きそうな気すらしてくる。
個人的体感としても「とりあえず今の性能ままで人類には事足りてるんじゃね？」とは感じてる。知足の精神。
核兵器管理めいてきたなぁ
私あの時言いましたよね？と、未来に突っ込まれ無いように