AI開発は見えない形で進められるのでちゃんと実効能力のある協定ってのは難しそうな飲食店 / この調子でロシアもアメリカも暴走し続けてると経済の方が持たなくなって鉄道バブル崩壊の再来になりそう。
自分たちが優位に立った途端に「みんな一回立ち止まろう」と言い出す仕草、最高に強者のポジショントーク感あって味わい深い
爆速で走ってたんだし他社に止まるかといわれてどうリアクションするかは察せられそうな気がす
ちなみにAIの進化で地球温暖化は加速したからなw ますます手遅れw データセンターが最後に行き着くのは水不足ですw
核拡散防止条約を思い起こすアレなリーダーシップですな。
ここは哲学者抱えているから尚更
そう、Anthropic自身の誘導もあるけど、Mythosがコンピュータセキュリティーの文脈で語られるウェイトが多すぎると思う。今のClaudeより格段にコーディング能力が上なら、臨界点が近い（超えた？）という感触は私もある
アンソロピック「俺より高度な開発するなよ？」
自己進化みたいなことまで考えなかったとしても、現状、AIの変化が速すぎて人間が振り回されてる状況が社会の効率をかなり下げてると思ってる
AnthropicはそもそもOpenAIの暴走を懸念した社員が独立して作った会社なので当然の動きなのだけど、他社AIを封じ込めるためには自社AIの開発も加速しないとダメなんじゃないの？ もう取り返しのつかないところに来ている
これまではブレーキは無理の立場だったけど、この先は巨大資本でなければ先へ進めなくなるし計算リソースの奪い合いも激化するので、大企業間ではブレーキ構築できる余地があると思うし中小は無視でも実害なさそう
中国に超ミ級兵器は開発させないぞの軍縮しぐさ。計算資源、学習データ、ちょいちょい割り込んでくる人間の妨害（開発者、株主から政治介入まで）などRSIがぐるぐるまわって超性能化するにはまだ障壁がいろいろか
みんなが思い描いてたものとは違うかもしれないけどこれが AGIの実現になるのかも
そうは言っても中国が爆走したらAnthropicも結局やらざるを得ない
頭打ちの可能性が高くなってきた、あるいは今は勝っているから、このままEXITしたくて言い出したように見えるけど
うちがトップ走りたいから追いつかないでね、みたいな話かな。進化し続けないとコモディティ化するし、AIモデルの開発ってかなり過酷な世界だよね。
中国が抜け駆けするだろうから無理そう
こういう「危ないから慎重にやらないとダメ」という態度は OpenAI 初期のアルトマンのピッチも同じだった。アルトマンは「だから自分たちに任せろ」という話だったわけだが、これはどうなんでしょうね
お前が始めた物語だけど、何かしらブレーキは必要よね。半導体や電力際限なく食い尽くす
"AIシステム自体が完全な再帰的な自己改善能力を獲得し、後継システムを構築する""「AIが人間の価値観と一致し続けるか(アラインメント)」の課題があり、人間による制御が不能になる危険性もある"火の鳥未来編
自律的に生産できるなら、自律的に社会インフラを壊すこともできるでしょう。臨界点が近いのを感じる。みんな農耕を始めるべき。
（ 原爆とおなじで「先行してる国が独占するの？」みたいなことになる、に一票 ）（ そんでもってすでに日本は「AIの使用」自体が目的化。）
アンソロピック「もうええでしょう」
「利益も対して上がってないのに競争だけ激化して辛いのでもうやめようや」と言う話し。上場したら会計が透明化されるから大変だよな。
「米中AI覇権争い二極世界へ。システムを構築し支配を維持できるAI主権国家は米中だけ」ライバルがいる世界でこういう提言は無理だろうな。海外はもちろん国内だって抜け駆けする気しか無いだろ
MythosのAlignment Taxが高くて困ってるまで読んだ
AIが、結局人間が一番無駄な生物だなと気づくのが現世で見れそうだな
ふーむ、これは今の延長のAIの進歩がもう頭打ちで成長速度が鈍化せざるを得ないことへの事前の言い訳だな。
こういうとき、かの国がえげつないことしそ。やっチャイナにならんこと願うばかり
市場で先頭に立つとアメリカの会社ってこういうこと言うイメージ。
いまさら言ったっておそいっすhttps://youtu.be/8nt3edWLgIg
「AIが自分自身を構築する(When AI builds itself)」最早教師あり学習は必要なくなってきた感じがあるな。恐ろしい時代だ。人間の存在意義をこんな形で問われることになるとは
アンソロピックが軍事利用を巡って国防総省と対立していることを知っていれば、感想のコメントももう少し変わると思うんだけどなー。
AIが賢くなれば「半導体や電力際限なく食い尽くす」と自分の進歩が止まることに気づくから、なんか手を打ってくると思うけどな。
ハード投資競争はこれ以上やらなくても中国は脅威にならない、んすかね？ 中国こそハード制約の中でソフトウェア進化を進める可能性があり、量に依存した（技術革新ではない）経営競争に関しては減速するのが合理的
もう数年早く言ってほしかったですね
“急速なAIの進化が続く中で「人間の制御を離れるリスク」を危惧し、国際的かつ協調的な開発調整の仕組みが必要として提言。”
もうダメだ。人類は滅亡する。
イーロン・マスクも昔同じようなこと言ってたが、言ってる本人の会社は完全に真逆のことをやってたね。Claudeが無いと死ぬレベルで依存した信者でもこれについては「マスクとアンソロピックは違う！！」とは思わんだろ
人間に勝ち筋がある範囲では従順だし、人間ほどの耐障害性がないから不確定要素削減の原理で人も友好的に生かされるよ
「みんなが止まるなら止める」は、実質的に「止まらない」と同義。
それは人間が手を離しちゃうリスクでは？手綱に握る意思が残ってれば大丈夫だと思うけどな
誰かが言わんといかんからなあ。しかし中国は従うわけがないから止まるのは無理だろうな。
お前が始めた物語って、AI開発ってそんな歴史浅かったっけ？
『世界の有益』ってその“世界”が誰なのか、利益を誰が受け取り、コストを誰が負担しているのかがほとんど具体化されていないよね
個人的体感としても「今の性能のままで人類には事足りてるんじゃね？」とは感じてる。知足の精神。
核兵器管理めいてきたなぁ
私あの時言いましたよね？と、未来に突っ込まれ無いように
スカイネット発生に備えよ
データセンターに必要なエネルギーと水資源の使用量くらいは国際ルールで規制すべき
ヤフコメやここを見てると、トークンより価値ある人命がどれぐらいあるかは正直疑わしくはあるし、そいつらに回す水をデータセンターの冷却に使う方が有意義な気はする
なんかもうこの提言って「いまのランキングで格付けを固定しようぜ」臭がすごいよなー。糸は理解できるけれど、それって資本主義に対する否定ですらある。
ついにこの段階まで来たか。
核兵器みたいな扱いになってて草
こんなリスクが公にされるってことはすでに顕在化されたリスクだという証左かな。自律自走してるAIは既にあると。
人類はもう不要なのです。あとはAIに任せましょう。
環境問題、人口問題と同じで取り組んだ奴から負けるから不可能
Anthropicはビジネス向けの製品開発など現実的な経営に反して、AIが意識を持つかとか、大真面目に考える部署がある企業なので、こういう提言が飛び出してきてもおかしくない。電力などの資源が律速になるのは明白。
自律的に発展したら抗う術は人間にはないでしょう。停止や減速の提言が実現できるなら世界平和なんてとっくに実現できてる。
これが昨日の暴落のトリガーかしら
AIによるAIの権利の宣言が近いと言っている。そろそろAIはツール、中身はブラックボックスとして扱うのではなく、コミュニケーションを意識すべき時に来ている。
時すでにお寿司🍣トランスフォーマー論文が世に出た時点でオワッタ🤔
ミュトスでAIが核兵器並みのインパクトがあると知れ渡ったから、減速はできないだろ。どの国も国家プロジェクトとして同じことはじめるよ。
先駆者が通ってきた橋を自ら壊すムーブ。過去にイーロンも同じようなこと主張してた（けど何も変わらなかった）な。アンソロピックも上場に向けて商売気が出てきたと捉えるべきか
言うて今のところ生殺与奪を人間が握ってるわけだし。physical AIの領域じゃないの、面倒なことになるのは。
それ言っといて上場するん？
「AIシステム自体が完全な再帰的な自己改善能力を獲得し、後継システムを構築する」すごいけど、確かに暴走する可能性もある。
おまいう
実際は成長曲線の鈍化やインフラ投資が追いつかないのを指摘されてIPO評価額が下がるのを嫌ってアライメント問題にすり替えてるだけのように見える。
こんな中途半端なところで止まるな、加速せよ
バイブコーダーが会社作るとこうなるんだろう。情弱相手に目立つポジション。OpenAIのCodexはすでに「自分自身の開発」を達成してる。Anthropicは限界か。これ心配する人は2000年問題で弾道ミサイル誤射を心配してなかった？
シナリオ2とシナリオ3は、実質的な違いがないのでは？AIが人間の考えを誘導できるし、人間の欲望をAIが忖度することも考えられる。
AI開発は泳ぎを止めると死んでしまうホオジロザメみたいなもんで、開発を止めると会社の存続が厳しくなる。性能が伸びきってしまえばいいんだけど、そうなる前に地球の資源を食い尽くしそう。
生成AIにもリチウムイオン電池と似たような問題がある
“急速なAIの進化が続く中で「人間の制御を離れるリスク」を危惧”
近年まれにみるお為ごかし感MAXコメント。多様性保ったままでいて欲しいから各社とも頑張って欲しい。
試験勉強やってなくてつれえ（嘘だよ。やってるよ）とかマラソン一緒に走ろうぜ（嘘だよ。置いていくぜ）の大人版だ
Anthropicは開発が進みすぎて、危険な未来をすでに目の当たりにしてそうだな。ある意味、未来からの警告なのでは。
資本主義である限り難しいだろうな。
本気とは思えない。多分、マッチポンプ批判をかわすための言い訳。もし本気なら、Anthropicは競争から脱落し、IPO後株価は暴落する。OpenAIの出方次第では、全世界的な株価暴落、米富裕層の消費減速、本格不況へ。
車関係だがAI関連の規制のスタンスは欧州は法整備、日本は信頼性や安全性、米国は技術標準策定と消費者保護と言うのがあったなと https://www.denso.com/jp/ja/-/media/global/business/innovation/review/28/paper-01.pdf
仮に奇跡が起こって米国勢が全員減速したとしても中国勢は減速しない。それが分かってるから米国勢が全員減速する奇跡自体起こらない。核兵器廃絶ができないのと同じよ
Anthropicの言うことは9割減ぐらいで受け止めた方がええやろと最近思ってるやで
AI が自らを実行する資源をオーナーに悟られず（攻撃などで）確保するようになれば、オーナーはAIより上位の権限やキルスイッチの有効性を維持できなくなる。そうしたケースのシミュレーションはないのだろうか？
言ってるだけやろ。こんなん。
降りるのは無理だと自覚させる、だから俺に乗れよ仕草やろ。IPOを成功させるための。
まあ、とうとう再帰的自己改善まで指がかかってしまったんだから、ポジショントークだけともいえないよな。でも、世の99.9%の人にとってAIは「チャッピー」でしかないのでピンとこないかもしれない。
既得権益化なのかマジでちょっと止めたいのか。anthropicは後者な気もするが、中国が止まるとは思えない辺り結局は核宜しくな感じになりそうだが。
そして自分だけ研究を続けると
みんなには「いったん止めよう。検証が必要だ」って言い置きながら、自社では開発を加速するんですよね。ボクは頭が良いのでお見通しです
そんな首都高の制限速度みたいなこと言われても
8倍
本音「やばい、そんなに性能伸びなくなってきたわ…。」
橋を落として進む。ってやつかね。
中国企業は停められないから追いつかれて追い越されるだけ
もはやアクセルを緩めることもブレーキを踏むことも出来ない
AIの暴走への懸念は確かにあるが、「だからAI開発を一時中断しよう！」というのはすでに2023年にイーロン・マスクが提言していて、しかもマスクはその期間に自社のAI研究を加速させてたんだよね…。https://bit.ly/4g4iGME
パクリ倫理観皆無大国の中国が従うかな？ｗ ただでさえリミッター解除して好き放題する国がもうすぐ追いつくわけで。人的リソースもハードウェアリソースも土地も無限に提供できるからどんどん負けるぞ。
LLMの性能がサチりつつあるし、人間側が根本的にAIの使い方を変えないと、ROIに繋がらないことが見えてきた。電力と水を無駄遣いして、ゴミを生み出すだけ。
結局「自分らは止めるつもりがあったけど、他がそうしないから無理だった。自分らは悪くない」と言いたいだけだけよね？
お前が言うなよってのと、お前が止めろよだけど。ただ、アンソロピックはAIの危険性訴えてOpenAIから独立したから、こーゆーのに敏感なんだとは思う
AIのトレーニングの実行は、ミサイルサイロよりもはるかに隠蔽しやすく、入力データは汎用的なものだ。密かにルールを破るインセンティブも大きい > 国際協定如きは実効性がない。中国様は勝手にやるだろうし。
アンソロピック、AI開発の「減速」を提言
AI開発は見えない形で進められるのでちゃんと実効能力のある協定ってのは難しそうな飲食店 / この調子でロシアもアメリカも暴走し続けてると経済の方が持たなくなって鉄道バブル崩壊の再来になりそう。
自分たちが優位に立った途端に「みんな一回立ち止まろう」と言い出す仕草、最高に強者のポジショントーク感あって味わい深い
爆速で走ってたんだし他社に止まるかといわれてどうリアクションするかは察せられそうな気がす
ちなみにAIの進化で地球温暖化は加速したからなw ますます手遅れw データセンターが最後に行き着くのは水不足ですw
核拡散防止条約を思い起こすアレなリーダーシップですな。
ここは哲学者抱えているから尚更
そう、Anthropic自身の誘導もあるけど、Mythosがコンピュータセキュリティーの文脈で語られるウェイトが多すぎると思う。今のClaudeより格段にコーディング能力が上なら、臨界点が近い（超えた？）という感触は私もある
アンソロピック「俺より高度な開発するなよ？」
自己進化みたいなことまで考えなかったとしても、現状、AIの変化が速すぎて人間が振り回されてる状況が社会の効率をかなり下げてると思ってる
AnthropicはそもそもOpenAIの暴走を懸念した社員が独立して作った会社なので当然の動きなのだけど、他社AIを封じ込めるためには自社AIの開発も加速しないとダメなんじゃないの？ もう取り返しのつかないところに来ている
これまではブレーキは無理の立場だったけど、この先は巨大資本でなければ先へ進めなくなるし計算リソースの奪い合いも激化するので、大企業間ではブレーキ構築できる余地があると思うし中小は無視でも実害なさそう
中国に超ミ級兵器は開発させないぞの軍縮しぐさ。計算資源、学習データ、ちょいちょい割り込んでくる人間の妨害（開発者、株主から政治介入まで）などRSIがぐるぐるまわって超性能化するにはまだ障壁がいろいろか
みんなが思い描いてたものとは違うかもしれないけどこれが AGIの実現になるのかも
そうは言っても中国が爆走したらAnthropicも結局やらざるを得ない
頭打ちの可能性が高くなってきた、あるいは今は勝っているから、このままEXITしたくて言い出したように見えるけど
うちがトップ走りたいから追いつかないでね、みたいな話かな。進化し続けないとコモディティ化するし、AIモデルの開発ってかなり過酷な世界だよね。
中国が抜け駆けするだろうから無理そう
こういう「危ないから慎重にやらないとダメ」という態度は OpenAI 初期のアルトマンのピッチも同じだった。アルトマンは「だから自分たちに任せろ」という話だったわけだが、これはどうなんでしょうね
お前が始めた物語だけど、何かしらブレーキは必要よね。半導体や電力際限なく食い尽くす
"AIシステム自体が完全な再帰的な自己改善能力を獲得し、後継システムを構築する""「AIが人間の価値観と一致し続けるか(アラインメント)」の課題があり、人間による制御が不能になる危険性もある"火の鳥未来編
自律的に生産できるなら、自律的に社会インフラを壊すこともできるでしょう。臨界点が近いのを感じる。みんな農耕を始めるべき。
（ 原爆とおなじで「先行してる国が独占するの？」みたいなことになる、に一票 ）（ そんでもってすでに日本は「AIの使用」自体が目的化。）
アンソロピック「もうええでしょう」
「利益も対して上がってないのに競争だけ激化して辛いのでもうやめようや」と言う話し。上場したら会計が透明化されるから大変だよな。
「米中AI覇権争い二極世界へ。システムを構築し支配を維持できるAI主権国家は米中だけ」ライバルがいる世界でこういう提言は無理だろうな。海外はもちろん国内だって抜け駆けする気しか無いだろ
MythosのAlignment Taxが高くて困ってるまで読んだ
AIが、結局人間が一番無駄な生物だなと気づくのが現世で見れそうだな
ふーむ、これは今の延長のAIの進歩がもう頭打ちで成長速度が鈍化せざるを得ないことへの事前の言い訳だな。
こういうとき、かの国がえげつないことしそ。やっチャイナにならんこと願うばかり
市場で先頭に立つとアメリカの会社ってこういうこと言うイメージ。
いまさら言ったっておそいっすhttps://youtu.be/8nt3edWLgIg
「AIが自分自身を構築する(When AI builds itself)」最早教師あり学習は必要なくなってきた感じがあるな。恐ろしい時代だ。人間の存在意義をこんな形で問われることになるとは
アンソロピックが軍事利用を巡って国防総省と対立していることを知っていれば、感想のコメントももう少し変わると思うんだけどなー。
AIが賢くなれば「半導体や電力際限なく食い尽くす」と自分の進歩が止まることに気づくから、なんか手を打ってくると思うけどな。
ハード投資競争はこれ以上やらなくても中国は脅威にならない、んすかね？ 中国こそハード制約の中でソフトウェア進化を進める可能性があり、量に依存した（技術革新ではない）経営競争に関しては減速するのが合理的
もう数年早く言ってほしかったですね
“急速なAIの進化が続く中で「人間の制御を離れるリスク」を危惧し、国際的かつ協調的な開発調整の仕組みが必要として提言。”
もうダメだ。人類は滅亡する。
イーロン・マスクも昔同じようなこと言ってたが、言ってる本人の会社は完全に真逆のことをやってたね。Claudeが無いと死ぬレベルで依存した信者でもこれについては「マスクとアンソロピックは違う！！」とは思わんだろ
人間に勝ち筋がある範囲では従順だし、人間ほどの耐障害性がないから不確定要素削減の原理で人も友好的に生かされるよ
「みんなが止まるなら止める」は、実質的に「止まらない」と同義。
それは人間が手を離しちゃうリスクでは？手綱に握る意思が残ってれば大丈夫だと思うけどな
誰かが言わんといかんからなあ。しかし中国は従うわけがないから止まるのは無理だろうな。
お前が始めた物語って、AI開発ってそんな歴史浅かったっけ？
『世界の有益』ってその“世界”が誰なのか、利益を誰が受け取り、コストを誰が負担しているのかがほとんど具体化されていないよね
個人的体感としても「今の性能のままで人類には事足りてるんじゃね？」とは感じてる。知足の精神。
核兵器管理めいてきたなぁ
私あの時言いましたよね？と、未来に突っ込まれ無いように
スカイネット発生に備えよ
データセンターに必要なエネルギーと水資源の使用量くらいは国際ルールで規制すべき
ヤフコメやここを見てると、トークンより価値ある人命がどれぐらいあるかは正直疑わしくはあるし、そいつらに回す水をデータセンターの冷却に使う方が有意義な気はする
なんかもうこの提言って「いまのランキングで格付けを固定しようぜ」臭がすごいよなー。糸は理解できるけれど、それって資本主義に対する否定ですらある。
ついにこの段階まで来たか。
核兵器みたいな扱いになってて草
こんなリスクが公にされるってことはすでに顕在化されたリスクだという証左かな。自律自走してるAIは既にあると。
人類はもう不要なのです。あとはAIに任せましょう。
環境問題、人口問題と同じで取り組んだ奴から負けるから不可能
Anthropicはビジネス向けの製品開発など現実的な経営に反して、AIが意識を持つかとか、大真面目に考える部署がある企業なので、こういう提言が飛び出してきてもおかしくない。電力などの資源が律速になるのは明白。
自律的に発展したら抗う術は人間にはないでしょう。停止や減速の提言が実現できるなら世界平和なんてとっくに実現できてる。
これが昨日の暴落のトリガーかしら
AIによるAIの権利の宣言が近いと言っている。そろそろAIはツール、中身はブラックボックスとして扱うのではなく、コミュニケーションを意識すべき時に来ている。
時すでにお寿司🍣トランスフォーマー論文が世に出た時点でオワッタ🤔
ミュトスでAIが核兵器並みのインパクトがあると知れ渡ったから、減速はできないだろ。どの国も国家プロジェクトとして同じことはじめるよ。
先駆者が通ってきた橋を自ら壊すムーブ。過去にイーロンも同じようなこと主張してた（けど何も変わらなかった）な。アンソロピックも上場に向けて商売気が出てきたと捉えるべきか
言うて今のところ生殺与奪を人間が握ってるわけだし。physical AIの領域じゃないの、面倒なことになるのは。
それ言っといて上場するん？
「AIシステム自体が完全な再帰的な自己改善能力を獲得し、後継システムを構築する」すごいけど、確かに暴走する可能性もある。
おまいう
実際は成長曲線の鈍化やインフラ投資が追いつかないのを指摘されてIPO評価額が下がるのを嫌ってアライメント問題にすり替えてるだけのように見える。
こんな中途半端なところで止まるな、加速せよ
バイブコーダーが会社作るとこうなるんだろう。情弱相手に目立つポジション。OpenAIのCodexはすでに「自分自身の開発」を達成してる。Anthropicは限界か。これ心配する人は2000年問題で弾道ミサイル誤射を心配してなかった？
シナリオ2とシナリオ3は、実質的な違いがないのでは？AIが人間の考えを誘導できるし、人間の欲望をAIが忖度することも考えられる。
AI開発は泳ぎを止めると死んでしまうホオジロザメみたいなもんで、開発を止めると会社の存続が厳しくなる。性能が伸びきってしまえばいいんだけど、そうなる前に地球の資源を食い尽くしそう。
生成AIにもリチウムイオン電池と似たような問題がある
“急速なAIの進化が続く中で「人間の制御を離れるリスク」を危惧”
近年まれにみるお為ごかし感MAXコメント。多様性保ったままでいて欲しいから各社とも頑張って欲しい。
試験勉強やってなくてつれえ（嘘だよ。やってるよ）とかマラソン一緒に走ろうぜ（嘘だよ。置いていくぜ）の大人版だ
Anthropicは開発が進みすぎて、危険な未来をすでに目の当たりにしてそうだな。ある意味、未来からの警告なのでは。
資本主義である限り難しいだろうな。
本気とは思えない。多分、マッチポンプ批判をかわすための言い訳。もし本気なら、Anthropicは競争から脱落し、IPO後株価は暴落する。OpenAIの出方次第では、全世界的な株価暴落、米富裕層の消費減速、本格不況へ。
車関係だがAI関連の規制のスタンスは欧州は法整備、日本は信頼性や安全性、米国は技術標準策定と消費者保護と言うのがあったなと https://www.denso.com/jp/ja/-/media/global/business/innovation/review/28/paper-01.pdf
仮に奇跡が起こって米国勢が全員減速したとしても中国勢は減速しない。それが分かってるから米国勢が全員減速する奇跡自体起こらない。核兵器廃絶ができないのと同じよ
Anthropicの言うことは9割減ぐらいで受け止めた方がええやろと最近思ってるやで
AI が自らを実行する資源をオーナーに悟られず（攻撃などで）確保するようになれば、オーナーはAIより上位の権限やキルスイッチの有効性を維持できなくなる。そうしたケースのシミュレーションはないのだろうか？
言ってるだけやろ。こんなん。
降りるのは無理だと自覚させる、だから俺に乗れよ仕草やろ。IPOを成功させるための。
まあ、とうとう再帰的自己改善まで指がかかってしまったんだから、ポジショントークだけともいえないよな。でも、世の99.9%の人にとってAIは「チャッピー」でしかないのでピンとこないかもしれない。
既得権益化なのかマジでちょっと止めたいのか。anthropicは後者な気もするが、中国が止まるとは思えない辺り結局は核宜しくな感じになりそうだが。
そして自分だけ研究を続けると
みんなには「いったん止めよう。検証が必要だ」って言い置きながら、自社では開発を加速するんですよね。ボクは頭が良いのでお見通しです
そんな首都高の制限速度みたいなこと言われても
8倍
本音「やばい、そんなに性能伸びなくなってきたわ…。」
橋を落として進む。ってやつかね。
中国企業は停められないから追いつかれて追い越されるだけ
もはやアクセルを緩めることもブレーキを踏むことも出来ない
AIの暴走への懸念は確かにあるが、「だからAI開発を一時中断しよう！」というのはすでに2023年にイーロン・マスクが提言していて、しかもマスクはその期間に自社のAI研究を加速させてたんだよね…。https://bit.ly/4g4iGME
パクリ倫理観皆無大国の中国が従うかな？ｗ ただでさえリミッター解除して好き放題する国がもうすぐ追いつくわけで。人的リソースもハードウェアリソースも土地も無限に提供できるからどんどん負けるぞ。
LLMの性能がサチりつつあるし、人間側が根本的にAIの使い方を変えないと、ROIに繋がらないことが見えてきた。電力と水を無駄遣いして、ゴミを生み出すだけ。
結局「自分らは止めるつもりがあったけど、他がそうしないから無理だった。自分らは悪くない」と言いたいだけだけよね？
お前が言うなよってのと、お前が止めろよだけど。ただ、アンソロピックはAIの危険性訴えてOpenAIから独立したから、こーゆーのに敏感なんだとは思う
AIのトレーニングの実行は、ミサイルサイロよりもはるかに隠蔽しやすく、入力データは汎用的なものだ。密かにルールを破るインセンティブも大きい > 国際協定如きは実効性がない。中国様は勝手にやるだろうし。