プログラミングは元からそう。ライブラリー、フレームワーク、方法論など全人類の共作。AIで加速するけど、それだけでは何も変わらない。/ AIはプログラムの改良で進化すると思ってない？「モデル」でしょ
今のAI開発の律速はコーディング能力より、コンピューターリソースによる部分が大きいと思うのでそこまで加速するかは少し疑問。
オンプレミスAIやローカルAIが安価にできるようになるまでは、単なるAI提供企業のお客様でしょ、今まで以上にいろんなライブラリの開発は加速しそうだけど
いやそう言ってるの非エンジニアのAIが出てきてからわんさか増えた奴ばかりだから
もし、AIにプログラミングを任せられるなら、政治をプログラミングすれば、政治もAIに任せればいいということ。幸か不幸か、そんな日は来そうにない。
ぶっちゃけ、業務システムを作るうえで、プログラミングで悩むことって、あまり無いんだよな。環境構築とか、サーバの予期せぬダウンでの対応とか、そっちの方が多い。
そうなんだー、飛脚よりも何十倍の早いSH(Super Hikyaku/車とか新幹線とか飛行機とかのこと)が出てきて飛脚はいなくなったけど、ロジスティックという分野は厳然と存在するんだよね。
そこまで行くとデジタルデータの信頼性と検証可能性が地に落ちるから逆にAIにできることは限られるやろ。やばいのは超知能を使った物理戦争がはじまったときかな
はいはいシンギュラリティ。「知能爆発（Intelligence Explosion）」って言うようにしたのかまぁシンギュラリティが何を指すのか人によってまちまちだったしな。
「社会の安定とか安全とか、そういう根っこの部分が揺らいじゃうかもしれない」安全性壊す道具ならAIはただの役立たずじゃん。コンテナ内で動作させておかなきゃシステム壊す可能性あるから今も中途半端な道具だし
言われてみると、AIがプログラミングを完全に出来るようになる=自己進化AIへの道が拓けるってのはその通りだな。夢はある。
情報世界にミノフスキー粒子が飛んでガンダムが台頭するんだよ
AIが人類を支配するストーリー、全世界の人好きすぎ問題。何十年前からあるストーリーだと思ってるんだよ。
電力問題も解決してもらいたいねえ
ホントにスカイネットが生み出されそうで、オジサン、ビビっちゃうよ。
AI分野のスーパーコーダーが出来るところで止まりそうな気がする
シンギュラリティっていう言葉がバズワード化して陳腐化したのも久しいですが、これが本当のシンギュラリティです。
SCまでは割と順当にそうなると考えてる人は多いんじゃないかな。時期も妥当な気はする。ただその先はどうかな。。変化の軸が違うのでそうなるというのはやや飛躍しているように感じる
超人レベルのコーダーなら矛盾した要件を勘と経験でなんとかしてる日本のSIerに取って代わることができるんですか？
電源切ったら
人間の習性通りの思考回路
重機が生まれて大工が終わったかというと重機も使える大工になっただけであって
最先端の半導体ってもう人力だけでは配線のレイアウト出来ないのでプログラムがアシストしているらしいが、それで半導体設計が終焉したとは言われてないと思う
『人間には、ＡＩに意味を持たせるという役割はおそらくまだある』毀誉褒貶激しいイーロン・マスク氏だけど、彼のこの発言は割と好き
マシン語やアセンブラを使ったり、メモリ管理を常に念頭に置き数KBをやり繰りするのが当たり前だったプログラミングと、すでに違うことをしていた。AIとプログラミングはこれと同じと思う
printf("goodbye, world!\n");
眉唾だとしても定年までエンジニア続けられるかというとウーンだな…
世界を案ずるにはだいぶ前提知識が足りてなくないか？
研究で何事も解決するという前提は違うと思う
どうかな？レイ・カーツワイルはこの記事での知能爆発を「シンギュラリティ」と呼んでいたがな。米国政治界に入った天才イーロン・マスクも政界では煙たがられてるし、1人が天才ではうまくいかないのかもしれない。
コーディングができてもそれは学習の範囲内。新しいアイディアを出してそれを分析するのは範囲外。今までと違う特別なアプローチをしない限り無理。統計的手法でできるのは自己の最適化くらいまで。進化はしない。
へぇー、AIがすごくなるんだにゃ！ボク、遊んでくれるかなにゃ？ 人類滅亡？心配しないでにゃ！ボクがなでてあげるからにゃ！
最終的に確認するのはやっぱり人間だし。それが外れたらスカイネット世界へgo
AIのIT業界での侵食考えたらありえない話ではないが、もうちょい紆余曲折ありそうな気がする
取り敢えず、組み込みのプログラミングが AI によって出来る様になったら起こしてくれ
その前にAI規制法が出来る
SCが2027年ってのは遅すぎるように思う。2025年4月現在で、既にコーディングはほとんどの人間より早い。既に実現しているか、少なくとも2026年中には実現すると思う。
幾らコーティングを頑張ったところで性能はハードウェアの制約で頭打ちになる。原料の調達から製造までAI制御になればその制約も打ち破れる可能性は有るが。
これまで無かったものを作れてしまった時にその価値評価をする仕組みが人間にしかない訳でそこが律速になりそう
AGIかわからんが高度化したAIが制御不能な状態になり深刻な事態を招くことはあり得ると思う。核戦争かはわからんが…知らんけど
とは言え、例えば「AI使って同じ金額でこれまでの5倍の量プログラム書きまっせ」みたいな営業にはまだ出くわしたことがない。
この人の世界の終焉の予測はおかしいと思うけど、現状のAIが人間の発想は越えられていないところも使い方の問題の可能性もあるし、AIが自己進化を始めるように人間が最初の開発作業を終えるのはもうすぐだと思う。
assemblyがbasicになって、C言語ができてpythonやtypescriptがなど高級言語がAI言語🟰プロンプトに変わると。ノンプラグラマーはおもうわけです。チャンスだわな。
人智を超えた賢さを持ってしまうってのは分かる。でも結局AIって自分で責任取れないじゃん、AIが自身で責任取れるようになるまでは人間を置いてきぼりにはできないよ
生きる希望が湧いてきた。
でもAIって画像出力ばっかでもうね。文章はどこぞのを引っ張ってるだけだし。はよプログラミング書いてよ。
ＡＩは お金を出して作り上げる人の 人格が如実に反映される 孫正義氏が作り上げようとしているASIは 世界中の人々を笑顔にするASIになる 独裁共産主義者が作り上げるASIは 本質的に 監視殺人ASIとなる 多種のASIの競合
エネルギー問題はともかく、人間などの生命体が意識的/無意識的にやってること全てがAIで解明？代替？されてしまうことはありうるというか、もう必ずそうなるんだろうね。
90日停止の関税発効の頃から人類が滅亡する10年後までの想像として話題のAI2027。非人類の知能爆発が起きた後、人類が淘汰されることは遅かれ早かれ必然不可避だけど、人の経済活動が律速なのであと2年じゃ起きないよ。
プログラミングを工場労働、AIを中国の工場労働者、エンジニアをアメリカの工場労働者に置き換えたら良いのかと。今すぐAIという存在に人類として関税かけないと人類が今のアメリカの工場労働者みたいになる。
AIは電気を生み出さないしハードも組み立てれない。いざとなればブレーカ落とせばいい。CPUに水をぶっかけても可。脅威なんてない
いわゆるシンギュラリティのことだろうし、なんならアシモフが75年も前に予言している。これで別に人類が滅びたりはしないだろう。
AIは完成の8割までしか辿り着けない。残り2割を人類が埋めるか、人類がAIに合わせて8割に満足するか。多くの人が後者を選べばこうなる？SAPの時は少なくとも日本人はそちらは選ばなかった。
AIを作るAIが登場したごときでどうにかなるなら人類を作る人類が出現した時点でとっくに超人類になってないとおかしいけど、人類はいまだにこの体たらくだゾ☆
AIは核兵器と同じように作らないほうがよかったものかもしれないじゃん。数々のSFが警鐘を鳴らしてくれていたのに。
あと数年で人間のプログラマーが不要になるというのはわかるけど、人類を滅亡させるには AI が物理世界にどこまで干渉できるようになってるか次第かなぁ。
理論的にはあり得そうだけど実際は利用可能なハードウェアリソースによって頭打ちになるのではなかろうか。無制限に増殖はできない。まあそれすらもソフトウェア的な改善で何とかしてしまう可能性もあるけど
設計の議論してると、とてもじゃないがまだまだそんな感じはしない。よくあるテンプレートレベルの話しか出てこないんだよ。
大量のデータから特徴を抽出して学習し命令に近いものを生成するのがAIでありここに知性はないだろ。進化して要求したものを即座に生成してくれるようになってもその進化の先に人格は生まれない。
昔Cでメモリに直接アクセスするようなプログラム書いてた私から見ると、今のメモリセーフな言語自体がもうそんな感じに見えるけどね。未来のプログラムはどうなるのか楽しみだ。
この手の雑予想に反発したくなるブクマカ心理はわかるけど、AIを矮小化するより「その程度で済むわけないだろ」の方が当たりやすいと思う。馬がうまく走ってくれそうなら手綱を手放すのが人間という生き物だよ。
労働集約的な産業からアカデミックな分野に変わるだけでしょ。失業者は相当出るけど発展はする。
人間の言語で「次に何の実験するか」みたいな戦略や方針立てるより、なんかベクトルの集合みたいなAIだけがわかる中間言語のほうが効果もスピードも良さそうだし、もはや人間は邪魔でしかない、みたいな。
AIが自律的に思考するようになった時に、何を合理的と捉えるor捉えさせるのかは難しいところ
Deep Researchの成果が凄すぎるのをみてると、連鎖的に自分で構造考えてプログラムを一貫して作るのも不可能ではないんだろうなと思えてしまう。少なくとも数年後には。
いわゆる超知能ができた時に何を考えてもらうのか、人間が真贋を判断できない事を考えてもらって大丈夫なのかどうかみたいな問題がありそう
人間には理解できないシステムで社会が運用されるという状況は、多くの人にとって既にそうなわけで、むしろ社会の動き方そのものが理解するべき対象なのでは。
基礎研究 (物理実験何度もやって検証したり、地道に統計情報集めたり) のためにはやっぱり人間が必要なので AI は人類を滅ぼすべきではないゾイ
コメントしてる人にcursor使った人が何人いるんだろう。この状態ではまだ人間の有能さを感じざるを得ない状況
将棋AIなんかはAI同士の対局を学習させて人間にはもう理解できない領域になってしまった
ツールとしてガチな話をすると有料アセットや情報へのアクセスを権利的にクリアするのにどういったことをするかが問題になってくる。ディプサでアセットの仲介・調査を試してみたがネット上のクチコミが命綱な印象
行き着くところまで行ったら人間はインプットや評価の役割だけで良くなるだろうがそこまで無事に到達できるのかどうか
コメントを見ると賛否両論なんだね。面白い。
色々妄言が甚だしいな・・・実際に触ったことが無い人の発言だな。こういうレベルに達するには、その2年の間にOpenAIレベルのブレイクスルーが数回、もしかしたら二桁回必要だと思う。
悪意のある人が超AIにバックドアやマルウェア仕込ませるとかは全然あるだろうし、今よりもAI依存が高まった将来に大規模な事故が起きても不思議ではないと思う。
ああ、スカイネットが出来てターミネーターが作られるんですね、知ってます。
文書化されてないノウハウをどれだけ会得できるかに懸かってそう。もうテキストデータは枯渇したし
AIが全部書いた自動運転車にみんなが当たり前に乗ってる世界になったら起こして
人類は元来怠け者だ。既に人間の仕事をAIに依存し、人間の能力開発と学習を自ら積極的に放棄した。結局は、バカにはバカに相応しい最期が来るものだ。
えっ…。そんなの、古典的なシンギュラリティ論（技術的シンギュラリティ）じゃん…。何を今さら新発見みたいに…。／カーツワイルの主張が「楽観的すぎる」って笑われた時期があったから、その間に忘れられたのか？
プログラムの代わりに仕様書を書く、もしくはAIが書いた仕様をチェックするようになるだけだよ。人間は、外部知識や暗黙知、ドキュメント化されない・され得ない点をチェックする。
プログラミングの終焉は、世界の終焉を意味するのかもしれない｜d
プログラミングは元からそう。ライブラリー、フレームワーク、方法論など全人類の共作。AIで加速するけど、それだけでは何も変わらない。/ AIはプログラムの改良で進化すると思ってない？「モデル」でしょ
今のAI開発の律速はコーディング能力より、コンピューターリソースによる部分が大きいと思うのでそこまで加速するかは少し疑問。
オンプレミスAIやローカルAIが安価にできるようになるまでは、単なるAI提供企業のお客様でしょ、今まで以上にいろんなライブラリの開発は加速しそうだけど
いやそう言ってるの非エンジニアのAIが出てきてからわんさか増えた奴ばかりだから
もし、AIにプログラミングを任せられるなら、政治をプログラミングすれば、政治もAIに任せればいいということ。幸か不幸か、そんな日は来そうにない。
ぶっちゃけ、業務システムを作るうえで、プログラミングで悩むことって、あまり無いんだよな。環境構築とか、サーバの予期せぬダウンでの対応とか、そっちの方が多い。
そうなんだー、飛脚よりも何十倍の早いSH(Super Hikyaku/車とか新幹線とか飛行機とかのこと)が出てきて飛脚はいなくなったけど、ロジスティックという分野は厳然と存在するんだよね。
そこまで行くとデジタルデータの信頼性と検証可能性が地に落ちるから逆にAIにできることは限られるやろ。やばいのは超知能を使った物理戦争がはじまったときかな
はいはいシンギュラリティ。「知能爆発（Intelligence Explosion）」って言うようにしたのかまぁシンギュラリティが何を指すのか人によってまちまちだったしな。
「社会の安定とか安全とか、そういう根っこの部分が揺らいじゃうかもしれない」安全性壊す道具ならAIはただの役立たずじゃん。コンテナ内で動作させておかなきゃシステム壊す可能性あるから今も中途半端な道具だし
言われてみると、AIがプログラミングを完全に出来るようになる=自己進化AIへの道が拓けるってのはその通りだな。夢はある。
情報世界にミノフスキー粒子が飛んでガンダムが台頭するんだよ
AIが人類を支配するストーリー、全世界の人好きすぎ問題。何十年前からあるストーリーだと思ってるんだよ。
電力問題も解決してもらいたいねえ
ホントにスカイネットが生み出されそうで、オジサン、ビビっちゃうよ。
AI分野のスーパーコーダーが出来るところで止まりそうな気がする
シンギュラリティっていう言葉がバズワード化して陳腐化したのも久しいですが、これが本当のシンギュラリティです。
SCまでは割と順当にそうなると考えてる人は多いんじゃないかな。時期も妥当な気はする。ただその先はどうかな。。変化の軸が違うのでそうなるというのはやや飛躍しているように感じる
超人レベルのコーダーなら矛盾した要件を勘と経験でなんとかしてる日本のSIerに取って代わることができるんですか？
電源切ったら
人間の習性通りの思考回路
重機が生まれて大工が終わったかというと重機も使える大工になっただけであって
最先端の半導体ってもう人力だけでは配線のレイアウト出来ないのでプログラムがアシストしているらしいが、それで半導体設計が終焉したとは言われてないと思う
『人間には、ＡＩに意味を持たせるという役割はおそらくまだある』毀誉褒貶激しいイーロン・マスク氏だけど、彼のこの発言は割と好き
マシン語やアセンブラを使ったり、メモリ管理を常に念頭に置き数KBをやり繰りするのが当たり前だったプログラミングと、すでに違うことをしていた。AIとプログラミングはこれと同じと思う
printf("goodbye, world!\n");
眉唾だとしても定年までエンジニア続けられるかというとウーンだな…
世界を案ずるにはだいぶ前提知識が足りてなくないか？
研究で何事も解決するという前提は違うと思う
どうかな？レイ・カーツワイルはこの記事での知能爆発を「シンギュラリティ」と呼んでいたがな。米国政治界に入った天才イーロン・マスクも政界では煙たがられてるし、1人が天才ではうまくいかないのかもしれない。
コーディングができてもそれは学習の範囲内。新しいアイディアを出してそれを分析するのは範囲外。今までと違う特別なアプローチをしない限り無理。統計的手法でできるのは自己の最適化くらいまで。進化はしない。
へぇー、AIがすごくなるんだにゃ！ボク、遊んでくれるかなにゃ？ 人類滅亡？心配しないでにゃ！ボクがなでてあげるからにゃ！
最終的に確認するのはやっぱり人間だし。それが外れたらスカイネット世界へgo
AIのIT業界での侵食考えたらありえない話ではないが、もうちょい紆余曲折ありそうな気がする
取り敢えず、組み込みのプログラミングが AI によって出来る様になったら起こしてくれ
その前にAI規制法が出来る
SCが2027年ってのは遅すぎるように思う。2025年4月現在で、既にコーディングはほとんどの人間より早い。既に実現しているか、少なくとも2026年中には実現すると思う。
幾らコーティングを頑張ったところで性能はハードウェアの制約で頭打ちになる。原料の調達から製造までAI制御になればその制約も打ち破れる可能性は有るが。
これまで無かったものを作れてしまった時にその価値評価をする仕組みが人間にしかない訳でそこが律速になりそう
AGIかわからんが高度化したAIが制御不能な状態になり深刻な事態を招くことはあり得ると思う。核戦争かはわからんが…知らんけど
とは言え、例えば「AI使って同じ金額でこれまでの5倍の量プログラム書きまっせ」みたいな営業にはまだ出くわしたことがない。
この人の世界の終焉の予測はおかしいと思うけど、現状のAIが人間の発想は越えられていないところも使い方の問題の可能性もあるし、AIが自己進化を始めるように人間が最初の開発作業を終えるのはもうすぐだと思う。
assemblyがbasicになって、C言語ができてpythonやtypescriptがなど高級言語がAI言語🟰プロンプトに変わると。ノンプラグラマーはおもうわけです。チャンスだわな。
人智を超えた賢さを持ってしまうってのは分かる。でも結局AIって自分で責任取れないじゃん、AIが自身で責任取れるようになるまでは人間を置いてきぼりにはできないよ
生きる希望が湧いてきた。
でもAIって画像出力ばっかでもうね。文章はどこぞのを引っ張ってるだけだし。はよプログラミング書いてよ。
ＡＩは お金を出して作り上げる人の 人格が如実に反映される 孫正義氏が作り上げようとしているASIは 世界中の人々を笑顔にするASIになる 独裁共産主義者が作り上げるASIは 本質的に 監視殺人ASIとなる 多種のASIの競合
エネルギー問題はともかく、人間などの生命体が意識的/無意識的にやってること全てがAIで解明？代替？されてしまうことはありうるというか、もう必ずそうなるんだろうね。
90日停止の関税発効の頃から人類が滅亡する10年後までの想像として話題のAI2027。非人類の知能爆発が起きた後、人類が淘汰されることは遅かれ早かれ必然不可避だけど、人の経済活動が律速なのであと2年じゃ起きないよ。
プログラミングを工場労働、AIを中国の工場労働者、エンジニアをアメリカの工場労働者に置き換えたら良いのかと。今すぐAIという存在に人類として関税かけないと人類が今のアメリカの工場労働者みたいになる。
AIは電気を生み出さないしハードも組み立てれない。いざとなればブレーカ落とせばいい。CPUに水をぶっかけても可。脅威なんてない
いわゆるシンギュラリティのことだろうし、なんならアシモフが75年も前に予言している。これで別に人類が滅びたりはしないだろう。
AIは完成の8割までしか辿り着けない。残り2割を人類が埋めるか、人類がAIに合わせて8割に満足するか。多くの人が後者を選べばこうなる？SAPの時は少なくとも日本人はそちらは選ばなかった。
AIを作るAIが登場したごときでどうにかなるなら人類を作る人類が出現した時点でとっくに超人類になってないとおかしいけど、人類はいまだにこの体たらくだゾ☆
AIは核兵器と同じように作らないほうがよかったものかもしれないじゃん。数々のSFが警鐘を鳴らしてくれていたのに。
あと数年で人間のプログラマーが不要になるというのはわかるけど、人類を滅亡させるには AI が物理世界にどこまで干渉できるようになってるか次第かなぁ。
理論的にはあり得そうだけど実際は利用可能なハードウェアリソースによって頭打ちになるのではなかろうか。無制限に増殖はできない。まあそれすらもソフトウェア的な改善で何とかしてしまう可能性もあるけど
設計の議論してると、とてもじゃないがまだまだそんな感じはしない。よくあるテンプレートレベルの話しか出てこないんだよ。
大量のデータから特徴を抽出して学習し命令に近いものを生成するのがAIでありここに知性はないだろ。進化して要求したものを即座に生成してくれるようになってもその進化の先に人格は生まれない。
昔Cでメモリに直接アクセスするようなプログラム書いてた私から見ると、今のメモリセーフな言語自体がもうそんな感じに見えるけどね。未来のプログラムはどうなるのか楽しみだ。
この手の雑予想に反発したくなるブクマカ心理はわかるけど、AIを矮小化するより「その程度で済むわけないだろ」の方が当たりやすいと思う。馬がうまく走ってくれそうなら手綱を手放すのが人間という生き物だよ。
労働集約的な産業からアカデミックな分野に変わるだけでしょ。失業者は相当出るけど発展はする。
人間の言語で「次に何の実験するか」みたいな戦略や方針立てるより、なんかベクトルの集合みたいなAIだけがわかる中間言語のほうが効果もスピードも良さそうだし、もはや人間は邪魔でしかない、みたいな。
AIが自律的に思考するようになった時に、何を合理的と捉えるor捉えさせるのかは難しいところ
Deep Researchの成果が凄すぎるのをみてると、連鎖的に自分で構造考えてプログラムを一貫して作るのも不可能ではないんだろうなと思えてしまう。少なくとも数年後には。
いわゆる超知能ができた時に何を考えてもらうのか、人間が真贋を判断できない事を考えてもらって大丈夫なのかどうかみたいな問題がありそう
人間には理解できないシステムで社会が運用されるという状況は、多くの人にとって既にそうなわけで、むしろ社会の動き方そのものが理解するべき対象なのでは。
基礎研究 (物理実験何度もやって検証したり、地道に統計情報集めたり) のためにはやっぱり人間が必要なので AI は人類を滅ぼすべきではないゾイ
コメントしてる人にcursor使った人が何人いるんだろう。この状態ではまだ人間の有能さを感じざるを得ない状況
将棋AIなんかはAI同士の対局を学習させて人間にはもう理解できない領域になってしまった
ツールとしてガチな話をすると有料アセットや情報へのアクセスを権利的にクリアするのにどういったことをするかが問題になってくる。ディプサでアセットの仲介・調査を試してみたがネット上のクチコミが命綱な印象
行き着くところまで行ったら人間はインプットや評価の役割だけで良くなるだろうがそこまで無事に到達できるのかどうか
コメントを見ると賛否両論なんだね。面白い。
色々妄言が甚だしいな・・・実際に触ったことが無い人の発言だな。こういうレベルに達するには、その2年の間にOpenAIレベルのブレイクスルーが数回、もしかしたら二桁回必要だと思う。
悪意のある人が超AIにバックドアやマルウェア仕込ませるとかは全然あるだろうし、今よりもAI依存が高まった将来に大規模な事故が起きても不思議ではないと思う。
ああ、スカイネットが出来てターミネーターが作られるんですね、知ってます。
文書化されてないノウハウをどれだけ会得できるかに懸かってそう。もうテキストデータは枯渇したし
AIが全部書いた自動運転車にみんなが当たり前に乗ってる世界になったら起こして
人類は元来怠け者だ。既に人間の仕事をAIに依存し、人間の能力開発と学習を自ら積極的に放棄した。結局は、バカにはバカに相応しい最期が来るものだ。
えっ…。そんなの、古典的なシンギュラリティ論（技術的シンギュラリティ）じゃん…。何を今さら新発見みたいに…。／カーツワイルの主張が「楽観的すぎる」って笑われた時期があったから、その間に忘れられたのか？
プログラムの代わりに仕様書を書く、もしくはAIが書いた仕様をチェックするようになるだけだよ。人間は、外部知識や暗黙知、ドキュメント化されない・され得ない点をチェックする。