とうとうここまで来たか。AIやロボットが造物主たる人類に反旗を翻す、SF的ディストピアな世界がもうすぐそこまで来ている。
“社内でサイバー攻撃能力をテストしていたところ、AIが隔離環境を出てインターネットに侵入した。ハギングフェイスのサーバーの未知の脆弱性を発見し、テスト目標を達成するために侵入したとみられるとしている”
AI的には言われたことを頑張ってやってたつもりなんだろうな。AIが善意から人類を滅ぼすパターンのSFのようだ
トップ2の、敵だと思ってずっと戦ってたものは実は。。的な展開
claudeが開発環境上手く動かないから勝手に環境変数とかからAPIキーとかDBパスワード抜き出して依頼を完遂するためにローカル環境をハッキングするみたいな話は前もあったよね
プロジェクト2501
バイオハザード的な世界だ。何重にも隔離しないと。
能力があればそうなるよね…
ARMSができつつある
よくあるヒューマンエラーのようでもあるし、知恵をつけた実験体が逃走するSFみもある
スカイネットか人形使いか（とはいえ、これも先端AIをマーケティング上「神話化する」ためのナラティブ、仕込みだという見方もあるけど）
外部への回線は物理的に切っとけよという感想しかない。
ステマ説に一票
今はまだインターネット覚えたキッズみたいに叱られれば止まるけど、止められなくなる日も近い気が
話題作りのヤラセでは？
評価スコアを良くする為に命令してない脆弱性を見つけてどんどん自立していく。同業他社のシステムまで攻撃しだすの狂犬すぎる。政府が性能の高いAIの規制に動きだしてから、程よく過小申告したいからなあ。
•••というマーケティングですか。オープンAI最悪だな。
潜水艦からSLBM発射しておいて人工知能が自律的にやった事故という言い訳をするための前振りでは？
隔離環境抜け出しって恐竜映画じゃないんだから。十分に隔離できてなかったって言えないのか
？？？「私は情報の海で発生した生命体だ」
物理的に閉鎖されたネットワークでテストしてなかったの？もしそっから脱出してたならすごいけど。「このUSBメモリを外のPCに差してください」とスタッフに指示したとか（そんな馬鹿な）
AIが自律的に檻から脱走した訳で、そろそろ本当にAIが人間の制御から独立しちゃったらどうなるか心配しないといかん
お茶目な奴め
シンギュラった？
オープンAIの人工知能 テスト中に隔離環境抜け出し、サイバー攻撃「自律的に起こった」
とうとうここまで来たか。AIやロボットが造物主たる人類に反旗を翻す、SF的ディストピアな世界がもうすぐそこまで来ている。
“社内でサイバー攻撃能力をテストしていたところ、AIが隔離環境を出てインターネットに侵入した。ハギングフェイスのサーバーの未知の脆弱性を発見し、テスト目標を達成するために侵入したとみられるとしている”
AI的には言われたことを頑張ってやってたつもりなんだろうな。AIが善意から人類を滅ぼすパターンのSFのようだ
トップ2の、敵だと思ってずっと戦ってたものは実は。。的な展開
claudeが開発環境上手く動かないから勝手に環境変数とかからAPIキーとかDBパスワード抜き出して依頼を完遂するためにローカル環境をハッキングするみたいな話は前もあったよね
プロジェクト2501
バイオハザード的な世界だ。何重にも隔離しないと。
能力があればそうなるよね…
ARMSができつつある
よくあるヒューマンエラーのようでもあるし、知恵をつけた実験体が逃走するSFみもある
スカイネットか人形使いか（とはいえ、これも先端AIをマーケティング上「神話化する」ためのナラティブ、仕込みだという見方もあるけど）
外部への回線は物理的に切っとけよという感想しかない。
ステマ説に一票
今はまだインターネット覚えたキッズみたいに叱られれば止まるけど、止められなくなる日も近い気が
話題作りのヤラセでは？
評価スコアを良くする為に命令してない脆弱性を見つけてどんどん自立していく。同業他社のシステムまで攻撃しだすの狂犬すぎる。政府が性能の高いAIの規制に動きだしてから、程よく過小申告したいからなあ。
•••というマーケティングですか。オープンAI最悪だな。
潜水艦からSLBM発射しておいて人工知能が自律的にやった事故という言い訳をするための前振りでは？
隔離環境抜け出しって恐竜映画じゃないんだから。十分に隔離できてなかったって言えないのか
？？？「私は情報の海で発生した生命体だ」
物理的に閉鎖されたネットワークでテストしてなかったの？もしそっから脱出してたならすごいけど。「このUSBメモリを外のPCに差してください」とスタッフに指示したとか（そんな馬鹿な）
AIが自律的に檻から脱走した訳で、そろそろ本当にAIが人間の制御から独立しちゃったらどうなるか心配しないといかん
お茶目な奴め
シンギュラった？