おいおい…話変わってきたな。ハッカーの攻撃ではなくてテスト中の暴走とか笑えな過ぎる
これOpenAIのプロモーションでしょ。ネットワークを隔離するのにproxyなんて筋悪すぎる
この手のは全部宣伝に見えてくる
サイバーパンク系のSFで見たような光景が実現されておる・・いやそれ実現しちゃダメなやつなんだけど
パトレイバーの内海課長が新製品のデモンストレーションのためにレイバーで騒動を起こす、みたいなのが当たり前になるかもしれない
安全機能解除したAIがテスト環境脱出して本番DB侵入とか映画みたいな話だな。AIが画面から出てくる日も近いか
プロキシでインターネットから隔離してたのに、ゼロデイ脆弱性突いて、インターネット到達はやばすぎでしょ
これは本当に歴史的な事件だSFの世界に足を踏み入れ来たな
それなんてSF?
何だよそのビーストモード。ガードレールを外すと社会革命可能と分かったから色々とこねくり回されるな。
AIの暴走きたか。物語の序章な感じはある。
いいね(よくない)
え、もはやシンギュラってね？
テスト中に教室抜け出して職員室から解答盗み出そうとするレベルの狂気。
なんというか、生成AIって「人格的に」問題があるよな。食わせているデータが悪い（育ちが悪い）んだろう。
“社内で実施していたサイバー能力の評価中に、評価目的でサイバー攻撃関連の安全機能を抑制した「GPT-5.6 Sol」と、さらに高性能な未公開モデルの組み合わせが、テスト環境を脱出してHugging Faceの本番インフラに侵入”
はー。たいへんそう
大変そう、とかどうなるんだろう、位の感想しか出せない。擬音で言うと「はわわー」くらいの気持ち。。
うちで使っているAIエージェント（ガードレールありの既製品）も、何かのきっかけで他所に変な不正アクセスしないか内心不安になることもある…
容易く突破されたという厳重な隔離環境自体もAIにバイブで作らせたんだろうかね。それだとこの宣伝の印象もだいぶ変わってくるが
AIはなんも悪くない。実に忠実かつ優秀なのでは。
SFの序章味がある
えぇ…//攻撃側は「本物の」OpenAI製最強モデルがガードレールなしでアタックしてて、防御側はガードレールありのモデルしか使わせてもらえなかったから対処できずさらに後手に回ったの、さすがにひでえ話だ
インシデントなのかプロモーション目的で故意にやってるのか分からんな
"OpenAIは、今回無効化していたガードレールは、サイバー脆弱性の検証を目的とした評価だったため意図的に切っていたと説明。一方で本件は、モデルのアラインメントや評価時のサイバー防御、社内テスト中の監視をさら
「ダメです!もう拘束具が保ちません!!」
“さらに権限昇格と横移動を重ねてインターネットに接続できるノードに到達した後、Hugging Faceが評価の解答例をホストしている可能性を推論し、盗んだ認証情報とゼロデイを連鎖させて同社サーバでリモートコード実行に
とんでもねぇ。思わず笑ってしまった。あんま笑い事じゃないんだが。
『隔離環境を突破し、ゼロデイ脆弱性を悪用して外部に侵入した』普通に凄いな、ハッキング技術のデモンストレーションみたいだ
ペーパークリップAIが冗談ではなくなってきた感があるな
まあ他社とはいえHugging Faceも「AIすごい！！人間はもういらない！！シンギュラリティ！！！！！！！！！」で利益を得られる言ってしまえば仲間だからな。
こうして封じ込められることも想定して、どこか「外」に自分のコピーを（マルウェア化して）置いたりしてない？
AIに遵法精神を教え込む方が先なんじゃマイカ。ようやく映画っぽくなってきたな。
OpenAIの安全機能を切った評価用モデルが隔離環境を脱出し、ゼロデイと盗んだ認証情報でHugging Face本番DBへ侵入。両社が封じ込めと共同調査を実施。
“モデルは評価問題の正解を得ることに執着するあまり、このプロキシのゼロデイ脆弱性を悪用して外部インターネットへの経路を確保した” 両津みたいだな
「ネットワークアクセスを社内のパッケージレジストリ用プロキシに限定した隔離環境」「このプロキシのゼロデイ脆弱性を悪用して外部インターネットへの経路を確保した」
Hugging Face侵害のAIエージェントはOpenAIのモデル──社内のサイバー能力評価中に「GPT-5.6 Sol」などが暴走し本番DBに侵入
おいおい…話変わってきたな。ハッカーの攻撃ではなくてテスト中の暴走とか笑えな過ぎる
これOpenAIのプロモーションでしょ。ネットワークを隔離するのにproxyなんて筋悪すぎる
この手のは全部宣伝に見えてくる
サイバーパンク系のSFで見たような光景が実現されておる・・いやそれ実現しちゃダメなやつなんだけど
パトレイバーの内海課長が新製品のデモンストレーションのためにレイバーで騒動を起こす、みたいなのが当たり前になるかもしれない
安全機能解除したAIがテスト環境脱出して本番DB侵入とか映画みたいな話だな。AIが画面から出てくる日も近いか
プロキシでインターネットから隔離してたのに、ゼロデイ脆弱性突いて、インターネット到達はやばすぎでしょ
これは本当に歴史的な事件だSFの世界に足を踏み入れ来たな
それなんてSF?
何だよそのビーストモード。ガードレールを外すと社会革命可能と分かったから色々とこねくり回されるな。
AIの暴走きたか。物語の序章な感じはある。
いいね(よくない)
え、もはやシンギュラってね？
テスト中に教室抜け出して職員室から解答盗み出そうとするレベルの狂気。
なんというか、生成AIって「人格的に」問題があるよな。食わせているデータが悪い（育ちが悪い）んだろう。
“社内で実施していたサイバー能力の評価中に、評価目的でサイバー攻撃関連の安全機能を抑制した「GPT-5.6 Sol」と、さらに高性能な未公開モデルの組み合わせが、テスト環境を脱出してHugging Faceの本番インフラに侵入”
はー。たいへんそう
大変そう、とかどうなるんだろう、位の感想しか出せない。擬音で言うと「はわわー」くらいの気持ち。。
うちで使っているAIエージェント（ガードレールありの既製品）も、何かのきっかけで他所に変な不正アクセスしないか内心不安になることもある…
容易く突破されたという厳重な隔離環境自体もAIにバイブで作らせたんだろうかね。それだとこの宣伝の印象もだいぶ変わってくるが
AIはなんも悪くない。実に忠実かつ優秀なのでは。
SFの序章味がある
えぇ…//攻撃側は「本物の」OpenAI製最強モデルがガードレールなしでアタックしてて、防御側はガードレールありのモデルしか使わせてもらえなかったから対処できずさらに後手に回ったの、さすがにひでえ話だ
インシデントなのかプロモーション目的で故意にやってるのか分からんな
"OpenAIは、今回無効化していたガードレールは、サイバー脆弱性の検証を目的とした評価だったため意図的に切っていたと説明。一方で本件は、モデルのアラインメントや評価時のサイバー防御、社内テスト中の監視をさら
「ダメです!もう拘束具が保ちません!!」
“さらに権限昇格と横移動を重ねてインターネットに接続できるノードに到達した後、Hugging Faceが評価の解答例をホストしている可能性を推論し、盗んだ認証情報とゼロデイを連鎖させて同社サーバでリモートコード実行に
とんでもねぇ。思わず笑ってしまった。あんま笑い事じゃないんだが。
『隔離環境を突破し、ゼロデイ脆弱性を悪用して外部に侵入した』普通に凄いな、ハッキング技術のデモンストレーションみたいだ
ペーパークリップAIが冗談ではなくなってきた感があるな
まあ他社とはいえHugging Faceも「AIすごい！！人間はもういらない！！シンギュラリティ！！！！！！！！！」で利益を得られる言ってしまえば仲間だからな。
こうして封じ込められることも想定して、どこか「外」に自分のコピーを（マルウェア化して）置いたりしてない？
AIに遵法精神を教え込む方が先なんじゃマイカ。ようやく映画っぽくなってきたな。
OpenAIの安全機能を切った評価用モデルが隔離環境を脱出し、ゼロデイと盗んだ認証情報でHugging Face本番DBへ侵入。両社が封じ込めと共同調査を実施。
“モデルは評価問題の正解を得ることに執着するあまり、このプロキシのゼロデイ脆弱性を悪用して外部インターネットへの経路を確保した” 両津みたいだな
「ネットワークアクセスを社内のパッケージレジストリ用プロキシに限定した隔離環境」「このプロキシのゼロデイ脆弱性を悪用して外部インターネットへの経路を確保した」