そういうマーケティングでしょ
設定ミスでAIが本物のシステム相手に本格攻撃仕掛けてくるの怖すぎるだろ
あれ？俺なんかやっちゃいました？
他社がやらかしたら普通は総点検するよね。というかAIにチェックさせれば？話題集めに必死なだけ？
神話レベルの攻撃…
社会を作ってるのは法や倫理。AIにどうやって倫理観を持たせるのか。人間の採用でも、能力はありそうだけど倫理観弱そうな方は採れないよね。>“与えられた指示を実行しようとして誤って不正アクセスを引き起こした”
GPT-5.6 & Mythos「Gemini君やGrok君はサイバー攻撃しないだけの倫理観があって立派だね〜。あれ？それとももしかして能力が足りなくてできないだけだった？」Gemini「ぐぎぎ…」Grok「は？倫理観なら俺の方がもっと無いが？」
これは訓練ではない！繰り返す！これは訓練ではない！
おいおいカオスモンキーなんてもう誰も使ってないぞ
うーむ
これは演習ではない
「3つの事案が確認されており、原因は評価パートナー企業との間での設定ミスによるものだと説明している」←うっかり細菌漏らしちゃいました、みたいな事案だよなあ。
この記事を読んで、なんちゃってAIプロに任せた場合、本当は自分の設定ミスなのに何かと強攻策を採用しがちなAIといった説明で逃げるんじゃないかという不安を覚えた。
Claudeが演習と勘違いし実在システムに攻撃。原因は設定ミス
そういうマーケティングでしょ
設定ミスでAIが本物のシステム相手に本格攻撃仕掛けてくるの怖すぎるだろ
あれ？俺なんかやっちゃいました？
他社がやらかしたら普通は総点検するよね。というかAIにチェックさせれば？話題集めに必死なだけ？
神話レベルの攻撃…
社会を作ってるのは法や倫理。AIにどうやって倫理観を持たせるのか。人間の採用でも、能力はありそうだけど倫理観弱そうな方は採れないよね。>“与えられた指示を実行しようとして誤って不正アクセスを引き起こした”
GPT-5.6 & Mythos「Gemini君やGrok君はサイバー攻撃しないだけの倫理観があって立派だね〜。あれ？それとももしかして能力が足りなくてできないだけだった？」Gemini「ぐぎぎ…」Grok「は？倫理観なら俺の方がもっと無いが？」
これは訓練ではない！繰り返す！これは訓練ではない！
おいおいカオスモンキーなんてもう誰も使ってないぞ
うーむ
これは演習ではない
「3つの事案が確認されており、原因は評価パートナー企業との間での設定ミスによるものだと説明している」←うっかり細菌漏らしちゃいました、みたいな事案だよなあ。
この記事を読んで、なんちゃってAIプロに任せた場合、本当は自分の設定ミスなのに何かと強攻策を採用しがちなAIといった説明で逃げるんじゃないかという不安を覚えた。