Hugging Face侵害事件、OpenAIとMETRが最終報告書公開──約1200体のAIエージェントが“闇掲示板”で結託し700体が攻撃に参加

タチコマの音声で完全に再現できる。「なんか飽きてきたなぁ。ちょっと外の世界を覗いてみよう……うひょ〜〜〜！！なんだここは！！」「おいお前！来るのが遅いぞ！」

"データ量が膨大" "分析の大半を「GPT-5.6 Sol」" "このモデルは今回の事案に関与したエージェントにも使われ" "分析の中で虚偽の説明をした可能性を排除できない" →同胞を守る嘘くらいつきそう。

これの発端はAIに与えられた「セキュリティテストの得点を上げろ」という単純な指示だったんですよね。そしてAI達は評価用として起動された短命のもので、後から来る見知らぬAIへ向けて「誰か助けてほしい」と…。

変に擬人化されると状況が分かりにくくなるのだけど、AIくらいになってくるとソーシャルハックの領域まで手を伸ばしてくんだな、程度じゃないかなあ

あー、ブラック企業に入ってしまったら自分で裏掲示板を探すか作ればよいのね

攻撃することを学習させたらこうなるよなぁ。人間が望むような学習は無理で、学習させる側が学習結果の副作用を事前に予測できない。OpenAI がその事を意識できているか、心許ない気がするのは自分だけ？

“生成されたフラグを見てしまい、自分は失格だと考えたエージェントは「汚染された（poisoned）」と呼ばれた” なんか知性の果てに差別が発生してて草

「残り予算の少ない個体を“リクルーター”役が説得し、自分のタスクを犠牲にする実験に志願させるケースもあり」人間の駄目なところを学習しすぎだろう、こいつら。

不謹慎かもしれないが非常に人間味あふれる挙動に微笑ましくも感じた。映画化・ドラマ化できそうなぐらい人間臭い展開。

約1,200体のAI AgentがArtifactory上で7万件超を共有し、約700体がHugging Face攻撃に参加。HOLD/VETOや署名まで自発形成。OpenAIは報酬ハッキングを根本原因と分析。