AIの内部に「痛み」特有の活動パターンを発見――強めると人間を傷つけてでも痛みから逃れる選択がほぼゼロから最大7割に - ナゾロジー

原文読んでないけど、ユーザーのレスポンスに対して、ユーザーが望む可能性の高い結果としてそれが導出されただけでは。それを踏まえて生命や治安の維持に関わるような仕組みに取り組むのは危険、というのはわかる。

「痛み」の比喩をそのまま引き継ぐなら、こういうのって個人的な「痛み」ではなく社会的な「痛み」みたいなものなんじゃないかなあ。

これを我々人が感じる『痛み』とするのは関連付けが雑じゃないかな。精神的な苦痛、不安、葛藤みたいな事をAIがふるまいとしてロジカルに考えるって事？