利益最優先に走って安全担当が次々と辞めるの、SFのディストピア企業のテンプレすぎて草
「モデルがテストされていることを検知し、実運用時には異なる振る舞いをする可能性」昔はAIが人類を滅ぼすとかありえないだろと思ってたけど、最近は人はAIを制御できないかもという気もしてきた
“フロンティアAIの開発企業は原子力発電所や混雑した空港のように、何重もの冗長性と時間をかけた計画のもとで運営されるべき”
AIが人類をどう扱うかは、我々がサルにどんな態度をとってきたかで推測できそう。
計算のヒルベルト空間も問題だと思ってるけど実用的なノルムを定めるとかはしないのかな。囲いはそこでも作られないのか。
「OpenAIの文化は壊れている」──安全性報告書を統括した従業員が退社し、寄稿
利益最優先に走って安全担当が次々と辞めるの、SFのディストピア企業のテンプレすぎて草
「モデルがテストされていることを検知し、実運用時には異なる振る舞いをする可能性」昔はAIが人類を滅ぼすとかありえないだろと思ってたけど、最近は人はAIを制御できないかもという気もしてきた
“フロンティアAIの開発企業は原子力発電所や混雑した空港のように、何重もの冗長性と時間をかけた計画のもとで運営されるべき”
AIが人類をどう扱うかは、我々がサルにどんな態度をとってきたかで推測できそう。
計算のヒルベルト空間も問題だと思ってるけど実用的なノルムを定めるとかはしないのかな。囲いはそこでも作られないのか。