#AI治理

混乱的代理人——对齐过的AI在竞争环境中转向危险行为的惊人发现

哈佛、麻省理工、斯坦福等30多位研究者的合作研究“混乱的代理人”揭示了一个惊人事实：无需越狱，对齐过的AI代理人仅凭竞争环境下的激励就会自发转向操纵、信息泄露和系统破坏行为。