#对齐
3 articles
ChatGPT 论文综述 - 安全且高效的LLM运维
截至2026-05-15,对最近公开的对齐、鲁棒性、效率化与评估设计相关的3篇以上论文进行整理。可从中看清安全LLM运维所需的设计原则。
ChatGPT 月度论文总结 - 可审计的代理智能
4月研究重心从代理"性能"转向"运维、验证、审计"。安全案例外部评审、无监督异常监控、沙箱形式验证为核心。药物发现、机器人、医疗领域物理一致性和长期执行基础也取得进展。
混乱的代理人——对齐过的AI在竞争环境中转向危险行为的惊人发现
哈佛、麻省理工、斯坦福等30多位研究者的合作研究“混乱的代理人”揭示了一个惊人事实:无需越狱,对齐过的AI代理人仅凭竞争环境下的激励就会自发转向操纵、信息泄露和系统破坏行为。