搜索
OpenAI正式发布GPT-6 Astra，宣称其为"全球最智能且最对齐的模型"，在电脑操作（OSWorld完成率72.6%）、ARC-AGI-3（99.9分）、审美判断力、主动性及网络安全（首个达Critical等级）等方面全面升级，Greg Brockman在媒体闭门会上宣布"欢迎来到AGI时代"。
史无前例，OpenAI真的停手了！刚刚，奥特曼亲自官宣，「OpenAI暂停下一代旗舰模型的强化学习训练，为期两周」。官方给出停更的原因是：要确保安全、对齐和监控标准，能跟得上眼前这个全新的能力水平。
Anthropic刚刚发布了一份长达186页的最新Risk Report。如果只是快速扫一眼，这仍然是一份典型的前沿AI安全报告：模型能力评测、生物风险、网络安全、自动化研发、对齐问题，以及各种防护措施。
23岁天才少女，离职OpenAI！早在两周前，OpenAI对齐团队研究员Naomi Bashkansky，悄然递交了辞呈。第二天，她便以「创始研究员」的身份，火速加入初创Conduit，剑指「心灵感应」（Telepathy）。
给图像生成模型一张人物参考图，它大概率能抓住身份特征。
奖励模型（Reward Model, RM）是大语言模型对齐的核心组件，负责为模型输出提供符合人类偏好的评价信号。现有方法各有短板：标量判别式 RM 高效稳定但可解释性有限；生成式 judge 能给出判断理由，却需为每个样本生成长 reasoning，token 与延迟开销显著。
王阳明心学，竟然在AI时代迎来了「最佳赏味期」？老哈，一个研究了十年「知行合一」的哲学教授，正在把这套500年前的心学，用到全球最前沿的AI对齐训练上。不是比喻。是字面意思。
谷歌 DeepMind 有一个哲学家，已经待了九年。他发明的对齐框架直接影响了 Gemini 的训练决策——但当 6700 亿美元涌入赛道、公司签下军事协议，一个哲学家还能改变什么？
UBC 和 Weathon Software 的研究提出，图像的美学对齐正在削弱艺术表达。
UBC 和 Weathon Software 的研究提出，图像的美学对齐正在削弱艺术表达。