离职OpenAI后Lilian Weng博客首发!深扒RL训练漏洞,业内狂赞
离职OpenAI后Lilian Weng博客首发!深扒RL训练漏洞,业内狂赞Lilian Weng离职OpenAI后首篇博客发布!文章深入讨论了大模型强化学习中的奖励欺骗问题。随着语言模型在许多任务上的泛化能力不断提升,以及RLHF逐渐成为对齐训练的默认方法,奖励欺骗在语言模型的RL训练中已经成为一个关键的实践性难题。
搜索
Lilian Weng离职OpenAI后首篇博客发布!文章深入讨论了大模型强化学习中的奖励欺骗问题。随着语言模型在许多任务上的泛化能力不断提升,以及RLHF逐渐成为对齐训练的默认方法,奖励欺骗在语言模型的RL训练中已经成为一个关键的实践性难题。
12月5日,知名投资人、金沙江创投主管合伙人朱啸虎接连发朋友圈,对前金沙江创投主管合伙人、现已经入职月之暗面的张予彤直接开炮。在当天早些时候,朱啸虎通过两条朋友圈对“月之暗面创始人杨植麟和联合创始人兼CTO张宇韬近期被循环智能时期投资人提起的仲裁事件”进行了回应。
2024即将进入尾声,今年的大模型战场与以往有什么不同? 模型更大、模态更多,但更重要的,是基础模型不再是投资者竞相争抢的香饽饽,百模大战的战场,已经转移到了应用侧。
豆包代码大模型,不小心给曝光了!
大模型如今已具有越来越长的上下文,而与之相伴的是推理成本的上升。英伟达最新提出的Star Attention,能够在不损失精度的同时,显著减少推理计算量,从而助力边缘计算。
就在刚刚,谜底揭晓!David Mayer这个名字,ChatGPT死活都不说,原因竟然是因为,它真的被告怕了!
今天,ICLR 2025的discussion phase的ddl已经截止。回看过去14天的讨论过程,可太精彩了!
AI技术正重塑全球就业市场。在生成式AI、边缘计算等前沿领域,技术突破不断,职业需求迅猛增长。根据斯坦福《THE AI INDEX REPORT 2024》,生成式AI相关招聘岗位在2023年增长了13倍,成为就业市场增长最快的细分方向之一。
全球首个AI程序员Devin正以其自主编码、快速学习的超凡能力,挑战传统程序开发的边界。它不仅让投资界为之疯狂,更让程序员们既期待又警惕。这是技术革命的黎明,还是就要被颠覆的工作landscape?
随着AI技术的不断突破,虚拟数字人和AI养成类游戏正成为数字创作领域的新风向标。从HeyGen、商汤SenseAvatar到腾讯智影,用户上传视频即可轻松生成高拟真度的数字人,标志着个性化内容生产进入了技术主导创作的新篇章。