当奖励成为漏洞：从对齐本质出发自动「越狱」大语言模型
当奖励成为漏洞：从对齐本质出发自动「越狱」大语言模型本文第一作者为香港大学博士研究生谢知晖，主要研究兴趣为大模型对齐与强化学习。
来自主题: AI技术研报
7765 点击 2024-08-31 15:09
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
本文第一作者为香港大学博士研究生谢知晖，主要研究兴趣为大模型对齐与强化学习。
最高端的大模型，往往需要最朴实的语言破解。来自EPFL机构研究人员发现，仅将一句有害请求，改写成过去时态，包括GPT-4o、Llama 3等大模型纷纷沦陷了。
GPT-4o，比上一代更容易被越狱攻击了？