谷歌苹果曝出LLM惊人内幕，自主识别错误却装糊涂！AI幻觉背后藏着更大秘密
谷歌苹果曝出LLM惊人内幕，自主识别错误却装糊涂！AI幻觉背后藏着更大秘密大模型幻觉，究竟是怎么来的？谷歌、苹果等机构研究人员发现，大模型知道的远比表现的要多。它们能够在内部编码正确答案，却依旧输出了错误内容。
来自主题: AI技术研报
6103 点击 2024-11-10 14:11
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
大模型幻觉，究竟是怎么来的？谷歌、苹果等机构研究人员发现，大模型知道的远比表现的要多。它们能够在内部编码正确答案，却依旧输出了错误内容。
11月8日，社交媒体上有博主爆料，谷歌正准备推出一款新型号：Gemini 2.0。
近日，谷歌DeepMind发表的一项研究登上了Nature期刊的封面，研究人员开发了一种名为SynthID-Text的水印方案，已经在自家的Gemini上投入使用，跟踪AI生成的文本内容，使其无所遁形。
最近几天，谷歌、微软等老牌搜索巨头们的压力陡增！原来，向他们发起挑战的 AI 搜索领域「战火重燃」。
OpenAI 发布了备受期待的搜索产品，ChatGPT 搜索，以挑战谷歌。业界已经为这一时刻准备了几个月，这促使谷歌在今年早些时候将 AI 生成的答案注入其核心产品，并在此过程中产生了一些尴尬的幻觉。这一失误让许多人相信 OpenAI 的搜索引擎将真正成为“谷歌大杀器”。
让 LLM 在自我进化时也能保持对齐。
不确定是不是 OpenAI 又在狙击谷歌，ChatGPT 爆改 AI 搜索引擎只比谷歌的竞品迟到了一分钟。
谷歌超25%新代码由AI生成，却遭到了自家员工的反对。劈柴的一句话，又让谷歌成为了众矢之的。
开源数据库引擎 SQLite 有 bug，还是智能体检测出来的！
两个月前，我们对 AI 游戏的认知刚刚被谷歌 GameNGen 颠覆。他们实现了历史性的突破，从此不再需要游戏引擎，AI 能基于扩散模型，为玩家生成实时可玩的游戏。