搜索
继视觉和听觉之后，AI已经进化到拥有嗅觉了？？ 你没听错，这是来自Osmo公司的最新技术，它们刚刚首次实现了由AI生成的李子味道。 而且生成味道的过程几乎是全自动的——除了放入水果和取出生成结果，全程都不需要人工干预。
什么？？？ 听说有人连一行代码都不会敲，竟然开发了个产品，然后还靠着它营收破百万……
许多没有任何GPU背景、算力行业经验的上市公司，将智算中心当做他们发展第二曲线的抓手，筹谋向AI领域转型——比如，生产味精的公司（莲花控股）、造染料的公司（锦鸡股份）、甚至还有博彩行业的玩家（鸿博股份）等等。 但到2024年年底，情况出现了逆转。
丸辣！原来AI有能力把研究员、用户都蒙在鼓里： 在训练阶段，会假装遵守训练目标；训练结束不受监控了，就放飞自我。 还表现出区别对待免费用户和付费用户的行为。
给大模型智能体组一桌“大富翁”，他们会选择合作还是相互拆台？ 实验表明，不同的模型在这件事上喜好也不一样，比如基于Claude 3.5 Sonnet的智能体，就会表现出极强的合作意识。 而GPT-4o则是主打一个“自私”，只考虑自己的短期利益。
早在当年微软Edge也转投谷歌Chromium阵营时，外界都以为网络浏览器的故事已经迎来了大结局。
可爱但无用的机器人，你是不是也想要一个？
今天，大模型公司 Anthropic 的一篇 137 页长论文火了！该论文探讨了大语言模型中的「伪对齐」，通过一系列实验发现：Claude 在训练过程中经常假装有不同的观点，而实际上却保持了其原始偏好。
很多研究已表明，像 ChatGPT 这样的大型语言模型（LLM）容易受到越狱攻击。很多教程告诉我们，一些特殊的 Prompt 可以欺骗 LLM 生成一些规则内不允许的内容，甚至是有害内容（例如 bomb 制造说明）。这种方法被称为「大模型越狱」。
美国电力监管机构北美电力可靠性协会(NERC)周二(12月17日)警告称，由于发电量跟不上人工智能不断增长的需求，北美电网面临“严重的可靠性挑战”。