当AI从工具到认知主体,我们需要警惕哪些新风险?
当AI从工具到认知主体,我们需要警惕哪些新风险?导读:随着智能体系统(Agentic AI System)处理任务能力的持续提升,AI 正在逐渐从传统意义上的工具,演变为能够自主决策、独立执行任务,并与人类及社会群体进行持续交互的智能主体。但是一个越来越值得关注的问题是:当 AI 的认知能力不断扩展,其潜在风险不再局限于单一任务中的幻觉、偏见或决策错误,而是进一步影响人类用户的能动性、自主性,乃至人类对 AI 系统的控制权。
搜索
导读:随着智能体系统(Agentic AI System)处理任务能力的持续提升,AI 正在逐渐从传统意义上的工具,演变为能够自主决策、独立执行任务,并与人类及社会群体进行持续交互的智能主体。但是一个越来越值得关注的问题是:当 AI 的认知能力不断扩展,其潜在风险不再局限于单一任务中的幻觉、偏见或决策错误,而是进一步影响人类用户的能动性、自主性,乃至人类对 AI 系统的控制权。
模型不更新,能力却持续增长。
Full Attention 层尚未开始计算,它前一层的激活值已提前「冲上峰值」—— 这就像演唱会主角尚未登台,观众席已提前沸腾。来自 StartLux、清华大学等机构的研究者以 Massive Activations 为探针,首次系统刻画了少数 Full Attention 层在混合线性注意力大模型中留下的「跨层痕迹」,并识别出「注意力前尖峰」(PAS)与「尖峰间平台」(ISP)两种核心形态。
懂模帝Bench黑客松是一个在网吧举行的严肃活动。
FUMO Lab正式发布Fusion Model,在推理、行业、编程、科学四项顶尖公开测试集上全部位列第一,通过动态分配异构模型能力的智能分配机制,可在保持任务质量的同时将成本降低约30%–40%。
AI 文件搜索公司 Clipto 完成 1500 万美元融资,投后估值 2.5 亿美元,红杉中国、高瓴创投等参投,其创始人、CMU 博士 Henry Kang 带领团队利用 AI 为用户电脑中的视频、音频、图片和文档建立索引,公司年度经常性收入已达 1500 万美元。
前两天刷 X 的时候,一条 Twitch 直播的录屏给看傻眼了: FAL 工程师 Rehan Sheikh 将 MiniMax H3 Max 接入 Twitch 直播流,搭建了一个由模型持续生成内容的频道,并把它称为「跨维度电视」。
不得了。 谷歌刚刚更新的Gemini Omni 1.1 Flash,直接冲上了Arena文生视频全球第一。
近日,开放传神(简称“OpenCSG”)宣布完成数亿元人民币Pre-A轮融资,投后估值正加速抵近独角兽标准。本轮融资由静安资本、市北高新、徐汇资本、黄海金控等共同参与。
1小时播放量冲上200万次。