DeepSeek带火知识蒸馏，原作者现身爆料：原来一开始就不受待见。称得上是“蒸馏圣经”、由Hinton、Oriol Vinyals、Jeff Dean三位大佬合写的《Distilling the Knowledge in a Neural Network》，当年被NeurIPS 2014拒收。
该技术报告的主要作者 Lu Wang, Fangkai Yang, Chaoyun Zhang, Shilin He, Pu Zhao, Si Qin 等均来自 Data, Knowledge, and Intelligence (DKI) 团队，为微软 TaskWeaver, WizardLLM, Windows GUI Agent UFO 的核心开发者。
微软对 Windows 系统中的 Copilot 实现方式进行了又一次更新。
早在当年微软Edge也转投谷歌Chromium阵营时，外界都以为网络浏览器的故事已经迎来了大结局。
昨天，就在 OpenAI 12 天连发的第一天发布火遍全网的同时，微软也发布了一款重量级 AI 产品：Copilot Vision。这是一款集成在 Edge 浏览器中的 AI 助手，可以与你实时「协作上网」，并能随时提供帮助。
在金融市场中，动态知识图谱（Dynamic Knowledge Graphs，DKGs）是一种表达对象之间随时间变化的多种关系的流行结构。它们可以有效地表示从复杂的非结构化数据源（如文本或图像）中提取的信息。在金融应用中，基于从金融新闻文章中获取的信息，DKGs 可用于检测战略性主题投资的趋势。
知识图谱作为结构化知识的重要载体，广泛应用于信息检索、电商、决策推理等众多领域。然而，由于不同机构或方法构建的知识图谱存在表示方式、覆盖范围等方面的差异，如何有效地将不同的知识图谱进行融合，以获得更加全面、丰富的知识体系，成为提高知识图谱覆盖度和准确率的重要问题，这就是知识图谱对齐（Knowledge Graph Alignment）任务所要解决的核心挑战。
EdgeNet可以处理从干净的自然图像或嘈杂的对抗性图像中提取的边缘，产生鲁棒的特征，具有轻量级、即插即用等特点，能够无缝集成到现有的预训练深度网络中，训练成本低。
早在 2020 年，陶大程团队就发布了《Knowledge Distillation: A Survey》，详细介绍了知识蒸馏在深度学习中的应用，主要用于模型压缩和加速。随着大语言模型的出现，知识蒸馏的作用范围不断扩大，逐渐扩展到了用于提升小模型的性能以及模型的自我提升。
微软和Google在AI技术领域的竞争和王权更迭。微软宣布将OpenAI的最新技术集成到Bing搜索引擎和Edge浏览器中，以应对Google在搜索领域的垄断地位。同时，Google也推出类似ChatGPT的产品Bard，但发布会遭遇失误导致股价暴跌。文章还回顾了微软与Google在人工智能领域的历史角力，从微软错失深度学习机会到Google在深度学习领域的失误。
