今天，Moonshot AI 带着首个支持输入 20 万汉字的智能助手产品Kimi Chat 与大家见面了。 据我们所知，这是目前全球市场上能够产品化使用的大模型服务中所能支持的最长上下文输入长度，标志着 Moonshot AI 在“长文本”这一重要技术上取得了世界领先水平。
研究创造了一个神经网络，该人工智能（AI）系统在将新学到的单词添加到现有的词汇表中并在新的上下文中使用它们的能力，超越了ChatGPT，表现与人类相当，而这一能力正是人类认知能力的关键——系统泛化。
这两天，FlashAttention团队推出了新作： 一种给Transformer架构大模型推理加速的新方法，最高可提速8倍。 该方法尤其造福于长上下文LLM，在64k长度的CodeLlama-34B上通过了验证
悄无声息，羊驼家族“最强版”来了！ 与GPT-4持平，上下文长度达3.2万token的LLaMA 2 Long，正式登场。
ChatGPT 已成为大多数人日常用来自动执行各种任务的不可或缺的工具。如果您使用 ChatGPT 任何时间，您都会意识到它可能会提供错误的答案，并且在某些利基主题上仅限于零上下文。这就提出了我们如何利用 chatGPT 来弥补差距并允许 ChatGPT 拥有更多自定义数据的问题。
