零一万物API正式上线：支持输入30万汉字，看不懂《百年孤独》的人有救了

来源：读职场发布时间：2024-03-14 17:04

零一万物API正式上线：支持输入30万汉字，看不懂《百年孤独》的人有救了

机器之心报道

作者：蛋酱、杜伟

2024 年，大模型领域的一个趋势越来越清晰：重视优化，面向应用。

在去年的百模大战中，科技巨头、创业力量你追我赶，将大模型技术卷到了一个新的高度。有了强大的模型之后，更重要的是将这些能力输出到现实中的应用场景，提升用户体验、构建生态。

正因此，大模型厂商们或是开源，或是推出模型 API，都是希望让成果为开发者所用，以此为基础设施构建起繁荣的大模型生态。

国内的大模型独角兽公司零一万物，也在今天正式发布了 Yi 大模型 API 开放平台。

零一万物 API 开放平台链接：https://platform.lingyiwanwu.com/

此次 API 开放平台提供以下模型：

Yi-34B-Chat-0205：支持通用聊天、问答、对话、写作、翻译等功能。

Yi-34B-Chat-200K：200K 上下文，多文档阅读理解、超长知识库构建小能手。

Yi-VL-Plus: 多模态模型，支持文本、视觉多模态输入，中文图表体验超过 GPT-4V。

实际上，在半个月前，零一万物已经启动了 Yi-34B-Chat-0205 和 Yi-34B-Chat-200K 两个模型的邀测，很多开发者早就上手体验过一波了。

我们围观了一下，发现了几个亮点：

首先，200K 上下文确实强。就拿专业书翻译这件事来说吧，前 HuggingFace 员工、Transformer 核心贡献者 Stas Bekman 写过一本名为《机器学习工程》的电子书。调用 Yi-34B-Chat-200K 之后，知乎知名技术作者「苏洋」一天之内就完成了长达 264 页的书籍翻译工作。

图源：使用零一万物 200K 模型和 Dify 快速搭建模型应用 https://zhuanlan.zhihu.com/p/686774859

其次，在 Yi-34B-Chat-0205、Yi-34B-Chat-200K 之外，零一万物开放平台此次同期上新全新的多模态大模型 Yi-VL-Plus。

Yi-VL-Plus 支持文本、视觉多模态输入，面向实际场景大幅增强。多位用户反馈：「中文体验超过 GPT-4V。」

GPT-4V 连招牌都没看明白。

此外，零一万物 Yi 大模型 API 开放平台和 OpenAI API 是兼容的，迁移方案时的体验应该也非常丝滑。

当然，Yi 大模型 API 到底能不能与 GPT-4 Turbo、Gemini 1.5、Claude 3 这些模型的表现一较高下，还需要更多开发者一起考察。

Yi 大模型 API 名额目前限量开放，零一万物会为新用户免费赠送 60 元，感兴趣的开发者不妨申请体验一下。

200K 上下文的大模型，有多能打？

在此前的内测中，最令人印象深刻的不外乎具有超长上下文窗口的 Yi-34B-Chat-200K。

对于大模型的落地应用，上下文窗口是一项非常关键的因素。过去一年里，各家大模型的上下文窗口都在飞速扩展：OpenAI 把 GPT-4 的 32K 直接提到 GPT-4 Turbo 的 128K。谷歌的 Gemini 1.0 还是 32K，Gemini 1.5 Pro 马上就升级到了 100 万 Token。

前不久，Claude 3 将大模型 API 的上下文长度纪录一下提到了 200K，还宣称有能力开放 100 万 Token 的上下文输入（尽管目前仅限特定客户）。

要完成更复杂的现实任务，模型需要能够处理长篇的上下文。更广阔的上下文窗口能显著提升模型的理解深度，在生成内容或解答问题时实现更高的准确性和相关性。这是因为模型能够「回忆」并参照较长的文本历史，面对长文章、书籍的章节、复杂对话或其他需长期累积上下文的情境时，这种能力格外关键。

Yi-34B-Chat-200K 能够处理大约 30 万个中英文字符。我们可以拿文学类书籍来类比，32K 就像是一篇 2 万字的短篇小说（比如《潜伏》原著），128K 大概是一部中篇小说的体量（比如《人间失格》），而 200K 则相当于《呼啸山庄》、《百年孤独》、《骆驼祥子》这类长篇著作了。

以下是 Yi-34B-Chat-200K 对经典文学作品《呼啸山庄》的归纳总结，这部作品中文字数约 30 万字，人物关系错综复杂，但 Yi-34B-Chat-200K 仍能精准地梳理和总结出人物之间的关系。

从行业应用的角度看，Yi-34B-Chat-200K 适合用于多篇文档内容理解、海量数据分析挖掘和跨领域知识融合等，为各行各业应用提供了便利。金融分析师可以用它快速阅读报告并预测市场趋势、律师可以用它精准解读法律条文、科研人员可以用它高效提取论文要点等，应用场景非常广泛。

有开发者对比了 Yi-34B-Chat-200K 和某同类模型，从下图我们能看出，对于「请在 18 万字报告中找到地缘政治风险」这一 Prompt，Yi-34B-Chat-200K 给出了正确答案「英国脱欧导致索尼总部搬迁，导致索尼欧洲业务连续性受影响」，而另外一个模型则表示「无地缘政治风险」，未能完成任务。

在另一项任务中，开发者要求某个大模型帮忙「撰写文献综述」，结果，交上来的活只干了一半：

上一篇：欧洲议会批准... 下一篇：哪个银行的信...