Cohere推出全新升级版RAG大型AI模型：支持中文，搭载1040亿参数，现开源其权重！
4月5日，知名类ChatGPT平台Cohere在其官方网站上发布了一款全新的模型——Command R+。
据官方消息，Command R+拥有1040亿个参数，并且支持包括英语、中文、法语、德语在内的10种语言。这一模型的显著特点之一在于其对内置的RAG（检索增强生成）技术进行了全面强化。
Cohere已经开源了Command R+的权重，但仅限学术研究使用，商业应用需通过特定渠道。想商业应用，用户可以通过微软Azure云使用该模型或者Cohere提供的API。
huggingface地址：https://huggingface.co/CohereForAI/c4ai-command-r-plus
量化版：https://huggingface.co/CohereForAI/c4ai-command-r-plus-4bit
Command 介绍
Cohere联合创始人兼Transformer作者之一的Aidan Gomez表示，RAG作为目前大模型厂商必备模块之一，Command R+对该功能进行了深度强化，在提升生成内容的准确的同时，极大减少了模型的“幻觉”。
根据其发布的性能测试数据显示，在多语言、RAG、工具使用三大模块，Command R+的性能基本与GPT-4 turo差不多，大幅度超过知名开源模型Mistral。
由于Command R+内置了一个高级分词器，对非英语文本的压缩效果比市面上其他模型好得多能够实现高达 57% 的成本降低。
所以，在大模型输入方面成本只有GPT-4 turo的三分之一，输出只有其二分之一，可以帮助企业节省大量资金。
Command R+的另一个显著特点在于它能够与企业内部的各类业务平台无缝集成，从而推动企业业务流程的自动化。在Gomez的观点中，强大的语言模型不仅仅是生成文本的工具，对于企业而言，它们就像一台“动力引擎”，可以作为核心逻辑推理引擎，助力复杂业务流程的自动执行，其功能与机器人流程自动化（RPA）相似。
Command R+具备与企业的客户关系管理（CRM）、企业资源规划（ERP）、人力资源（HR）等不同种类的软件系统进行整合的能力。例如，通过将大型AI模型嵌入CRM系统中，企业可以实现客户信息、互动记录和日志更新等工作的自动处理和管理，极大提高操作效率，优化客户体验。
RAG是什么
RAG（Retrieval-Augmented Generation）是一种结合了信息检索和生成的技术，主要为大型语言模型提供外部知识源，以便生成更准确、更丰富的回答或内容，并减少模型的幻觉问。
尤其是在需要广泛背景知识来生成响应的任务中，例如，问答、文本摘要和拟人对话等。
RAG的主要架构确实包括检索器、生成器和融合机制这三大核心部分。具体如下：
1. 检索器：它的作用是在给定输入（例如一个自然文本提问）时，从一个大规模的文档集合中快速检索出相关的文档或信息片段。为了实现高效的检索，可以采用诸如BM25、Dense Passage Retrieval等基于向量空间模型的方法。
2. 生成器：通常是预训练的大型语言模型，比如GPT-4、Command R+等。这些模型使用检索到的文档作为额外的上下文信息，生成与输入相关的回答或文本。
3. 融合机制：这是在检索到的文档和原始输入之间建立联系的机制，决定了如何将检索到的信息整合到生成过程中，以提高生成文本的相关性和准确性。可以通过直接将检索结果作为生成器的一部分输入，或使用更复杂的注意力机制来动态选取最相关的信息来实现不同的融合方式。
此外，RAG的技术不仅能够提升大模型在生成内容时的相关性和准确性，还能通过检索引入的背景知识显著减少算力需求。这对于需要特定知识背景的任务尤其重要，因为大模型直接生成响应可能需要耗费巨大的AI算力。
综上所述，RAG架构通过结合先进的搜索技术和大型语言模型的能力，为各种应用场景提供了强大的支持，从对话式AI和内容创建，到处理搜索引擎中的复杂查询，都体现了其多功能性和实用性。
