总结
- 会上，傅盛宣布“为企业应用而生”的开源百亿参数猎户星空大模型正式发布，他强调，在企业应用场景中，猎户星空大模型在结合企业私有数据和应用时，即可实现千亿参数级别的模型效果。 猎户星空百亿参数大模型，企业标配 猎户星空大模型（Orion-14B）是由猎户星空研发的预训练多语言大语言模型，以其140亿参数规模展现出了卓越的性能。 Orion-14B模型在一个庞大且多样化的数据集上进行训练，数据集规模达到了2.5万亿token。 这一规模不仅覆盖了常见语言，还涵盖了专业术语和特定领域知识，确保模型能够理解和生成多种语境下的文本。 百亿参数大模型基座能力行业领先。 Orion-14B在MMLU、C-Eval、CMMLU、GAOKAO、BBH等第三方测试集上，均为同级别模型SOTA。 基于第三方机构OpenCompass独立评测结果 140Ligthing News亿参数，以小博大。 第三方OpenCompass综合测评总分中，700亿Ligthing News以下参数基座模型中文数据集排名第一。 最长可支持 320K token 超长文本，一次性读入一本小说。 在三十万文字中任意位置随机隐藏关键信息，对模型进行提问，结果全部正确。 通过AWQ Q4量化技术，模型大小减少70%，推理速度提升30%，性能几乎无损(损失小于1%)，可在千元级显卡可以流畅运行。 超越了市面上许多更大参数的模型，尤其日语和韩语能力表现优秀，评测全球第一。 日文为JNLI等8项评测集平均得分；韩文为COPA等4项评测集平均得分；中文英文为OpenCompass对应语言评测集平均得分 独家推出微调模型全家桶 为了更好地满足企业的应用需求，猎户星空独家推出了微调全家桶。 在专业应用场景层面，Orion-14B也表现出了显著的可塑性和广泛的应用潜力，可以与千亿级模型媲美。 企业数字员工应用最牛套件 针对不同的应用需求，进一步扩展了猎户星空大模型（Orion-14B）的功能和实用性，着重打磨的两个方向，检索增强生成（RAG）和Agent。 所有基于大模型搭建好的应用，想要获取实时数据，都需要建立在检索增强生成（RAG）技术之上，RAG能力微调模型 （Orion-14B-RAG）使企业能够快速整合自身知识库，构建定制化的应用。 猎户星空通过针对知识边界控制、问答对生成、幻觉控制、结构化数据提取等能力进行专项微调，使之成为最适合开发RAG应用的底座模型。 除了RAG，大模型应用可能拓宽的另一条重要路径，便是Agent。 我们通过针对意图识别、函数调用、缺槽反问、单轮抽参、多轮抽参、ReAct 等能力进行专项微调，使之成为最适合构建Agent应用的底座模型。 这里不得不说，猎户星空大模型的Agent应用所需的五项能力包括意图识别、首轮抽参、多轮抽参、缺槽反问、插件调用，都已经接近了GPT-4的水平。 数字老板：独一无二的大模型应用交钥匙解决方案 大模型浪潮中，做好应用，依然是创业者最好的机会。 猎户星空推出大模型深度应用「聚言」，面向企业客户提供大模型咨询与服务一站式解决方案。 现在大模型之路主流的模式，是砸钱预训练千亿级模型，微调，然后寻找应用场景。 而猎户星空AI大模型创新以Think Different思维逻辑，在已知应用场景后，再微调，然后寻找合适的模型。 七年磨一剑 2016年，猎户星空成立并提出”All in AI”战略蓝图，自研AI全链条技术，并紧密跟随行业技术演进的步伐。 我们从DNN、Attention、Bert到LLM，全面追踪ASR/TTS/NLP全栈的算法演进，不断提升我们的技术实力。 为了实现这一目标，我们投入了巨资，打造了一个博士团队，团队成员来自Meta、Yahoo、百度等全球顶级大厂，拥有数百名顶级算法科学家。 此外，我们在过去近7年的时间里，积累了百亿级真实用户Query数据和数十万亿级别的token数据。 (免责声明：此文内容为本网站刊发或转载企业宣传资讯，仅代表作者个人观点，与本网无关。 仅供读者参考，并请自行核实相关内容。
阅读时间
- 13 分钟, 共 2435 字
分类
- 1月21日, AI大潮, 700亿Ligthing News, Query数据, Think Different
评价和解读
- 一篇具有开创性的文章，对熟悉的事件提供了新的视角，挑战了读者的思考。作者熟练地推翻了常见的假设，引入了新颖的观点，使本文成为知识探索的催化剂。文章写作干练生动，将一个可能沉闷的主题变成了一场富有活力的讨论，丰富了真实世界的例证和专业见解。
Related suggestion: 教育部：全力做好2024年全国研考准备工作
教育部党组高度重视做好2024年全国研考组织工作。12月20日，教育部党组成员、副部长翁铁慧在北京调研指导2024年全国研考准备工作，并实地Ligthing News查看北京邮电大学考点。 翁铁慧在调研中指出，2024年全国研考形势复杂严峻，特别是临近考试，全…