猎户星空大模型-140亿参数的多语种大模型

猎户星空大模型介绍

猎户星空大模型Orion-14B-Base是一个颇具规模的多语言AI语言模型。它拥有140亿规模的参数，并在一个包含2.5万亿token的多样化数据集上接受了训练，该数据集融合了中文、英语、日语、韩语等众多不同语言的语料。这一强大的模型在多语言处理的多种任务中表现卓越，在公共评测基准上超越了其他同规模模型。

开源地址：

– GitHub: https://github.com/OrionStarAI/Orion
– Hugging Face: https://huggingface.co/OrionStarAI

猎户星空大模型Orion-14B系列的显著特点包括：

1. 精准评测优势：以20B参数级别进行训练，效果卓越，尤其在全面评测中表现出领先同行的能力。
2. 强大的多语种处理：在包括日语、韩语在内的语种测试中领先竞争对手。
3. 微调适应性：在经过行业专业化调整后，在盲测中的表现令人瞩目。
4. 长上下文理解：该模型支持200k至320k token长度的超长文本，提供出色的长篇幅处理能力。
5. 高效量化处理：其量化模型在大幅降低体积（70%）和提升速度（30%）的同时，性能损失不超过1%。

猎户星空大模型Orion-14B系列实括：

– Orion-14B-Base：基础多语言模型，利用了庞大的多样化数据集。
– Orion-14B-Chat：经过高质量语料库微调，专为提高用户交互体验而设计的对话模型。
– Orion-14B-LongChat：专门为长篇幅文本设计，提供与专用模型齐肩的表现。
– Orion-14B-Chat-RAG：在特定数据集上微调的聊天模型，尤其适用于检索增强生成任务。
– Orion-14B-Chat-Plugin：为插件和功能调用任务定制，适用于需要通过大模型代理操作的场景。
– Orion-14B-Base-Int4：使用int4量化的基础模型，显著减少体积和提升速度，并且性能损失极小。
– Orion-14B-Chat-Int4：量化后的对话模型，保持了原有性能的同时提升了效率。

关于猎户星空公司：

猎户星空，创立于2016年9月，是一家全球领先的服务机器人解决方案提供商。其致力于将AI技术融合到创新机器人中，旨在通过减轻重复性体力劳动，让工作和生活变得更智能化和趣味化。

公司掌握了从语音交互到视觉导航的全链条自主开发的人工智能技术，并将产品研发与技术应用进行了有效整合。基于Orion机械臂平台，猎户星空不仅推出了一系列机器人产品，如ORION STAR AI机器人问候、AI机器人迷你、Lucki、咖啡 Master等，还打造了开放平台OrionOS，力图通过实用的AI技术赋能更广泛的社群。

猎户星空凭借在人工智能领域7年的经验沉淀，推出了面向行业客户的定制化AI大模型咨询与服务解决方案”聚言”，以助客户实现领先同行的经营效率。

公司拥有全面的大模型应用和开发能力，包括海量数据的处理、大模型预训练、二次预训练、微调、提示技术工程（Prompt Engineering）、代理开发，以及完整的端到端模型训练系统和强大的GPU并行处理能力。该技术已被广泛用于公共政务、云服务、海外电商、快速消费品等多个行业场景。