书生大模型

官网介绍

书生通用大模型体系是由上海人工智能实验室（上海AI实验室）与商汤科技联合香港中文大学、复旦大学、上海交通大学及清华大学于2023年7月6日在2023世界人工智能大会（WAIC 2023）上共同发布的全新升级大模型体系。该体系包括书生·多模态、书生·浦语和书生·天际等三大基础模型，以及首个面向大模型研发与应用的全链条开源体系。书生大模型在130多个评测中性能达世界领先或先进水平，自2021年发布后历经数次升级，从国内首个覆盖多种视觉任务的通用大模型，逐步发展为涵括视觉、语言和三维等在内的全面大模型体系。

核心功能特点

多模态融合与交互能力

书生多模态模型（InternLMM）包含200亿参数，使用80亿多模态样本训练，可通过自然语言定义各种任务，实现开放世界理解，支持多模态生成和跨模态交互，并支持350万语义标签的识别和理解，覆盖开放世界常见的类别和概念。在80多种多模态和视觉评测任务中性能领先，超过了谷歌、微软、OpenAI等研发的同类模型。

长语境语言理解与生成

书生·浦语（InternLM）是国内首个正式发布的支持8K语境长度的千亿参数级语言大模型，具有1040亿参数，在包含18000亿 token 的高质量语料上训练而成。支持二十多种语言，可通过表格和图表等方式汇总与呈现复杂信息，在42个主流评测集上性能明显提升，其中35个评测集上性能超越了ChatGPT。

城市级实景三维建模与编辑

书生·天际是全球首个城市级NeRF实景三维大模型，具备千亿参数，已实现对100平方公里范围进行城市实景建模，分辨率精度可达4K；并支持对全范围的高精度实时渲染，以及城市级编辑、风格化转换等功能。集算法、算子、计算系统为一体，在高精度建模、高精度渲染、功能可扩展性、训练交互一体化四个方面取得领先。

全链条开源工具体系

书生·浦语开源了70亿参数的轻量级版本InternLM-7B，以及贯穿数据、预训练、微调、部署和评测五大环节的全链条工具体系。包括OpenDataLab开放数据平台、InternLM-Train训练框架、全流程微调工具、LMDeploy部署推理工具链和OpenCompass开放评测平台，全面支持大模型研发与应用。

强大的数理逻辑与安全对齐能力

书生·浦语在数理逻辑能力方面有明显进步，大幅提高了数值计算、函数运算、方程求解等数理能力，在数学评测集 GSM8K 上性能从62.9提高到73.2，在2023年高考数学选择题上，正确率提升超过70%。同时通过更有效的指令微调，包括基于人类反馈的强化学习（RLHF），模型可以更可靠地遵循人类指令，安全性也得到明显改善。

应用场景

• 自动驾驶：支持感知决策一体化的自动驾驶通用大模型UniAD，使自动驾驶更智能，相关研究成果《Planning-oriented Autonomous Driving》已摘取CVPR最佳论文奖。
• 智慧医疗：推出全球首个医疗多模态基础模型群"OpenMEDLab浦医"，为人工智能大模型在医疗领域的快速发展、高效落地提供了坚实的基础。
• 地球科学：支持全球中期天气预报大模型"风乌"，首次实现气象有效预报时间首破10天，同时仅需30秒即可生成未来10天全球高精度预报结果，效率大幅优于传统模型。
• 城市规划与管理：书生·天际大模型可对城市进行4K高精度建模及编辑，为城市规划、智慧交通、应急管理等提供精准的三维空间数据支持。
• 科研创新：为科研人员提供强大的多模态数据分析和处理能力，支持科学发现和创新研究，助力各学科领域的突破。
• 教育培训：通过多模态交互和长文本理解能力，提供个性化、智能化的教育内容和学习体验。
• 内容创作：支持多模态内容生成，可根据文本描述创作图像、视频等内容，辅助设计、艺术创作等领域。
• 智能客服与交互：具备长语境理解和多轮对话能力，可应用于各类智能客服系统，提供更自然、高效的人机交互体验。

优势

书生通用大模型体系的主要优势体现在多方面：首先，模型性能领先，在130多个评测中达世界领先或先进水平，其中多模态模型在80多种评测任务中超越谷歌、微软、OpenAI等同类模型，语言模型在35个主流评测集上性能超越ChatGPT。其次，技术创新突出，如书生·天际是全球首个城市级NeRF实景三维大模型，书生·浦语是国内首个支持8K语境长度的千亿参数级语言大模型。第三，开源开放程度高，提供全链条开源工具体系，覆盖数据、预训练、微调、部署和评测五大环节，降低了大模型研发和应用门槛。第四，应用生态丰富，已在自动驾驶、智慧医疗、地球科学等多个领域取得实际应用成果。第五，安全可靠，通过有效的指令微调和强化学习，模型安全性和对齐能力显著增强。

价值总结

书生通用大模型体系的核心价值在于为人工智能领域提供了全面、高性能、开源开放的技术基础平台。通过提供多模态融合、长语境理解、三维建模等先进能力，以及全链条开源工具，书生大模型降低了大模型研发和应用的门槛，赋能科研创新和产业升级。对用户而言，可获得高性能的AI模型支持，加速技术研发和产品创新；对产业而言，能够推动各行业智能化转型，提升生产效率和服务质量；对整个AI生态而言，开源开放的模式促进了技术交流与合作，推动了人工智能技术的整体进步和应用落地，助力构建开放、协作、创新的AI发展生态。

用户体验与优势

书生通用大模型体系在用户体验方面具有显著优势：首先，模型能力全面且强大，支持多模态交互、长文本理解、复杂推理等多种任务，满足用户多样化需求。其次，开源体系降低了使用门槛，用户可根据自身需求灵活选择不同规模的模型（如千亿参数级或70亿参数轻量级版本），并通过全链条工具便捷地进行训练、微调、部署和评测。第三，模型交互友好，支持自然语言定义任务，多轮对话流畅自然，响应速度快。第四，安全性高，通过强化学习等技术确保模型可靠遵循人类指令，减少不当输出。第五，持续升级迭代，团队不断优化模型性能和功能，为用户提供持续提升的使用体验。

技术优势

书生通用大模型体系在技术层面具有多项优势和特点：在模型架构方面，采用先进的多模态融合技术，实现了语言、图像、视频等多种模态的无缝整合。在训练技术方面，提出了Hybrid-Zero独特技术，支持从8卡到1024卡并行训练，性能领先行业水平。在推理部署方面，开源的LMDeploy工具链支持十亿到千亿参数语言模型的高效推理，性能超越HuggingFace、Deepspeed、vLLM等主流推理框架。在评测体系方面，OpenCompass开放评测平台支持大模型的一站式、全方位评测，包含超过40个评测集、30万评测题目，通过全自动分布式评测保障开源模型性能可高效复现。此外，在数据资源方面，通过OpenDataLab开放了包含30多种模态的5500公开数据集，其中自然语言方面开放了超过10000亿token的高质量语料，为模型训练提供了坚实基础。这些技术优势共同构成了书生大模型体系的核心竞争力。