近日，广东医科大学AI医学院基于国产昇腾算力平台，成功完成华为openPangu-Embedded-1B/7B这一尖端模型的本地化部署，成为全国首个完成此模型本地化部署的高校，并向本校医教研团队开放API接口申请，为构筑医疗、教学、科研创新新生态迈出关键步伐。

　　Embedded-7B模型介绍：

　　专为昇腾算力平台打造的高效大语言模型“开源盘古 Embedded-7B”，参数规模为7B（不包含词表部分），训练数据量高达约19万亿tokens，具备快慢思考融合的能力。

　　为了让这个轻量级模型更聪明、更灵活，研发团队在训练方法上进行了针对性优化。首先，是在训练过程中将快慢思考融合。想象一下人脑，有时需要快速反应（快思考，System 1），有时需要深思熟虑（慢思考，System 2）。通过将特殊设计的系统提示词放在输入信息开头，就能明确告诉模型此刻需要选取哪种思考模式。其次，混合两种训练数据，一种用于强化深度推理能力（慢思考），另一种则用于训练快速给出答案的能力（快思考）。模型能根据任务需求，在快速响应和深度思考之间灵活切换，既保证效率又兼顾准确性。

　　Embedded-1B模型介绍：

　　专为昇腾端侧设备运行而设计的高效快思考语言模型“开源盘古 Embedded-1B”，支持昇腾Atlas 200I A2端侧部署，参数规模仅1B（不含词表Embedding），训练数据量约10万亿tokens，目标是在资源有限的设备上提供快速响应的智能体验。

　　模型充分考虑了Atlas 200I A2的硬件特点。像量体裁衣一样，对模型层数、内部FFN、Attention模块的shape等内部结构参数进行了反复的仿真测试。这使得模型最终能在端侧高效运行，综合保障模型精度与端侧设备上的推理效率。

　　全国首个部署上线缘何选择在AIMS-GDMU：

　　广东医科大学AI医学院（AIMS-GDMU）是全国首个AI医学院，是基于华为鲲鹏与昇腾算力平台，融合鸿蒙技术生态，并集成盘古大模型，将大模型深度融入课程体系与教学实践，推动科研创新，为教育科研能力的智能化升级持续赋能的大模型和智能体集群平台。AIMS-GDMU已经完成建设模式、方法技术、专利的集成，将对外开放和转化，与生态伙伴和同行一起，共同探索AI增强和赋能医疗服务、医学教育和生物医药的未来模式。广东医科大学与华为技术有限公司自2022年启动全面战略合作以来，已经成为医学院校中全国首个建成华为ICT学院、华为首个数智健康医疗联合创新天工实验室、全国首个AI医学院。9月21日，在广东省高等教育学会、广东高等学校教学管理学会、广东医科大学联合举办的“AI赋能医疗和高等教育未来”学术交流会上，华为openPangu-Embedded-1B/7B大模型在广东医科大学AI医学院完成全国首发部署上线，广东医科大学、华为科技有限公司、神州医疗科技股份有限公司、中软国际教育等联合发布首个医学人工智能人才培养解决方案。

　　未来，广东医科大学将持续携手华为，在医疗、教育、科技等领域共创鸿蒙生态，共同探索AI支持教学、AI增强医疗、AI赋能科研、AI服务产业的新模式和新范式。

　　中国教育在线 林剑 通讯员 王丽君