中国教育在线浙江站讯 (记者 陈显婷 通讯员 程振伟 刘妃 )不久前,杭电在校博士生王超创立的旷维炬锐有限公司,获得千万级天使融资。融资方看好的是这家2022年成立的新型高科技公司“在端侧AI上的巨大潜力”。
“2024年在中国国际大学生创新大赛上,我们凭借‘旷维炬锐——行业领先的端侧AI开发平台与解决方案供应商’项目拿到高教主赛道的金奖,没想到这么快就将一些设想变为现实。当然了,DeepSeek等大模型的火热,加速迎来人工智能时代,是我们这些创业者的最大利好。”95后小伙王超感慨地说。
王超从本科阶段便聚焦AI与硬件的协同优化,博士课题“面向边缘计算的轻量化AI模型部署”直击行业痛点,为其创业奠定了理论基础。
据了解,王超创立的旷维炬锐团队,核心目标是解决AI在终端设备上的高效部署难题。传统云端大模型依赖高算力服务器,存在延迟高、隐私风险大等问题,而端侧AI通过将模型部署在本地设备,可实现实时响应与更高的数据安全。然而,如何在算力受限的终端(如手机、IoT设备)上运行复杂模型,一直是行业瓶颈。“端侧场景下的算力是个关键问题,容易受制于重量、能耗等因素,就好比一个机器狗,不可能扛着一台服务器运行。”王超告诉记者。
旷维炬锐团队的一个核心解决方案,就是依托华为等国产解决方案,深度参与昇腾AI应用创新与开发者生态。华为AI生态的核心战略是打造“全栈全场景”解决方案,而旷维炬锐的端侧技术恰好补足了生态链的关键一环。2024年,王超团队正式加入华为昇腾万里伙伴计划,其开发平台被纳入华为ISV伙伴体系,支持开发者快速将大模型适配至端侧设备。
打造世界上数量最多的“中国产算力适配”体系。以往的算力解决方案,过多地依赖英伟达等国外算力公司。国产化解决方案是必然趋势。王超和他的团队,致力于让更多的国产算力“驱动中国的AI”,目前,大多数的国产算力在王超团队的平台上,可以逐步替代国外算力。
在边缘计算(端侧计算)上发力。在智慧农业领域,依托旷维炬锐的旷枢平台以及平台适配的华为昇腾Atlas 200系列设备,研发出基于光谱和视觉的多模态非接触草莓分级方案。草莓集散中心操作人员使用平台提供的零代码数据标注及一站式训练工具链,基于MindSpore框架训练多模态模型,将草莓四类综合分级准确率提升至95.8%。同时得益于昇腾提供的高性能边缘计算能力,能够将单果分析速度控制在30毫秒以下,实现本地实时的精准分析,将日均分拣数量提高到8万果,降低70%以上的人工分拣成本。目前该系统已于建德某草莓园试运行。
助力大小模型协同。目前在产线质检领域,旷维炬锐构建了大小模型相结合的可自演进质检系统。依托旷枢平台私有化部署Qwen2.5-VL多模态大模型,针对52类零件的缺陷进行自动分析与标注,利用大模型标注后的缺陷图像构建增量训练数据集。这样就在生产线上,构建了一个可自演进的质检系统,该系统能够实现视觉质检精度的自我迭代和新零件自动适配。“大模型小模型协同,端侧AI发力,生产端质检的安全性、精确性、迅速响应性,都有了大幅度提升。”王超表示。
推动“大模型私有化部署”赋能。记者了解到,在嘉兴市某单位指导下,王超和他的团队与校友企业谦贞数科合作建设了深度融合大语言模型的全链路企业数字化服务平台。基于旷维炬锐开发的平台,通过20万条产业政策语料的微调训练以及大模型的私有化部署,实现92%的政策解读准确率。支持混合推理(规则引擎+语义理解),可处理复杂场景如“分析某企业是否符合领军资质”等问题的思维链推理。这就意味着政府管理部门的治理“向AI化迈进了一大步”。同时在实施方面,实现了智能系统的全栈国产化适配,从服务器到操作系统、数据库,确保系统安全可控,兼容国产化环境的高性能需求。目前,一期平台已上线。
“用AI模型推动千行百业数智化转型,为企业大幅降低AI的接入与开发成本,是我们当下最关注的。以端侧AI为切入口,推动国产算力替代,助力构建国产人工智能生态,我们要走的路还很远,但肯定能做到。”王超充满激情地说。
(责任编辑 吴文建 陈显婷)
① 凡本站注明“稿件来源:中国教育在线”的所有文字、图片和音视频稿件,版权均属本网所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经本站协议授权的媒体、网站,在下载使用时必须注明“稿件来源:中国教育在线”,违者本站将依法追究责任。
② 本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者在两周内速来电或来函联系。