近日,思必驰语音大模型完成基于CANN8.2框架的算子专项优化,并通过AISHPerf-CANN开源版基准测试,获得由中国信息通信研究院人工智能软硬件协同创新与适配验证中心颁发的《AISHPerf-CANN开源版基准测试证书》。测试结果显示,思必驰语音大模型基于CANN8.2完成语音识别模型算子专项优化后,算子运行性能稳定提升,算子执行耗时与时延显著降低,参测项技术能力满足评测要求。

中国信息通信研究院人工智能软硬件协同创新与适配验证中心长期关注人工智能软硬件协同创新、适配验证与基准测试体系建设。其AISHPerf人工智能软硬件基准测试体系,面向不同训练、推理和应用场景,通过多维度指标评估软硬件协同优化水平、兼容适配能力和端到端交付效能,为模型、框架、算力底座和行业应用之间的适配提供可量化、可验证的参考依据。此次思必驰通过AISHPerf-CANN开源版基准测试,意味着思必驰语音大模型在国产AI基础软硬件生态适配方面取得了新的阶段性进展。
本次适配工作由思必驰与华为以及江苏鲲鹏·昇腾生态创新中心共同推进,重点面向CANN框架下语音大模型推理链路中的关键算子、执行效率和系统稳定性开展专项优化。CANN作为昇腾AI软硬件体系的重要基础软件层,承担着模型开发、算子执行、推理部署和性能调优等关键能力。通过与CANN8.2的深度适配,思必驰进一步提升了语音大模型在目标算力环境中的运行效率与工程可用性,为后续规模化部署、跨平台迁移和行业场景落地奠定了更稳固的技术基础。
从产业落地的真实需求来看,大模型能力能否真正进入业务系统,不只取决于模型本身的理解与生成能力,更取决于其在真实软硬件环境中的稳定性、响应速度、部署成本和持续迭代效率。思必驰长期坚持端云协同、软硬结合的技术路线,构建了覆盖全栈对话式AI与端侧智能的技术体系,此次基于CANN8.2的算子专项优化,正是思必驰将自研模型能力、系统工程能力与国产AI生态能力进一步打通的重要实践。
思必驰语音大模型以AISPEECH DFM为核心能力底座,面向人机交互、工具调度和垂直场景任务执行等实际应用需求自主研发。区别于单纯追求开放问答能力的通用大模型,思必驰语音大模型更强调在智慧出行、智慧办公、智慧物联等垂直场景中的对话理解、稳定调度、低时延响应和闭环执行能力。依托“1+N”分布式智能体系统架构,思必驰语音大模型可协同垂域模型、行业知识、终端能力和全链路语音交互组件,帮助客户在复杂真实场景中实现更自然、更高效、更可靠的人机交互体验。
在智慧出行场景中,更稳定高效的模型推理与语音链路,有助于智能座舱在复杂噪声、多轮对话、车控指令和服务调用等场景下保持更顺畅的交互体验;在智慧办公场景中,可进一步支撑会议转写、纪要生成、智能助理、跨语言沟通等应用对实时性和准确性的要求;在智慧物联场景中,则有助于智能家电、机器人、消费电子等终端在有限算力、低功耗和高并发条件下实现更可靠的语音交互与任务执行。
面向人工智能加速走向产业深水区的趋势,思必驰将继续深化与华为等生态伙伴合作,围绕模型、框架、算力、终端和应用场景开展联合创新,持续提升对话式人工智能在真实产业环境中的可用性、可靠性和交付效率,为行业客户提供更加稳定、高效的系统级AI产品与解决方案。
免责声明:本站转载的文章,版权归原作者所有;旨在传递信息,不代表本站的观点和立场。