金融界2025年5月6日消息倍悦网，国家知识产权局信息显示，科大讯飞股份有限公司申请一项名为“一种推理方法、相关装置及推理系统”的专利，公开号CN119918679A，申请日期为2025年4月。
专利摘要显示，本申请公开了一种推理方法、相关装置及推理系统，应用于推理加速技术领域，推理方法包括：云端服务器通过对第一模型进行模型蒸馏得到第二模型，通过复制第二模型得到影子模型，将第二模型发送至终端；终端在本地部署第二模型，利用本地的第二模型对用户请求进行推理；终端将推理相关数据发送至云端服务器；云端服务器利用推理相关数据，辅以第一模型对影子模型进行参数优化，将影子模型的优化后参数发送至终端；终端根据影子模型的优化后参数对本地的第二模型进行参数优化。由于推理过程由端侧的本地小模型完成，因此，本申请公开的推理方法具有较高的推理速度，另外，本申请提供的推理方法可通过云侧的影子模型实现对于端侧模型的优化。
天眼查资料显示，科大讯飞股份有限公司，成立于1999年，位于合肥市，是一家以从事研究和试验发展为主的企业。企业注册资本231173.4185万人民币。通过天眼查大数据分析，科大讯飞股份有限公司共对外投资了128家企业，参与招投标项目5000次，财产线索方面有商标信息2713条，专利信息5000条，此外企业还拥有行政许可58个。
本文源自：金融界
作者：情报员/阅读下一篇/返回网易首页下载网易新闻客户端
科元网提示：文章来自网络，不代表本站观点。
相关文章
