中科闻歌申请针对大语言模型的推理过程的优化专利，能够提高大语言模型的推理效率

金融界 2025 年 4 月 23 日消息，国家知识产权局信息显示，北京中科闻歌科技股份有限公司申请一项名为“一种针对大语言模型的推理过程的优化方法及装置”的专利，公开号 CN119849626A，申请日期为 2024 年 12 月。

专利摘要显示，本申请实施例提供了一种针对大语言模型的推理过程的优化方法及装置，涉及大语言模型技术领域，该方法具体为：接收用户输入的问题文本；获取所述问题文本对应的目标特征集合，并基于所述目标特征集合对所述问题文本进行复杂度量化评估，以获取所述问题文本对应的目标复杂度；所述目标特征集合中的特征用于表征所述问题文本的复杂性；基于所述目标复杂度确定待激活的解码层的目标数量 M，并将所述目标数量的解码层进行激活；其中，M 为大于等于 1 的整数；待 M 个解码层激活之后，利用所述 M 个解码层对所述问题文本进行解码分析，获取所述问题文本对应的目标答复文本。本申请能够提高大语言模型的推理效率，同时避免资源浪费。

天眼查资料显示，北京中科闻歌科技股份有限公司，成立于2017年，位于北京市，是一家以从事科技推广和应用服务业为主的企业。企业注册资本15642.8571万人民币。通过天眼查大数据分析，北京中科闻歌科技股份有限公司共对外投资了16家企业，参与招投标项目386次，财产线索方面有商标信息139条，专利信息212条，此外企业还拥有行政许可5个。

本文源自：金融界

作者：情报员