金山云申请困惑度计算方法专利，解决单个图形处理器显存较小无法计算PPL的问题

金融界2025年5月10日消息，国家知识产权局信息显示，北京金山云网络技术有限公司申请一项名为“困惑度计算方法、装置、设备及计算机可读存储介质”的专利，公开号CN119938332A，申请日期为2025年1月。

专利摘要显示，本公开涉及一种困惑度计算方法、装置、设备及计算机可读存储介质，通过将待评测模型并行部署于多个图形处理器上，使得多个图形处理器分别通过待评测模型对模型输入转换成的符号序列进行前向计算，得到逻辑值，并根据该逻辑值和该符号序列计算得到损失值，即多个图形处理器并行计算损失值，最后将多个图形处理器分别计算得到的损失值聚合到一个图形处理器上，得到聚合后的损失值，并根据该聚合后的损失值，计算该待评测模型的困惑度，即计算困惑度所耗费的显存可分摊在多个图形处理器上，从而达到多个图形处理器并行计算困惑度的目的，从而解决了由于单个图形处理器的显存较小而无法计算PPL的问题。

天眼查资料显示，北京金山云网络技术有限公司，成立于2011年，位于北京市，是一家以从事科技推广和应用服务业为主的企业。企业注册资本20000万人民币。通过天眼查大数据分析，北京金山云网络技术有限公司共对外投资了14家企业，参与招投标项目902次，财产线索方面有商标信息3条，专利信息2702条，此外企业还拥有行政许可13个。

本文源自：金融界

作者：情报员