水杉智算申请基于反馈增强型自适应前馈网络优化方法及定制大模型专利，提升了模型的收敛速度和稳定性

金融界2025年4月30日消息，国家知识产权局信息显示，水杉智算（深圳）技术有限公司申请一项名为“基于反馈增强型自适应前馈网络优化方法及定制大模型”的专利，公开号 CN119886251A，申请日期为 2025 年 1 月。

专利摘要显示，本发明公开一种基于反馈增强型自适应前馈网络优化方法及定制大模型，所述方法包括：初始化模型的前馈网络的参数；输入前馈网络的特征矩阵，通过前向传播的方式，计算前馈网络每一层的输出；根据前馈网络的输出和真实标签来计算误差，该误差用于调整前馈网络参数和生成反馈信号；根据所述误差的大小和变化趋势，生成一个反馈信号用于调整学习率调整参数；根据该反馈信号的强度，动态调整权重和偏置的调整规则；根据当前迭代的效果调整反馈信号的强度。本发明能自动调整优化速度和方向，有效避免了梯度消失、局部最优解和训练震荡问题，提升了模型的收敛速度和稳定性，特别是在训练复杂、非线性数据时。

天眼查资料显示，水杉智算（深圳）技术有限公司，成立于2023年，位于深圳市，是一家以从事专业技术服务业为主的企业。企业注册资本100万人民币。通过天眼查大数据分析，水杉智算（深圳）技术有限公司共对外投资了7家企业，财产线索方面有商标信息2条，专利信息9条，此外企业还拥有行政许可1个。

本文源自：金融界

作者：情报员