thbcm的文章

技术专栏

基于梯度组合的多任务 / 多目标学习

thbcm阅读(68)赞(0)

其核心矛盾在于:不同任务的梯度(指导模型更新的方向)经常“打架”。有的梯度幅值大,有的方向完全相反。简单地将梯度加起来更新,模型就会被大梯度或某个特定任务“带偏”,导致其他任务学不好。

联系我们