小狮博客-一个专业的技术博客平台小狮博客

最新发布 第1489页

技术专栏

设计位置编码

thbcm阅读(308)赞(0)

在所有问题中,首先要做的是理解 我们到底在解决什么问题。Transformer 中的自注意力机制用于理解序列中词元之间的关系。自注意力是一种 集合 操作,这意味着它是 排列等变的。如果我们不通过位置编码来丰富自注意力,许多重要的关系将 无法...

技术专栏

机器学习:神经网络构建(下)

thbcm阅读(319)赞(0)

在设计神经网络时,其基本结构是由一层层的神经元组成的,这些层可以是输入层、隐藏层和输出层。为了实现这一结构,通常会使用向量(vector)容器来存储这些层,因为层的数量是可变的,可能根据具体任务的需求而变化。

联系我们