多头自注意力机制-MultiHead Self-Attention
在Transformer中的多头自注意力机制的讲解和代码实现。
多头自注意力机制-MultiHead Self-Attention
在Transformer中的多头自注意力机制的讲解和代码实现。
理解 Sigmoid 激活函数:公式、特点与应用
对激活函数:
进行定义介,包括公式定义、代码实现和优缺点,以及适用场景。
Attention Gate in Attention UNet
对Attention UNet中使用的Attention Gate(AG)进行介绍和代码分析。
从概率角度看 Softmax:公式推导、数值稳定性与代码实现
简单介绍交叉熵(Cross Entropy)
介绍分割任务中常见的评价指标Dice coefficient score。
代码实现和注意事项。
对机器学习,特别是分类任务中常见的评价指标进行介绍,附带Pytorch代码。
Precision,Recall和F1-score。