不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
{dede:pagebreak/}
前端怎么实现预览pdf文件？ 
为什么剪映是剪辑软件鄙视链的最底层? 
当初中俄为什么不摧毁朝鲜的核设施，让朝鲜拥有了自己的核武器？ 
SwiftUI 是不是一个败笔？ 
如何才能把vba学好，总感觉学了一些，隔一段时间不用又忘记又从头开始。? 
想入手一台苹果电脑，是选Mac mini还是MacBook Air？ 
室友因为身体原因要用冰箱，但是电费却由我们平摊，合理嘛？ 
当初中俄为什么不摧毁朝鲜的核设施，让朝鲜拥有了自己的核武器？ 前端怎么实现预览pdf文件？ 
为什么吹B-2天下无敌？ 
为什么 Golang 不适合开发桌面系统？ 
为什么现在越来越多的人不想要孩子呢？ 
iPad Pro 能否取代 Surface Pro？ 
Linux 下有没有类似 Everything 的搜索工具？ 
4090 魔改 48g 显存是怎么做到的？ 
高考完了，要买笔记本，苹果mac m4怎么样？
