不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
{dede:pagebreak/}
好多饭店的菜，味道很重，尤其是川菜的麻辣风味儿，是不是有意在遮盖一些不好的味道呢？ 
最讨厌和哪种人打羽毛球？ 
为什么linux桌面那么丑？ 
为什么我觉得中国很谦虚，甚至有时候感觉中国对其他国家过分宽容，外国人却认为中国是列强呢？ 
你们在公司是怎么使用k8s和docker的？ 
海贼王为什么现在被全网黑? 
女朋友是体育生是一种什么体验？ 
以色列摩萨德这么厉害，中国网民为何不害怕？ 
跨平台GUI框架到底应该自绘还是原生控件绑定？ 
Swift 和同时代的其他语言比起来怎么样？ 
在NAS上安装了什么应用，让你的生活体验有了巨大的提升？ 
广东怀集遇历史最大洪水，约 30 万人受灾，积水最深处达 3 米，目前当地情况如何？ 
为什么国外网站总喜欢弹出cookie访问权限弹窗，国内网站却没有，这么做有什么意义？ 
如何评价“寡姐”斯嘉丽·约翰逊的身材？ 
到底是9800x3d+5070ti还是u7+5080? 
台湾人对南京人有特殊情结吗？ 
