不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
{dede:pagebreak/}
自己拥有一台服务器可以做哪些很酷的事情？ 
自己组一个E5服务器才几百块钱，为什么去阿里云租这么贵? 
印度是真的烂还是咱们在信息茧房里面？ 
本人女20，平胸跟男生一样怎么办 ? 
为什么明明身边二胎非常普遍，但从人口统计数据看，人口依然是在减少的？ 
有没有一款音乐播放器，能连接nas音乐，创建音乐库，自动匹配歌词封面等等？类似infuse的概念呢？ 
可以随身携带一个Linux系统吗？ 
为什么小男孩小时候要比小女孩难养好多? 
最讨厌和哪种人打羽毛球？ 
为什么 macOS 上国产软件不流氓？ 
你卡过最厉害的bug是什么？ 
为什么腾讯云或者阿里云不让自建dns服务器? 
隔壁公司因业务开了一堆AP，把2.4GHz和5GHz的多个信道都用上了，干扰严重我们该怎么办？ 
有个漂亮女朋友是种怎样的体验？ 
吴柳芳的真实水平如何？ 
安徽一银行两名客户经理因吃客户一碗面每人被罚 3000 元，这个处罚力度合理吗？ 
