不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
{dede:pagebreak/}
真的没有人觉得2k是一个很尴尬的分辨率吗？ 
买到烂尾楼到底该有多绝望？ 
为什么网上很多外行敢站出来评价中医？ 
CPU 为什么很少会坏？ 
字节跳动技术副总裁开源了自己与Trae合作的首个项目，如何评价目前AI开发的水平？ 
光伏真的不行了吗？ 
妈妈去世后，外婆家的亲戚集体不来，我还要跟他们交往吗？ 
圆周率已被算到31.4万亿位，科学家如此执着，到底为了什么？ 
字节大量使用新语言，包括go，rust等，为什么阿里一直都抱着j***a不松手？ 
敲代码适合mac吗？ 
独立游戏的成功率极低，但依然有许多开发者愿意投入数年时间去“孤注一掷”。他们为什么会做出这样的选择？ 
平面设计主KV做成这样，在你的城市薪资一般多少？ 
阿里云为什么没有一年的免费云服务？ 
女生被踢裆也会很疼吗？ 
请问一下图中***的名字，谢啦？ 
字节跳动技术副总裁开源了自己与Trae合作的首个项目，如何评价目前AI开发的水平？ 
