不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
{dede:pagebreak/}
系统太稳定了甲方觉得我们没有工作量，怎么收运维费？ 
如何看待三峡集团总部搬迁至武汉？ 
为什么越来越多的国内男孩，要娶国外女孩? 
学生校服如何隐藏内衣痕迹? 
北京日报点名批评“苏超”过度娱乐化，它是否管的太宽了？为什么无良媒体不会被查封取缔？ 
2025年，歼16与美军机50分钟缠斗，为什么知乎上没有任何消息？ 
switch2好用吗朋友们? 
如何评价“寡姐”斯嘉丽·约翰逊的身材？ 
全球每年约500万匹马被屠宰，为什么却见不到中国人吃马肉？ 
6 月 18 日苏炳添跑出 11 秒 37 未能进入决赛，这是否意味着职业生涯已经进入新阶段？ 
Golang与Rust哪个语言会是今后的主流？ 最后买了一个树莓派，想用python控制摄像头读取***流，再利用socket发送出去。大家觉得可行么？ 你卡过最厉害的bug是什么？ 
使用Linux系统有什么优势，亮点在哪里？ 
如何看待凤凰传奇取消天津场演唱会？ 
中国军队有多强，在世界能排第几？ 
