不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
{dede:pagebreak/}
如何看待“继父***案时隔10年无罪改判8年”? 
地球上为什么没有演化出硅基生命，而只是演化出碳基生命？ 
为什么开发一个 AI Agent 看似容易，但真正让它「好用」却如此困难？技术瓶颈主要在哪里？ 
前端，后端，全栈哪个好找工作？ 
慈禧为什么要反对戊戌变法？ 
如何看待《剑星》已登顶 Steam 全球热销榜？ 
伊朗那么大却被一个小小的以色列打的无法还手？很多高层领导都被干掉了为什么？ 
长期使用的大佬来说说，MacOS 真的比 Windows 稳定吗？ 
为什么全世界无一人能实现新mac直接全功能稳定装Win 11 arm，或PC直接装macOS arm？ 
发生了什么导致你从此再不吃某样食物？ 
为什么央视不再报道洛杉矶***了？ 
Chrome 浏览器设计的神细节有哪些？ 
如何评价b站up主唐卡七？ 华为官宣鸿蒙 HarmonyOS 5.1 将于 7 月开启升级，对此你怎么看？会选择第一时间升级吗？ 
你在出租房屋发现过什么前租客留下的“宝藏”？ 
林志颖和韩寒的赛车技术如何？
