当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
文章出处:网络 人气:发表时间:2025-06-24 22:05:17
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 如何看待国内开源项目的不可持续性?
- 有什么是你去了上海才知道的事情?
- MacOS真的比Windows流畅吗?
- 如何评价张靓颖刘宇宁《九万字》?
- Caddy 和 Nginx 比有哪些优点和缺点?
- 你为什么对kotlin失去好感?
- 有哪些事情是MacOS做不到但Linux可以做到的?
- 腰陆陆续续疼了一年多了,这个是腰突吗?
- golang 与rust 在服务器程序领域相比较,各有什么优劣势?
- 阿里云为什么没有一年的免费云服务?
最新资讯文章
- 有哪些让你目瞪口呆的 Bug ?
- 为什么Dreamwe***er,FrontPage会被淘汰?
- 琼瑶剧中哪些经典台词让你印象深刻?哪些经典场景让你记忆犹新?
- 为什么黄毛骗走的都是乖乖女?
- 华为Pura 80首销遇冷,是否说明消费者已经开始对麒麟芯片性能有所觉醒?
- 在什么时候,你发现自己的孩子是真的快乐?
- 国产香橙派和树莓派差距在哪?
- 055一打一能不能打过阿利伯克?
- 作为一个服务器,node.js 是性能最高的吗?
- 真的有这种又苗条身材又爆炸的么?
- 中国有能打到美国本土的导弹吗……有的话最远能打到哪里呢?
- 如果你是《一帘幽梦》里的绿萍,你会不会最后原谅紫菱?
- 国内很多男性在非洲和当地女人恋爱是真的吗?
- 曾经的班花,现在还多少人惦记?
- 女生真正的完美身材是什么样子?
- 世界上哪款战斗机最好看?
- 导师给了1.4W要我给工作室买个主机,是整机还是自己配?
- 为什么现在亲戚越来越不亲了?
- 你在相亲过程中遇到的奇葩都是什么样?
- 为什么红十字会腐败这么严重?