我到現在其實還是不太懂transformer的原理
應該說
為什麼要分Q K V三個值來算
Q dot K 還蠻好懂的 就自己的值跟整串sequence相乘嘛
然後為什麼要 * V
他數學上的意義在哪
總不會是 it just works 這麼簡單吧
https://picx.zhimg.com/v2-b4673a40e55b90f5d0f192a789ae419d_r.jpg
==