#Transformer

从注意力到长程记忆：把 Transformer 从机制讲到它做不到什么

上一篇说 agent 要把任务外化是因为注意力机制。这篇把 Transformer 本身讲透：它为什么强，它的结构性短板在哪。