Transformer 详解：了解 GPT、BERT 和 T5 背后的模型

目录

什么是 Transformer？

Transformer如何工作？

Transformer 为何有用？

常见问题解答：机器学习中的 Transformer

在技​​术领域，突破通常来自于修复损坏的东西。制造第一架飞机的人研究过鸟类。莱特兄弟观察了秃鹫如何在气流中保持平衡，意识到稳定性比动力更重要。机器学习中的Transformer就是这样：修复看似无法修复的东西。

每隔几年，就会有人提出一种新的机器学习模型，迫使你重新思考计算机能做什么。一开始，它们会下围棋。然后，它们会制作深度伪造视频。现在，它们会写论文、生成代码，甚至解决生物学问题。