如何解释MTP 图解图解

> 数据图表

2025-4-3

目标，将预测范围扩展到每个位置的多个未来 Token。一方面，MTP 目标使训练信号致密，并可能提高数据效率。另一方面，MTP 可能使模型能够预先规划其表示形式，以便更好地预测未来 Token。