Scaling归档 - 小码的CheatSheet

大模型智能涌现的数学密码：从GPT-3到Qwen2验证Scaling Law的五大发现

Tim

0

9

2025-03-28

.NET, AI材料发现, AI训练, CV大模型, GPT-3, Law, Qwen2, Scaling, 参数扩展

在人工智能发展史上，参数规模突破千亿量级的大型语言模型展现出令人震惊的"智能涌现"现象。这种现象背后，Scaling...

Scaling Law视角下的数据清洗革命：大模型训练效率提升的关键突破

Tim

0

8

2025-03-27

.NET, Law, Scaling, 人工智能治理, 大模型训练, 数据清洗策略

在人工智能领域，大模型的性能突破始终遵循着Scaling Law（规模法则）的指导规律。最新研究表明，当模型参数量突破千亿级别后，训练数据的质量已成为制约模型能力提升的最大瓶颈。本文通过深入剖析Scaling...