标签： 续计算

在人工智能技术狂飙突进的当下，以GPT、BERT为代表的大规模预训练模型正经历着参数量的指数级增长。最新研究显示，训练一个千亿参数量的模型所产生的碳排放量，相当于五辆燃油汽车整个生命周期的排放总和。这种惊人的环境代价，将AI发展的可持续性问题推到了风口浪尖。 一、预训练模型的碳排放图谱 ...