资讯 · AI DISPATCH 创作者选题
微调要多久,算一次就知道
中性事实:微调耗时预测:CatBoost 模型把平均误差压到 1.71 小时
Dharma-AI 分析了 272 个真实监督微调任务(共 7,382 个 GPU 小时,全部跑在 H200 上):常用的 FLOP 估算只能解释少量差异,决定系数仅 0.31,平均误差 12.41 小时;而一个只用派单前已知配置特征的 CatBoost 模型,决定系数达 0.98,平均误差 1.71 小时,中位误差仅 0.51 小时;完整论文即将发布到 arXiv,方法可迁移到其他执行日志数据上复现。
为什么重要
对跑微调任务的开发者,意味着排队前就能把耗时误差从 12 小时压到 1.7 小时,GPU 排期不再靠猜。
可以先做
管共享 GPU 集群的读者,可照这篇的方法,用配置特征训一个自己的耗时预测器。
判断
可直接抄作业的一篇:特征全是派单前已知信息,任何有历史执行日志的团队都能复现一套自己的预测器。
可以先做:管共享 GPU 集群的读者,可照这篇的方法,用配置特征训一个自己的耗时预测器。