Back to News

7 PhD students train 7B model from scratch in 3 months, open-sourcing full pipeline

#ai4ai#open-source#llm-training#agents

Seven PhD students at Beijing Zhongguancun Academy trained the 7B model ZGCM-1 from scratch over a summer, releasing training data, recipes, weights, code, checkpoints, and logs. They employed hundreds of AI agents to handle data processing, experiments, log review, and evaluation, practicing an 'AI4AI' development paradigm. In general benchmarks, ZGCM-1 performs comparably to models like Qwen3-8B, and in some math reasoning and search tasks it rivals larger models such as Qwen3-235B-A22B and GLM-5.1.

Coverage timeline

  1. 量子位量子位

    7名博士生仅用3个月从零训练7B大模型:代码+数据+训练日志全公开 思邈 2026-09-15 10:17:34 来源: 量子位 几百个Agent参与研发,AI开始造AI 允中 发自 凹非寺 量子位 | 公众号QbitAI 北京中关村学院7名博士生,用一个暑假,从零训练出了一个7B大模型——ZGCM-1。 随后,他们把各阶段训练数据和配方、模型权重、训练代码、中间checkpoint和日志也开放出来,让每一位感兴趣的研究者都可以追溯、复现整个流程。 在多项通用评测中,ZGCM-1与Qwen3-8B等同规模模型表现相近;在部分数学推理和搜索评测中,它也能与Qwen3-235B-A22B、GLM-5.1等更大规模的模型比较。 但比最终分数更让人好奇的是,数据、训练、集群、评测这一整套工程,在大厂通常需要几百人的团队协作完成,七个人怎么做得过来? 他们给自己组建了一支几百个Agent的团队,分头处理数据、跑实验、看日志、做评测,亲手实践「AI4AI」研发范式。 模型训完后,团队还对整个模型研发流程中Agent的实际表现做了一次评级,希望基于本次完整的大模型训练实践,为RSI现状提供真实的工程结论。 至于为什么开始做这件事,还要从一顿火锅说起。 △ZGCM-1模型能力概览及主要技术路线 看了很多技术报告,还是想自己训一次 七个人最初因为兴趣凑到一起:两人人工智能方向,两人网络方向,另外三人分别来自化学、生物和网安。 平时,他们更多是在现成模型上做微调。技术报告看了不少,许多问题却还是想不明白:数据到底怎么选,训练出了问题怎么查,最后写进报告里的方法,又是经过多少次失败才留下来的?一句“我们进行了数据清洗”,落到实际工程中,究竟意味着多少工作? 吃火锅时,大家聊到了这些困惑,也聊出了一个念头:既然光看报告总有弄不明白的地方,要不要自己从头训练一次? 当时,他们甚至想用一个7B模型去挑战Sonnet这样的模型。参数装不下那么多知识,就让模型多想一会儿,学会搜索、使用工具。 至于能走多远,谁也没有把握。他们想先动手,也把过程留下来,让其他学校里同样好奇的研究者有东西可参考。 老师们半信半疑,还是决定让他们试试,先给了一些算力。 接下来的几天,大家日夜赶着复现已有项目,快速迭代一个小模型。团队较为顺利地把完整流程快速跑通了,也让老师们看到继续投入的可能,团队因此获得了更多资源,饭桌