蒸馏小模型这件事,对应的是哪类岗位的日常工作?

消息提到,有团队把 R1 生成的长思维链蒸馏到 Qwen-1.5B、7B、14B 小模型,并在运行时给足思考预算后,观察到解题能力与思考长度呈正相关。这条动态对求职者的价值,不是让你去复现某个模型,而是提醒你:同一件“小模型变强”的事,背后至少有三段不同的工作。

训练侧关注数据怎么来、思维链怎么筛、训练流程怎么跑;蒸馏侧关注教师信号怎么构造、学生模型怎么对齐;推理应用侧关注思考预算怎么给、延迟和成本怎么控。你投简历前,先问自己更愿意长期做哪一段。喜欢折腾数据和训练循环的,往训练与蒸馏侧准备;喜欢把模型跑稳、跑快、跑便宜的,往推理部署侧准备。两边都懂一点是加分,但简历上要有一条主线。

简历上写蒸馏或推理优化经历,怎么讲才不空?

只写“用过 Qwen-7B”“做过蒸馏”基本等于没写。可核查的写法是:我负责哪一段,输入是什么,产出是什么。比如数据侧可以写“构造并清洗了[实际记录]条长思维链样本,定义了筛选规则”;训练侧可以写“跑通了[实际记录]规模的蒸馏训练,记录了loss与评测变化”;推理侧可以写“对比了不同思考预算下的响应时间与效果取舍”。 延伸阅读:算法工程师简历模板:从菜鸟到专家的完整指南

注意,素材里的 71.0% 到 86.7% 是消息提到的数字,评测基准和口径并未说明,不要直接搬进简历当自己的成果。简历里只放你实际完成的事,数字用[实际记录]占位,面试时再展开。如果只是课程或模拟项目,就明确写成模拟,别包装成生产经历。

面试被问到小模型与长思考,怎么判断团队真实在做哪一段?

素材还回顾了 ollama 把蒸馏小模型当作 deepseek 装到用户电脑上的旧事。这个例子说明:名字一样,实际做的事可能差很远。面试时你可以追问:团队是自研训练、蒸馏复现,还是只做推理部署?小模型是内部产出还是直接拿来用?思考预算由谁决定?

这些问题不是刁难,而是帮你判断岗位日常。如果对方说“我们主要做推理加速”,你却准备了一堆训练细节,匹配度就会打折。反过来,如果团队在做数据构造,你只聊部署,也会显得偏。

一个实际可做的小建议:挑一个你手头的小模型任务,分别写下“数据与训练侧我做了什么”和“推理与预算侧我做了什么”,各写三行。写不出来的那一边,就是你接下来要补或要避开的方向。