安全岗写“探针”,到底偏研发还是偏评测?

消息提到,SingProbe 是构建在 Qwen/Qwen3.6-27B 之上的内嵌式流式安全护栏,它不单独跑一个安全模型,而是复用基座模型生成时的隐状态,对每个 token 的查询意图、回复不安全性、幻觉风险打分,并称解码时间开销低于 0.5%。对求职者来说,这类描述最容易让人误判岗位重心:名字里有“安全”,但实际可能是训练探针、搭评测集,或写合规流程。

判断的第一把尺子是交付物。交付模型结构或训练代码,偏研发;交付评测集、指标口径和对比报告,偏评测;交付策略文档、审核流程和跨部门对齐材料,偏合规。三者常在同一团队里混编,但招聘时通常有一个主重心。读岗位描述时,先找“你产出什么”而不是“你研究什么”。

面试时怎么问清团队的实际职责边界?

泛问“你们做什么方向”,得到的往往是团队介绍。更有效的是问具体迭代:你们最近一次安全迭代的输入和输出分别是什么?输入是模型版本、探针检查点,还是业务日志?输出是上线开关、评测报告,还是一份策略建议?

素材提到,探针需与指定基座模型配对使用,并通过 SGLang 或 vLLM 集成分支支持。这说明相关工作与模型迭代强耦合。你可以追问:基座模型升级时,谁负责重新验证探针?如果答案是评测同学,那这个岗位的评测属性就更重;如果答案是训练同学,研发属性更明显。

注意,模拟面试不是断言面试官一定会问,而是帮你准备提问。你也可以问团队归属:汇报线在算法、安全工程还是合规?这直接决定你的日常协作对象和考核方式。

想转安全评测,先补哪类可迁移能力?

如果你从数据或算法转过来,优先补评测设计与指标解读,而不是先追某个具体探针实现。素材强调逐 token 评分和多类风险指标,这背后是“怎么定义不安全”“怎么采样”“怎么解释分数波动”的评测问题。

一个可做的小建议:找一份你熟悉的安全类岗位描述,把职责拆成“训练/评测/合规”三栏,标出哪些句子指向哪一栏,再针对最模糊的一条准备一个面试提问。这样你在投递前就能判断,这个岗位是不是你想做的方向。