安全探针岗到底做什么:研发探针、做评测还是管合规?
消息提到,SingProbe 是基于 openai/gpt-oss-120b 构建的流式安全护栏,它不单独跑一个安全模型,而是复用基座模型生成时的隐藏状态,对每个 token 的查询意图、回复不安全和幻觉风险打分,解码时间开销低于 0.5%。这类动态容易让人想投 AI 安全方向,但面试前最该确认的不是模型名,而是岗位归属哪一类职责。
三类职责的技能证据完全不同。探针研发偏工程:改打分逻辑、接推理框架、调训练代码,产出是可复现的代码与指标。评测体系偏方法:设计评测集、定义风险口径、分析误报漏报,产出是可解释的评测报告。合规落地偏规则:把外部要求翻译成可执行策略,产出是流程与文档。同一个“AI 安全工程师”标题,可能落在任何一类。
面试时怎么问,才能判断这个岗位是研发还是评测?
不要问“你们做不做安全探针”,而要问具体动作。可以这样问:这个岗位最近半年交付物是什么,是代码合并、评测报告还是合规文档?探针的误报由谁定级、谁负责调?评测集是自建还是复用公开集,更新频率如何?如果回答集中在“配合业务方出结论”,大概率偏评测或合规;如果围绕“改探针、接分支、跑训练”,才偏研发。
素材提到训练代码公开、可通过 SGLang 或 vLLM 集成分支使用,这说明研发侧有可验证的工程产出,但不能据此推断企业一定在招这类岗位,也不能假定探针研发与评测在企业的实际分工。这些正是面试要问清的,而不是靠新闻猜。
想投这个方向,现在该准备什么可验证的技能证据?
围绕流式打分准备一个能讲清的实践:比如模拟一个逐 token 打分的流程,说明你如何定义“不安全”的判定口径、如何处理边界样本。假设场景:面试官让你设计一个评测集,你可以先问清风险类别和可接受的误报率,再决定采样方式——这体现的是评测思维,不是背模型名。
合规方向则准备一个把规则翻译成检查项的例子,用[实际记录]这类占位说明你做过什么,不编造数字成果。三类岗位都值得练,但别默认“掌握工具求职肯定更有优势”,要向目标岗位核实它真正看重什么。
一个实际可做的小建议:投递前把岗位描述里的动词圈出来——“开发”“评测”“制定”分别对应不同职责,面试时用上面的问题逐一核对,再决定把哪段经历放在简历最前面。








