AI安全治理岗到底分几类工作?

Sam Altman近日发文提到,pacing不等于stopping,进展迅速但应比原本更慢,安全案例和监控成本值得付出;OpenAI已在预期显著提升能力的前沿强化学习运行前制定明确安全案例,并欢迎联邦框架与国际协调。消息提到这些表述,不等于岗位一定扩招,但给求职者一个提示:安全治理不是一种工作,而是至少三类。

第一类是安全案例撰写。它要把“为什么这次运行是安全的”写成可被内部或外部审阅的文档,通常需要理解模型训练与评估的基本概念。第二类是内部流程与监控,把安全要求变成可执行的检查点、审批流和日志,关注的是流程是否真的跑起来。第三类是外部政策与协调,对接监管讨论、行业标准与跨机构沟通,产出多为政策分析、意见反馈和协调材料。三类岗位的面试官、日常产出和考核方式都不同,投递前先确认岗位落在哪一类。

面试时怎么问清岗位的实际工作边界?

读岗位描述时,别只看“AI安全”“治理”这些词。可以问:这个岗位过去半年最主要的产出是什么,是文档、流程还是对外沟通?安全案例由谁主笔,是安全团队、法务还是工程团队?监控指标由谁定义、异常由谁跟进?如果岗位描述强调“跨部门协调”“政策跟踪”,大概率偏外部政策与协调;如果强调“评估报告”“风险分析”,可能更接近安全案例撰写。

模拟一个假设场景:同一场前沿模型发布评审,安全案例岗要写清风险假设与缓解措施,流程监控岗要确认审批节点是否走完,政策协调岗要准备对外沟通口径。三种做法对应三种能力,面试时问清哪一项占日常工作量的大头,比问“团队氛围”更有用。

没有AI技术背景,能投哪一类?

法律合规、政策研究背景的读者,可以优先看外部政策与协调、内部流程监控两类。前者看重对监管文本的理解、沟通与写作;后者看重流程梳理、合规意识和跨团队推动。安全案例撰写可能更依赖对模型训练与评估的技术理解,但不代表完全不能投,可以先从辅助撰写、合规审查切入,再向目标岗位核实需要补哪些基础。

一个实际可做的小建议:挑三份你感兴趣的AI安全治理岗位描述,把职责逐条归入上面三类,看哪一类出现频率最高,再针对那一类准备一个你过去做过的流程梳理或政策分析例子。