自托管部署岗，日常在解决什么

一位开发者把在OpenAI、Anthropic上跑得干净的大提示迁到本地自托管模型，结果提示直接崩溃。他提到，自己的系统上下文窗口是65k token，一个35kb的提示立刻吃掉14%。这个细节比任何岗位描述都更能说明问题：自托管部署的日常，往往不是训练模型，而是在上下文、显存和工具调用稳定性之间做取舍。

面试时别只问“用什么框架”。可以问：团队最近一次因为上下文超限返工是什么场景？提示是整体维护还是拆成单一问题单元？会话历史怎么截断或落盘？如果对方答不出具体例子，说明这个岗位可能更偏装环境，而不是持续调优。

数据留存和合规，怎么问才不空

原文作者选择自托管，理由之一是不信任前沿推理服务商、担心会话被窥探。这个动机在面试里可以转化成几个具体问题：推理服务是团队自托管还是走外部API？会话数据留存多久、谁能看到？有没有审计日志和权限分级？

注意，这些是核查问题，不是对某家公司的断言。不同团队做法差异很大，问清楚比猜更可靠。如果面试官只说“我们很重视安全”，可以追问一个最近的实际操作：比如某次排查问题时，日志里会不会出现用户原始输入。

从通用后端转过来，补什么

可迁移的能力其实不少：上下文预算管理、工具调用编排、日志与状态落盘、权限配置。原文提到需要显式调整ollama上下文长度、让agent把会话状态落盘、熟悉opencode权限，这些都属于工程实践，不必先从模型训练入手。

一个模拟场景：假设你拿到一份岗位描述，写的是“负责大模型私有化部署与调优”。你可以拆成三类方向去核对——偏模型调优的，会问数据准备和评测；偏基础设施运维的，会问显存、并发和监控；偏数据合规的，会问隔离和审计。三类岗位的面试重点完全不同。

最后给一个实际可做的小建议：挑一份你感兴趣的岗位描述，把里面每个动词圈出来，再对照上面三类方向标一下，看它到底偏哪边。这个动作花不了十分钟，但能帮你在投递前少走弯路。