面试问成本,先别急着背“缓存”
消息提到,Anthropic在一份官方指南中表示,许多使用Claude Platform的应用可以通过三项调整在不牺牲性能的情况下削减成本:最大化提示词缓存命中率、移除提示词反模式、根据任务校准投入程度。对准备AI应用开发岗位的人来说,这更像一份面试答题的拆解框架,而不是一句“用缓存”就能带过的口号。
面试官追问“你怎么控制成本”,想听的是你做过哪些具体判断。你可以把回答拆成三层:缓存怎么管、提示词怎么清、投入怎么调。
缓存不是开了就行,命中率才是关键
消息提到,提示词缓存与特定模型绑定,读取必须在整个前缀范围内逐字节完全一致,且有有限的生存时间。这意味着“我用了缓存”和“我管好了缓存命中率”是两回事。
假设一个模拟场景:你的应用把系统提示、工具定义和用户问题拼在一起发给模型。如果每次请求都在系统提示里插入当前时间戳,前缀就变了,缓存直接失效。面试时你可以这样讲:我检查了请求前缀的稳定性,把动态内容移到缓存断点之后,并确认模型版本切换时缓存策略同步调整。
两类做法值得对比:一类是“加缓存就完事”,另一类是“先确认哪些内容值得缓存、断点放在哪、模型换了缓存是否还成立”。后者才是面试官想听的工程判断。读岗位描述时,如果对方写“熟悉LLM成本优化”,你可以进一步确认:团队是否已有缓存命中率的监控口径,还是需要你从零搭建。
反模式和effort校准,是简历里最容易写虚的部分
消息提到,Anthropic在客户支持基准测试中运行prompt-audit后,平均降低了14.6%的成本,并将准确率提升了5.3%。这里的关键不是数字本身,而是“清理反模式”这个动作可以被讲清楚。
所谓反模式,消息中列举了验证两次、做到极致详尽、强制流程脚手架等。假设你的项目里有一段提示词写着“请务必反复检查你的答案”,这可能导致模型重复推理、消耗额外token。面试时你可以说:我识别出提示词里要求模型自我验证两次的指令,在确认任务本身不需要双重校验后将其移除,并对比了移除前后的输出质量。
effort校准则是另一个容易被写虚的点。消息提到,Anthropic称在四个公开基准上运行cost-optimize,成本降低幅度约在52%至73%之间。这个范围来自特定基准测试,不能直接套到你的项目上。面试时更稳妥的讲法是:我根据任务复杂度区分了简单分类和复杂推理的调用策略,简单任务用更低的投入程度,复杂任务保留完整推理,并记录了效果变化。
简历上如果写“优化了LLM调用成本”,面试官追问细节时,你需要能说清:调整了哪个缓存断点、清理了哪条反模式指令、在什么任务上校准了effort,以及你如何判断优化没有牺牲效果。没有量化成果时,可以用“我关注到官方建议的X做法,在我的项目中尝试了Y,观察到的变化是Z”的结构,重点展示判断逻辑,而不是编造数字。 延伸阅读:程序员简历针对性制作指南:告别一稿多投,面试率提升300%
一个实际可做的小建议:打开你最近一个LLM项目,找出请求前缀里所有会变化的内容,确认它们是否真的需要放在缓存断点之前。这个动作本身,就能成为面试里一段具体的回答。








