Logo
← 全部极客知识库

AI 面试 / 150 道 AI 面试题

13. AI产品与成本意识

原文备份 · 第 14 / 22 篇 · 查看极客时间原知识库 ↗

本篇目录 · 6 节

来源：150 道 AI 面试题

应用岗的价值不只是"会调模型"，更是"判断什么场景值得用 AI、怎么控成本"。这是区别于"只会调 API"的分水岭。

141. 怎么估算一个 LLM 应用的成本？

直接答案：成本估算公式：

成本 = token 数 × 单价，具体拆解：

  1. 输入 token：prompt + 上下文（含历史、检索资料）× 输入单价。
  2. 输出 token：生成内容 × 输出单价（输出通常贵数倍）。
  3. 调用次数：每次请求的 token × 请求量。

估算步骤：

  1. 估算单次调用的平均输入/输出 token。
  2. 乘以预期调用量（日/月）。
  3. 加工具调用、重试、多轮对话的额外 token。

知识点讲解：

  • 常见盲区：
    1. 忽略输出 token 更贵（输出单价通常是输入的 3~5 倍）。
    2. 忽略多轮对话的重复输入（每轮重发历史，成本 O(n²) 增长）。
    3. 忽略工具调用的多次模型调用（一次回答可能 N+1 次调用）。
    4. 忽略重试和降级带来的额外成本。
  • 估算要算"总成本"：不只是 API 调用费，还要算缓存、存储、运维、人工审阅成本。
  • 现场估算能力：能现场估"某场景月成本"（如"日均 1 万次调用 × 平均 2k token × 单价"），体现成本意识。
  • 面试加分点：能说出"成本 = 输入 token + 输出 token + 调用次数 + 隐藏开销"的完整拆解。

142. 怎么降低 LLM 应用的成本？有哪些手段？

直接答案：降成本手段从易到难（按投入产出比排序）：

  1. 模型路由：简单任务用便宜小模型，复杂任务才用大模型。
  2. Prompt 缓存：固定前缀缓存，按供应商价格计算缓存命中输入的折扣。
  3. 缩短上下文：摘要历史、精简检索片段，减少输入 token。
  4. Batch API：非实时任务用异步批处理（省约 50%）。
  5. 量化/自部署：高频调用场景，开源模型私有化长期更省。
  6. 缓存结果：确定性场景缓存重复结果。

知识点讲解：

  • 核心：成本优化是系统工程，不是单点——路由 + 缓存 + 上下文管理组合，单独一项效果有限。
  • 最大的成本泄漏：通常是"上下文越滚越大"和"无脑用旗舰模型"——这两项往往占总成本的大头。
  • 先量化再优化：先用可观测数据找到成本大头（是输入 token 还是输出？是哪个模型？），再针对性优化。
  • 优化的代价：路由有误判成本、量化有质量损失、缓存有失效问题，每个手段都有 trade-off。
  • 面试加分点：能按"投入产出比"排序降本手段，并知道先找到成本大头再优化。

143. 什么场景"不该用 LLM"？怎么判断？

直接答案：不是所有问题都该上 LLM。判断标准——"确定性、可解释、便宜"的任务不该用 LLM：

  1. 规则能解决：简单分类、关键词匹配、if-else 逻辑。
  2. 精确计算：算术、统计，用代码。
  3. 精确检索：知道确切 ID/编号的查找，用数据库。
  4. 高频简单任务：LLM 成本不划算。

知识点讲解：

  • 核心：LLM 擅长"理解、生成、归纳、模糊匹配"，不擅长"精确、确定、便宜"——两者边界清晰。
  • LLM 的三大弱点：幻觉（不精确）、随机性（不确定）、成本高（不便宜）——这三条对应的任务都不该用 LLM。
  • 判断框架：问三个问题——"这个问题需要理解/生成能力吗？"、"能接受偶尔出错吗？"、"成本能接受吗？"三者都满足才用 LLM。
  • 反模式："手里有锤子，看什么都像钉子"——为了用 AI 而用 AI，是应用岗最该避免的。
  • 面试加分点：能说出"规则/代码/LLM 的边界"，体现判断力。

144. 模型路由怎样降低成本，如何验证质量没有退化？

直接答案：模型路由能否省钱取决于流量、模型单价、路由错误和重试成本，没有通用的"60%"保证。

做法：

  1. 先用任务集标出不同模型在质量门槛下能完成的范围。
  2. 再训练或制定路由器（分类器/规则）。
  3. 低置信度任务进入更强模型，失败时在预算内升级。

知识点讲解：

  • 验证方法：对照统一强模型的基线，报告成功率、关键切片、P95 延迟和每个成功任务的总费用。
  • 总成本要算全：计算需包括分类器成本、升级成本、重复请求与缓存写入成本。
  • "路由后更贵"的可能：路由后单次更便宜却重试更多，成功任务的平均成本可能反而上升——这是路由最常见的坑。
  • 质量退化的监控：简单任务被错误路由到小模型导致质量下降，要分切片监控，而非只看总成功率。
  • 路由器的选择：简单规则/关键词路由最便宜；复杂场景用训练的小分类器；再复杂才考虑 LLM 当路由器（但路由器本身也花钱）。

145. 怎么判断一个 AI 功能"值不值得做"？（ROI 与场景判断）

直接答案：判断 AI 功能 ROI，问三个问题：

  1. 有没有真实需求：用户是不是真的需要，还是技术驱动硬造需求。
  2. AI 是不是最优解：相比规则/人工，AI 是否真的更省、更好、更快。
  3. 成本能否覆盖：token 成本 + 开发维护成本，是否低于带来的价值。

判断框架：先小成本验证（原型/规则版），确认 PMF 再投入。

知识点讲解：

  • 核心：AI 是手段不是目的，先验证价值再谈技术。
  • ROI 的完整计算：价值 = 节省的人力成本 + 提升的效率 + 新营收；成本 = token + 开发 + 维护 + 人工审阅 + 风险成本。
  • 常见陷阱：为炫技上 Agent、多模态、微调，结果成本高、收益低——复杂度要和价值匹配。
  • 渐进式验证：先用规则版/人工版验证需求，再用简单 AI 方案验证可行性，最后才考虑复杂架构。
  • "负 ROI 的 AI 功能"：很多 AI 功能的价值低于其维护成本，判断力在于敢于说"这个不值得做"。
  • 面试加分点：能理性评估"这个场景值不值得上 AI"，而非一味推崇。

146. 一个 AI 应用从想法到上线，你会怎么推进？

直接答案：完整推进路径（体现产品 + 成本意识）：

  1. 需求与场景判断：确认真实需求、AI 是否最优解、ROI 估算。
  2. MVP 快速验证：用最简单的方案（直接调 API + prompt）先跑通核心场景。
  3. 成本评估：估算 token 成本，确定是否可接受。
  4. 迭代增强：根据反馈逐步加 RAG、Agent、工具等复杂度。
  5. 生产化：加护栏、可观测、评估、成本熔断。

知识点讲解：

  • 核心：从简到繁，先用最简单的方案验证价值，再逐步加复杂度。
  • 反模式：一上来就上 LangGraph + 多 Agent + 微调，过度设计——复杂度和价值不匹配。
  • MVP 的原则：用"直接调 API + prompt"最快验证核心价值，RAG/Agent/微调都是"验证后按需加"。
  • 生产化的门槛：护栏、可观测、评估、成本熔断——这些是"从 Demo 到生产"的必经之路（衔接分类 7、11）。
  • 每一步都有退出点：如果某一步验证发现"不值得做"，敢于停下来，而不是惯性推进。
  • 面试加分点：能说清"先 MVP 验证，再逐步生产化"，并知道复杂度要渐进添加。