LLM 应用开发基础
不盲从框架封装。12 项核心能力：LLM API、SSE、Structured Output、Tool Registry、Model Router、Usage/Quota/Cost、安全与 Docker。不含 RAG/Agent/MCP。
学习进度
— / 12节
AI 应用核心引擎（codehub-llm-core）
从 LLM API 到 Tool Calling：SSE 流式、Structured Output、Tool Registry、Model Router、Usage/Quota/Cost、Docker 交付。
- 基于 SSE 多事件协议（message/usage/error/done）实现流式对话，ReadableStream 消费并展示单次 Token 与估算成本。
- 设计 Structured Output 三层保障（Provider Schema + Pydantic + Repair），保证结构化提取字段级可校验。
- 实现 Tool Registry 工具链路与 Model Router 动态选模，配合 Quota Guard 控制日 Token 上限。
面试官可能问什么？（高频真题直击）
针对本工程的核心考核点，提前演练答题框架与技术细节。
Q1为什么在大模型场景使用 SSE 而不是等待完整 JSON 响应？
答题思路：SSE 基于 HTTP 单向推流，首 token 延迟低、连接保活、网关友好；Chat 场景不需要 WebSocket 双向能力。
Q2Function Calling 中工具是谁执行的？完整流程是什么？
答题思路：后端 Tool Registry 执行；LLM 只返回 tool_calls → Registry.validate → execute → role=tool 回灌 → LLM 生成最终回复。
Q3Model Router 解决什么问题？
答题思路：按任务复杂度、消息长度、用户等级在 cheap/smart 模型间路由，平衡质量与 API 成本。
Q4Token 如何统计？Quota 和 Cost Estimator 有什么区别？
答题思路：Usage Meter 记录 input/output tokens；Quota 是业务日限额；Cost Estimator 按模型单价换算本次/累计费用。
Q5Structured Output 如何保证数据可靠？
答题思路：三层：Provider json_schema 约束生成 + Pydantic 应用层校验 + Repair 重试；模型输出不等于可靠结构化数据。