本章用来写《大模型应用开发实战》阅读笔记.

读完本书需回答以下问题

Q1:如何评估我的应用?

要制定一个成功标准,产品做到什么地步算成功?成本可以从三个方面具体衡量:质量指标、延迟指标(包括TTFT(time to first token,首个token响应时间)​、TPOT(time per output token,每个输出token响应时间)和总延迟)、成本指标(花费)

要根据成功标准,制定对应的里程碑计划,并且可能需要动态调整。

随着AI技术迭代,产品还可能面临维护问题,还需随时间推移考虑可能发生的变化。

Q2:能否使用AI来评估AI的输出?

Q3:什么导致出现了幻觉(hallucination)​?

1.大模型把用户的输入的token和自己生成的token混淆了。 2.行为克隆校准失效,标注员的知识与大模型的知识不匹配,模型强行回答导致幻觉。 现实情况往往存在多种因素叠加,并非单一原因。

Q4:如何检测和缓解幻觉问题?

Q5:提示工程(prompt engineering)的最佳实践是什么?

Q6:为什么RAG有效?

Q7:有哪些实施RAG的策略?

Q8:什么是智能体(agent)​?

Q9:如何构建和评估智能体?

Q10:什么时候应该微调(finetune)模型?

Q11:什么时候不应该微调模型?我需要多少数据?

Q12:如何验证数据的质量?

Q13:如何让我的模型更快、更便宜、更安全?

Q14:如何构建反馈循环,不断改进我的应用?