返回 ppt-master
03_three_pains.md
1 第一道是性能不稳定,多步推理一叠加,每一步五到十个百分点的抖动累计起来,整体成功率就会断崖式下滑,P95 延迟更是常常翻五到十倍。第二道是成本不可预测,同一个任务在不同上下文长度下,单次 token 消耗能漂移五到五十倍,长尾任务尤其会吞掉预算。第三道是质量难闭环,失败原因是模型问题、提示词问题、还是数据问题往往说不清楚,回归测试也没有,一改 prompt 就提心吊胆。这三道门槛,是绝大多数项目都会先撞上的。
1 lines MARKDOWN