「API工程 实践」分类下共 4 篇文章。
AI API调用成本优化教程。各种场景配置速查,适合AI应用开发者降低大模型接口费用。
不同模型价格差几十倍,按任务选模型、级联路由、语义缓存三种方式能把AI接口成本压到原来的三分之一。
单模型总有波动的时候——上游维护、高峰拥堵、临时故障。这篇讲怎么配置备用模型实现自动Failover,以及出问题时怎么快速排查网络。核心就一件事:用户不应该感知到模型挂了。
API接口工程实践,为使用者提供超时和重试的实践