开篇
这几年一直在用各种模型,各家各厂来回切,API Key 记了一大串,BaseURL 换来换去,用着用着就烦了。
后来一咬牙,自己搞了个后台,接了几个 API。本想着这样自己用着方便,顺便也算是踩上了风口,说不定还能跟着时代机遇搞点钱。
结果呢?
方便是真方便了——自己的后台,想怎么接怎么接,一个 Key 通所有。但搞钱这事嘛……
哈哈,这一路下来,甜的少,苦的辣的酸的都不少。
这篇就说说这两年真实经历的事。
写给:
同行——看看我们是不是哪里做得不合适,欢迎指教
用户——知道你们用的这个服务都经历了什么
观望的——想进这行的,看完再决定要不要进来
一、成本,还有背锅
先说钱。
外面都说卖 Token 躺赚。真做了才知道,你能控制的成本就中间那 1%—2%。剩下的,上游说涨就涨,汇率说变就变,你一点办法没有。
今年下半年,几家国产厂陆续涨价或调整定价策略。Kimi 那边上线不到 48 小时算力就顶不住了,新用户直接暂停。智谱年内已经涨了三轮。就在各家往上走的时候,阿里 8 月底突然甩出来一个 Qwen3.8-Flash,输入 1 块钱/百万 Token,输出 3 块钱——前一天大家还在说“算力成本就这么高”,第二天就被打脸了。
还有 Coding Plan 的抵扣系数,这个最头疼。客户花 ¥119 买 25,000 次,用 GLM-5.2(系数 8)实际只能调 3,125 次。然后客户就来找你了:你们不是写的 25,000 次吗?骗人是吧?
公式就一行:实际次数 = 额度 ÷ 系数。但你跟客户解释,解释到嘴皮子磨破,他还是觉得你在玩文字游戏。
我们能做的就三件事:多接几家上游(国内目前已接入 7 厂 13 款模型,海外主流模型也在持续接入中,一家挂了切另一家)、让客户按场景自己选模型(简单的用便宜的,复杂的用好的)、加缓存层。这些不能解决问题,只能让你从“扛不住”变成“勉强扛得住”。
最憋屈的是上游出问题,锅全是你的。
原厂模型抽风、推理变慢、接口限流——客户不会去找原厂,他只找你。
“你们 API 怎么这么慢?”
“昨天还能用今天怎么报错了?”
你怎么说?说“不是我们的问题,是上游的问题”?说一次人家信,说三次人家觉得你甩锅,说五次人家直接走了。
收了客户的钱,这个锅你就得背。没有“这不是我的错”这个选项。
二、我们是个大容器,无条件接受用户的各种情绪
这些日子见了太多客户的各种模式……
急:“API 用不了了!快点看看!” ——你放下手里一切冲过去查,最后发现是他复制 API Key 的时候多带了个空格。
我们统计过,大概 80% 的工单都是这类问题:Key 错了、模型名拼错了、BaseURL 填错了。都不是你的问题,但你每次都得当真的来处理——对客户来说,用不了就是用不了,他不管是谁的错。
闹:用得不顺心就开始怀疑:你是不是偷偷给我换了便宜模型?你是不是掺水了?你怎么证明没有?你拿监控出来,他说能作假;你拿日志出来,他说你们自己写的。其实技术上根本不可能——计费是按上游返回的 token 数算的,平台掺水对自己没好处。但客户不懂这些,他只觉得“这次输出好像没上次好”。
冤:高峰期排队。平时 1 秒出结果,今天要 5 秒。客户第一反应:你在偷我 Token,故意慢慢消耗让我快点用完。这个逻辑技术上完全说不通,但客户心理上就是这么想的。你还没法解决——上游排队,你能怎么办?只能道歉,临时切线路。
套餐到期了。月底停了服务,客户急匆匆发邮件或者在工单系统委屈地说:你们怎么没提前告诉我?你截图给他看,购买页面明明写着。他说:谁会仔细看那个啊?
你能说什么?只能接住,没脾气。
不过说真的,我还是觉得用户真不错。 说真心话,我自己最开始用模型的时候,遇到延迟也急得跳脚。看到他们急,就像看到以前的自己。背后有业务在跑,有老板在催,有客户在等——那种焦虑是真实的。他们着急有脾气,不是简单说不讲理坏,其实也是无力的咆哮吧。
三、面对这些怎么接啊
先说一个反常识的决定:我们不建客户群。
很多同行喜欢拉群,觉得有社群感。我们讨论过多次,也反思我们曾在的服务群,然后就坚定决定放弃了。因为我们自己曾经经历过:
群里只要有一个人喊一句“API 挂了?”,几十个人都能看到。明明是他自己网络配错了,私聊 1 分钟就能解决的事,在群里就变成了“平台是不是出问题了”的恐慌。不信任这东西,传染特别快。
为了快速反应,我们采用工单,一对一。问题直接到处理人那里,迅速查明使用情况,个人的问题不会变成群体恐慌。工单还有个好处:有记录,能追溯,能复盘。哪些问题出现频率高,我们就提前写文档;哪个上游经常出问题,我们就提前切线路。对内我们有个预警群,一个地方出问题,全平台都能看到,客户还没感觉呢,我们已经调完了。
面对客户的抱怨,我们的原则很简单:不争辩,先响应。
客户说“你们偷 Token”——不跟他吵“我们没有”。
客户说“你们掺水”——不跟他争“你冤枉我们了”。
客户说“我要退款”——不拖,不问,不找理由,当天就走流程。
但不争辩不代表不做事。每个工单一定明确回复,看到回复客户的焦虑能降一半。
查日志、查上游、查链路、切线路、改配置,核余额……找到问题了,立即处理,用户也能马上感知,该补额度补额度。
常常是排查,解决,最后才解释。等问题解决了,情绪也消了,原因是什么反而不重要了。
如果客户最后还是要走,那就退。退得快,说明问心无愧。不拦着,也不说酸话。你去试试别家,试一圈大概率会回来——不是因为你忠诚,是因为你算明白账了。
四、客户留不住,但我们还的坚持自己的路
最后说说最酸的部分:客户留不住。
小客户不赚钱,大客户留不住——这是这行最真实的写照。
小客户算上客服时间,毛利基本是负的。大客户呢?用量上来了,把你绕开去找上游厂家签协议了。
以前也委屈过:我们对客户这么好,为什么还是走?
后来想通了。谁都想用更便宜更好用的东西,这是人的本性,不是背叛。 而且这也不是我们一家的问题——整个 API 聚合行业都在被挤压:厂家官方 API 直接降价、大厂自己做聚合平台、开源模型让客户可以自己部署。客户绕开你,是因为他有更好的选择,不是因为你做得不好。
所以我们不期望客户忠诚。但有一点我信:合理的贵,才有保障。
太便宜的平台,上游一涨价他就跟着涨,或者偷偷降配;客服找不到人,出问题连个活人都没有;说不定过几个月就关停了。我们真遇到过客户,走的时候说“你们太贵了”,去了更便宜的平台,用了之后回来:“还是你们稳。”不是他变忠诚了,是他交了学费。
所以我们不追客户。你不走,我好好服务;你走了,我不怨你;你回来,我欢迎你。
其实我们自己也很纠结,我们怎么坚持我们的服务初心呢?
我们也希望去开发一些垂直行业封装、自有模型,但现在我们能做好目前的服务已经很不易了。
我们只能把已有的服务坚持做下去,否则是对客户不负责;我们也希望我们的努力被用户看到。我们选了一条没人爱走的路。
大厂在卷模型、卷价格、卷生态,看不上这些脏活累活。运营商只接政企大单,散客根本不理。但开发者需要什么?需要一个 Key 能通所有模型,需要出了问题 5 分钟有人响应,需要遇到麻烦能找到活人——这些事,大厂不干,运营商不干。
我们干。
国内 7 厂 13 款模型打底,海外主流模型持续接入——一个 Key,能通的越来越多。工单一对一,快速响应。平时你感觉不到我们的存在,出问题的时候我们比你先发现。
这条路并没有想象那么容易,其实也没有赚大钱。
但我们不想为了赚快钱做那些苟且的事。
不偷偷降配,不在高峰期让你排到怀疑人生,不把客户当韭菜割完一茬换一茬。
大路留给巨头走。我们走自己的小路,慢慢走。
不一定能做成什么独角兽,但至少能做到一件事:用我们的人,觉得这家平台靠谱、实在、找得到人。
我觉得这就够了。
五、说几句心里话
有些事情可能就真是这样啊:
成本永远控不住——接受波动是常态,别老想着“压住上游”,压不住的
客户留不住——能留住人的不是价格,是行业积累和合规资质
“增值服务”大多是自欺欺人——真正有用的是把基础设施做好:稳定的接口、透明的计费、找得到人的客服
大路有三条,但那都是巨头的游戏——小路有无数条,找到属于自己的那条就行
不是劝退,是劝清醒——知道难还愿意扎进去的,才是真有底气
坦诚说,上面说的那些苦——成本波动、背锅、客户的急闹冤、流失——OpenStarry 一个都没躲过去。
我们现在的情况就是:
方向上:干大厂不爱干的事,不挣快钱,不做苟且之事
服务内容 :国内 7 厂 13 款模型已接入,海外模型持续扩展中,多上游兜底
客户上:个人和小团队当引流,中型团队是主营,大客户做战略合作
服务上 优化提升工单一对一,减少服务阻碍
安全保证 双证合规,按规提供发票
OpenStarry 不是什么神奇的解决方案。就是选了一条路,在上面有了点真实积累。
仅此而已。