月之暗面:Kimi系统流量持续增高,已采取扩容等应急措施确保API稳定性

微信公众平台运营中心发布《关于规范公众号标题夸大营销的公告》。平台发现部分创作者为了提高阅读量,故意将文章标题的描述混淆为官方通知,用震惊、严肃的词语来夸大紧急

3月21日消息,月之暗面面向开发者发布公告称,自3月20日9:30开始,Kimi的系统流量持续异常增高,导致从3月20日 10:00开始有较多SaaS客户持续的体验到429:engine is overloaded的异常问题。针对这一问题,月之暗面已经采取扩容、设计Saas流量优先级策略等应急措施以保证API的稳定性。

公告全文如下:

月之暗面:Kimi系统流量持续增高,已采取扩容等应急措施确保API稳定性

各位开发者:

从2024.3.20 9:30:00开始,我们观测到Kimi的系统流量持续异常增高,流量增加的趋势远超我们对资源的预期规划。这导致了从2024.3.20 10:00:00开始,有较多的SaaS客户持续的体验到429:engine is overloaded的异常问题,对此我们深表抱歉。

做为一家以技术为导向的公司,我们非常理解一个API的稳定性是能否投入实际生产的最关键因素之一,已经有多项应急措施正在实施,包括不限于:

从3.20观测到流量异常增高后,已经进行了5次扩容工作。推理资源会持续配合流量进行扩容,以尽量承载持续增长的用户量;

设计了一套更有效的Saas流量优先级策略,以保障付费用户的调用稳定,预计3.25之前完成并上线。

在应急措施实施完毕之前,可能还会遇到少量资源不足的问题,感谢大家的包容与耐心,再次为影响到大家的正常业务使用道歉Orz

关键词:流量持续异常