月之暗面发布SaaS客户体验异常情况说明:Kimi流量增加远超预期

资讯3个月前更新 AIGC学院
40 0

腾讯科技讯(郭晓静)3月21日,月之暗面科技有限公司(Moonshot AI)发布官方说明:其人工智能对话产品Kimi自3月20日以来遭遇了流量激增,远超预期,导致系统超负荷运行。

这一异常流量的增加导致了较多SaaS客户体验到了服务中断,主要表现为收到429错误代码,即“engine is overloaded”。对此,月之暗面科技有限公司表示了诚挚的歉意,并强调了API稳定性对于其客户的重要性。为了应对这一突发状况,月之暗面科技有限公司的技术团队迅速采取了行动,自流量异常以来已经进行了五次系统扩容。

以下为说明全文:

各位开发者:

从 2024.3.20 9:30:00开始,我们观测到 Kimi 的系统流量持续异常增高,流量增加的趋势远超我们对资源的预期规划。

这导致了从 2024.3.20 10:00:00开始,有较多的SaaS 客户持续的体验到 429:engine is overloaded的异常问题,对此我们深表抱歉。

做为一家以技术为导向的公司,我们非常理解一个API 的稳定性是能否投入实际生产的最关键因素之一,已经有多项应急措施正在实施,包括不限于:

-从3.20 观测到流量异常增高后,已经进行了5次扩容工作。推理资源会持续配合流量进行扩容,以尽量承载持续增长的用户量

-设计了一套更有效的 Saas 流量优先级策略,以保障付费用户的调用稳定,预计3.25之前完成并上线

在应急措施实施完毕之前,可能还会遇到少量资源不足的问题,感谢大家的包容与耐心,再次为影响到大家的正常业务使用道歉 Orz

月之暗面发布SaaS客户体验异常情况说明:Kimi流量增加远超预期

(来源:AI未来指北)

© 版权声明

相关文章

暂无评论

暂无评论...