驱动之家 04-15
腾讯云突发故障 87分钟波及1957个客户!官方公开内幕
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

4 月 8 日下午,腾讯云突然发生服务故障,表现为接口响应报错、内部服务错误、网页显示 504 错误等。

504 错误代表的是网关超时 ( Gateway timeout ) ,也就是服务器作为网关或代理没有及时从上游服务器收到请求。

当天傍晚,腾讯云回复称,官网控制台相关服务出现异常,正在紧急修复,部分地区已恢复,其他地区也正在继续抢修中。

现在,腾讯云官方公布了对此次故障的复盘及情况说明。

根据腾讯云的说法,4 月 8 日 15 点 23 分,腾讯云团队收到告警信息,云 API 服务处于异常状态,随即在腾讯云工单、售后服务群、微博等渠道开始大量出现腾讯云控制台登录不上的客户反馈。

经过故障定位发现,客户登录不上控制台正是云 API 异常所导致。

云 API 是云上统一的开放接口集合,客户可以通过 API 以编程方式管理和操控云端资源,云控制台通过组合云 API 提供交互式的网页功能。

故障发生后,依赖云 API 提供产品能力的部分公有云服务,也因为云 API 的异常出现了无法使用的情况,比如云函数、文字识别、微服务平台、音频内容安全、验证码等。

此次故障一共持续了近 87 分钟,期间共有 1957 个客户报障。

从客户的视角来看,云服务大概可以分为数据面和控制面,其中数据面承载客户自身的业务,控制面负责操作云上不同产品。

此次发生故障的控制台和云 API,是对控制面的影响。

通俗来讲,如果把云服务类比为酒店,控制台相当于酒店的前台,一旦发生故障就会导致入住、续住等管理能力不可用,但已入住的客房不受影响。

这次故障中,客户已经配置好的服务器等 IaaS 资源,包括已经部署运行的业务,没有受到云 API 异常的影响。其他以非云 API 方式提供服务的 PaaS、SaaS 服务,也都正常服务。

4 月 8 日当天腾讯云全产品进出流量趋势图,可以看到不受影响

但是,使用 API 提供的服务类产品受到不同程度的影响,比如腾讯云存储服务调用当天有明显下滑。

4 月 8 日当天腾讯云存储服务调用数据趋势图,可以看到存储服务调用有一个明显的波动

本次故障处理过程如下:

15:23,监测到故障,立即执行服务的恢复,同时进行原因的排查;

15:47,发现通过回滚版本没能完全恢复服务,进一步定位问题;

15:57,定位出故障根因是配置数据出现错误,紧急设计数据修复方案;

16:02,对全地域进行数据修复工作,API 服务逐地域恢复中;

16:05,观测到除上海外的地域 API 服务均已恢复,进一步定位上海地域的恢复问题;

16:25,定位到上海的技术组件存在 API 循环依赖问题,决定通过流量调度至其他地域来恢复;

16:45,观测到上海地域恢复了,此时 API 和依赖 API 的 PaaS 服务彻底恢复,但控制台流量剧增,按九倍容量进行了扩容;

16:50,请求量逐渐恢复到正常水平,业务稳定运行,控制台服务全部恢复;

17:45,持续观察一小时,未发现问题,按预案处理过程完毕。

腾讯云表示,故障的原因是云 API 服务新版本向前兼容性考虑不够,以及配置数据灰度机制不足。

本次 API 升级过程中,由于新版本的接口协议发生了变化,在后台发布新版本之后,对于旧版本前端传来的数据处理逻辑异常,导致生成了一条错误的配置数据,而灰度机制不足导致异常数据快速扩散到了全网地域,造成整体 API 使用异常。

发生故障后,按照标准回滚方案将服务后台和配置数据同时回滚到旧版本,并重启 API 后台服务,但此时因为承载 API 服务的容器平台也依赖 API 服务才能提供调度能力,即发生了循环依赖,导致服务无法自动拉起。

通过运维手工启动方式才使 API 服务重启,完成整个故障恢复。

近年来,国内各家云服务多次发生故障:

2024 年 4 月 9 日支付宝崩溃,2023 年 12 月 3 日腾讯视频崩溃,2023 年 11 月 27 日滴滴崩溃,2023 年 11 月 12 日阿里云和阿里系服务集体崩溃,2023 年 3 月 5 日 B 站崩溃……

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

智慧云

智慧云

ZAKER旗下新媒体协同创作平台

相关标签

腾讯云 云服务 微服务 上海 saas
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论