CODE, ARCHITECTURE & AI

稳定性.

4 篇记录保持好奇,慢慢积累

1:29:300!这个「魔鬼定律」正在预告你的下一次线上故障

无论是深夜被夺命连环 call,还是眼睁睁看着用户反馈铺天盖地而来,那种感觉,相信大家或多或少都体验过。 当我们不幸经历了一次「刻骨铭心」的线上故障。痛定思痛,除了常规的复盘,我们也许要从一个更系统、更底层的视角,和团队的同学一起探讨: 故障,究竟为何而来?我们又该如何防微杜渐? 今天,我们聊下安全管理领域的「老法师」—— 海恩法则(Heinrich's L…
继续阅读 ↗

稳住!AIGC 架构中的排队系统与限流策略

我们见过那么多 AIGC 的酷炫功能,文生图、图生视频,……,是不是觉得 AI 特别强大?但你想过没,当成千上万的用户同时涌进来,都想让 AI 帮他们画画、写诗、做视频时,后台那些强大的模型和昂贵的计算资源(比如 GPU)会发生什么? 如果不加管理,它们很可能瞬间就被「挤爆」了!服务器宕机、用户请求失败、体验直线下降,甚至可能因为资源滥用导致 成本失控 。就…
继续阅读 ↗

关于复杂系统的思考:从语雀服务中断想到的

在 10 月 23 日,语雀服务出现了一次重大故障,中断时间超过 7 小时。 具体来说,这次故障的起因是在执行系统升级操作期间,新的运维升级工具出现了 bug,导致华东地区生产环境的存储服务器被误下线。由于存储系统使用的机器类别过于陈旧,无法直接将其上线,这导致了恢复过程时间延长。尽管语雀的工程师们立刻进行了恢复工作,但由于数据量大,恢复方案有限,恢复过程耗…
继续阅读 ↗

研发管理之生产环境的变更管理

2017 年,Amazon S3 服务在美国东部区域发生了大规模的故障,影响了许多依赖于 S3 的服务和应用。这次故障的根本原因是维护人员在执行一个操作时,错误地将更多的服务器脱机,这超过了系统设计的冗余容量,导致了该区域S3的部分子系统开始备份,进一步扩大了故障的影响。 2018 年 10 月 31 日 GitHub 通过官方博客发布了 2018 年 10…
继续阅读 ↗