TA的每日心情 衰 2021-2-2 11:21
签到天数: 36 天
[LV.5]常住居民I
在Zen And The Art Of Scaling - A Koan And Epigram Approach中,Russell Sullivan提出了一个非常有趣的总结:软件开发常见的20个传统的系统瓶颈,这听起来像是说有20个故事情节,并且依赖于你如何策划这些故事,或许都是真的,但唯有实践才知道它们带给我们的酸甜苦辣。
. X0 r" y- f( m( d 6 {# v7 J% o6 e1 W! @( [% F
有一天,Aurelien Broszniowski给我发了一份电子邮件,把这些瓶颈用列表的方式展示出来。在接下来的交谈过程中,我又把该列表抄送给了Russell,Russell对此列表进行了整理。
$ x W. u9 t1 _; W 6 R! p2 i; g2 u4 T3 j3 _8 P
6 y5 Y* T3 ]2 |, p + U# i' \7 ?. G5 h' H: e
. d8 R2 Q% q" W7 Y# D7 L6 |% {; V
Russell说:“我真希望在年轻时看到这样的一份列表”。伴随着经验的增长、项目的增多、解决各种不同类型的问题和不断总结各种经验教训,你会在这份列表上添加更多的东西。所以,当你在阅读该份列表时就像是在回顾一个个故事片段。
8 U3 h* E6 L9 d0 H
, K$ f) `3 y, l- ] e1 O 数据库
8 x" @! Z0 {& c# j- j , ]( ]- U: P i3 q% v& B
工作任务内存超过可用的RAM内存
* S/ A Z8 v/ P3 o0 _1 y2 @! I% a 长/短查询
* E Z1 ]( p" a3 l8 o 写入冲突 b8 ` {8 N$ `# _5 Z+ M( e0 r
大连接(join)占用内存
: c% ?/ G" P3 P- ?# G6 M, } 虚拟化
$ G0 M# P1 S: H- o k0 D1 F- d1 Q. j" X9 h1 B" g
共享一个HDD、磁盘寻死(disk seek death)
1 _+ C/ b o/ g$ O$ a9 e 在云端网络 I/O波动1 I) v7 ^$ {+ M; m% }; B
编程
% }1 I6 G% u; Q! W0 Q" X; w
$ a0 s9 ]6 r+ E4 W% l8 Z 线程:死锁、调试、非线性扩展等/ \' R5 I# A8 h1 v, }
事件驱动编程:callback()过于复杂、如何在函数调用中存储有状态等
8 y7 c% u9 L! G% [ 缺乏调优、跟踪、日志等
# b* a. M1 u$ Z 单模块不可扩展、单点故障(SPOF:Single Point Of Failure)、非横向扩展等0 i+ d! z" _; P- z/ ?# J+ x
有状态应用程序+ J; u# ~5 S! X; s+ T+ O
设计问题:开发的应用程序只在自己的机器行运行正常,或者只是在几个人测试的时候正常(没有经历压力测试)。6 A- a& v- x7 n0 ]- v, j: m
算法过于复杂4 X$ Z, L' P' j' G9 G# o
相关服务,例如DNS查找以及其他可能屏蔽的服务3 j6 D( I# z9 a
堆栈空间
4 C8 E9 q; [2 ?. U) t 磁盘
* B" I* N8 |6 g1 v6 ^ - }# ]- s5 A- l ]) O4 @2 t) Y
访问本地磁盘9 h$ X( I6 g, C1 H% ^) s
随机访问磁盘I/O7 U' E8 i3 U: _- V2 Q
磁盘碎片! Q f; r Z" R: N$ x
当SSD写入的数据大于SSD容量时,性能会下降
+ l- [1 U! _% e8 X1 O: C# q3 C. J OS
& Q$ h6 d$ R2 n" Q* o! x9 E& W
& T% {6 N; u. p$ W- u' V Fsync饱和,Linux缓冲区填塞(Fsync flushing, linux buffer cache filling up)
+ O9 l. d( O/ q6 | d TCP缓冲区太小
) M: [; w0 v0 I7 S: H+ ~& v* ? 文件描述符限制. `6 t. T/ y, ~: l
功率分配(Power budget)2 k4 [# ^& l) n2 F( W; @4 J
缓存
1 P" [% X! F# T( c 7 p4 @2 u6 t! n1 O1 \! j
没使用memcached(数据库崩溃)
9 v9 A! k+ `7 ]/ s$ a) P HTTP中:headers、etags、没有使用gzip压缩等。
) P+ ~. u& [, O% _* N+ y6 e y4 r* {/ \ 没有充分利用浏览器缓存
/ _; A9 @6 }( ^1 L, M( j' J# L- D 字节码缓存(如PHP)
; P Z& ^* c4 r6 w; c3 V( S6 U. f L1/L2缓存:这是个令人头疼的大瓶颈。把关键并且经常访问的数据存储在L1/L2中。这涉及到很多:snappy网络I/O,列数据库直接在压缩数据上运行算法等。利用一些技术不销毁你的TLB。最重要的思想是紧紧的抓住计算机的体系结构,涉及多核CPU,L1/L2,共享的L3,NUMA RAM,从DRAM到芯片数据传输带宽/延迟,DRAM缓存的DiskPages,DirtyPages,流经CPU<->DRAM<->NIC的TCP包。, f2 U7 e" b) n) I B8 a. C5 [" W
CPU7 c- Q4 V% R1 x0 T3 N$ m
0 Y9 b' N5 q( a6 g; m* o
CPU过载! M7 Y/ s8 ]) @2 u' J8 x! `9 w' t
内容切换—>单核上开启的线程过多、Linux调度器、系统调用太多等2 D) ?2 R- X9 J( L6 m( C9 l9 J
IO等待—>所有的CPU在同速等待5 I5 g: u) m# i0 y4 }% B7 z: |8 s- B
CPU缓存:缓存数据是一个细粒度进程,为了在多个实例与不同的值数据之间找到正确的平衡,来保持缓存数据的一致性和繁重同步。
^8 `8 Z# A9 i5 V8 y4 m 底板吞吐量(Backplane throughput)6 b7 H) J4 }& E
网络
5 Q: f) L; F. d* Z! d6 { Z
8 K( Q. m, ^) |4 s c+ L NIC刷爆、IRQ饱和、软中断占用掉了100%CPU
, A/ r/ K- y" G) t: ] DNS查询 a% S, J/ j' u7 H0 v+ K
数据包丢失& G; g C! ~, [% D
网络中存在预期外的路由6 E: h0 H. W% V' w. M
访问网络磁盘( L; D U# I* K/ E N' v) g
共享SAN$ {. N3 R2 p1 S1 }
服务器故障—>无法从服务处得到响应
. H# J% }+ y5 p5 _ 进程
8 K' P5 C4 ~' T/ _2 _# ?" d' Z 8 z. |. o# X0 a: u
测试时间8 e! W0 m( k% b0 x; ~
开发时间
3 |& u: v- K- D. o 团队规模8 B) u1 t1 M3 Y3 y" X; |. s
预算
E5 Z3 ^" b1 ]& b+ o* C7 J! | 代码债务; [4 L! I1 M! |: X; ^; y% f: k
内存+ U( {$ c1 H: k% e p6 b! Y& T
0 E. F; Q' O. V
内存不足—>杀死进程,切换到swap,挂起: V2 w5 o9 S% ?) O
内存不足导致磁盘交换(与swap相关)
2 ]$ Y1 s6 w. s 记忆库开销过大(Memory library overhead)
$ U4 e' W0 T3 L; p7 {& \( n 内存分片(在java 中需要会因为内存回收而停顿;在C中,malloc总是开始分配内存)- g9 G* E$ r# e, P
4 o2 s, Q7 z( D% |" p 原文:http://highscalability.com/blog/ ... on-bottlenecks.html - W0 D4 N2 _' W3 V' k8 l
* g, T8 ]( E, _; N: D
科帮网 1、本主题所有言论和图片纯属会员个人意见,与本社区立场无关2、本站所有主题由该帖子作者发表,该帖子作者与科帮网 享有帖子相关版权3、其他单位或个人使用、转载或引用本文时必须同时征得该帖子作者和科帮网 的同意4、帖子作者须承担一切因本文发表而直接或间接导致的民事或刑事法律责任5、本帖部分内容转载自其它媒体,但并不代表本站赞同其观点和对其真实性负责6、如本帖侵犯到任何版权问题,请立即告知本站,本站将及时予与删除并致以最深的歉意7、科帮网 管理员和版主有权不事先通知发贴者而删除本文
JAVA爱好者①群:
JAVA爱好者②群:
JAVA爱好者③ :