龙盟编程博客 | 无障碍搜索 | 云盘搜索神器
快速搜索
主页 > 数据库类 > MySQL 技术 >

MySQL性能优化教程一(1)(2)

时间:2011-04-12 23:18来源:未知 作者:admin 点击:
分享到:
理解执行状态 1.常见分析手段 ● 慢查询日志,关注重点如下 ■ 是否锁定,及锁定时间 ◆ 如存在锁定,则该慢查询通常是因锁定因素导致,本身无需优化

理解执行状态

1.常见分析手段

●  慢查询日志,关注重点如下

■ 是否锁定,及锁定时间

◆ 如存在锁定,则该慢查询通常是因锁定因素导致,本身无需优化,需解决锁定问题。

■ 影响结果集

◆ 如影响结果集较大,显然是索引项命中存在问题,需要认真对待。

●  Explain 操作

■  索引项使用

◆ 不建议用using index做强制索引,如未如预期使用索引,建议重新斟酌表结构和索引设置。

■  影响结果集

◆ 这里显示的数字不一定准确,结合之前提到对数据索引的理解来看,还记得嘛?就把索引当作有序序列来理解,反思SQL。

●  Set profiling , show profiles for query操作

■  执行开销

◆ 注意,有问题的SQL如果重复执行,可能在缓存里,这时要注意避免缓存影响。通过这里可以看到。

◆ 执行时间超过0.005秒的频繁操作SQL建议都分析一下。

◆ 深入理解数据库执行的过程和开销的分布

●  Show processlist

■  状态清单

◆ Sleep 状态, 通常代表资源未释放,如果是通过连接池,sleep状态应该恒定在一定数量范围内

♦  实战范例: 因前端数据输出时(特别是输出到用户终端)未及时关闭数据库连接,导致因网络连接速度产生大量sleep连接,在网速出现异常时,数据库 too many connections 挂死。

♦  简单解读,数据查询和执行通常只需要不到0.01秒,而网络输出通常需要1秒左右甚至更长,原本数据连接在0.01秒即可释放,但是因为前端程序未执行close操作,直接输出结果,那么在结果未展现在用户桌面前,该数据库连接一直维持在sleep状态!

◆ Waiting for net, reading from net, writing to net

♦  偶尔出现无妨

♦  如大量出现,迅速检查数据库到前端的网络连接状态和流量

♦  案例: 因外挂程序,内网数据库大量读取,内网使用的百兆交换迅速爆满,导致大量连接阻塞在waiting for net,数据库连接过多崩溃

◆ Locked状态

♦  有更新操作锁定

♦  通常使用innodb可以很好的减少locked状态的产生,但是切记,更新操作要正确使用索引,即便是低频次更新操作也不能疏忽。如上影响结果集范例所示。

♦  在myisam的时代,locked是很多高并发应用的噩梦。所以mysql官方也开始倾向于推荐innodb。

◆ Copy to tmp table

♦  索引及现有结构无法涵盖查询条件,才会建立一个临时表来满足查询要求,产生巨大的恐怖的i/o压力。

♦  很可怕的搜索语句会导致这样的情况,如果是数据分析,或者半夜的周期数据清理任务,偶尔出现,可以允许。频繁出现务必优化之。

♦  Copy to tmp table 通常与连表查询有关,建议逐渐习惯不使用连表查询。

♦  实战范例:

某社区数据库阻塞,求救,经查,其服务器存在多个数据库应用和网站,其中一个不常用的小网站数据库产生了一个恐怖的copy to tmp table 操作,导致整个硬盘i/o和cpu压力超载。Kill掉该操作一切恢复。

◆ Sending data

♦  Sending data 并不是发送数据,别被这个名字所欺骗,这是从物理磁盘获取数据的进程,如果你的影响结果集较多,那么就需要从不同的磁盘碎片去抽取数据,

♦  偶尔出现该状态连接无碍。

♦  回到上面影响结果集的问题,一般而言,如果sending data连接过多,通常是某查询的影响结果集过大,也就是查询的索引项不够优化。

♦  如果出现大量相似的SQL语句出现在show proesslist列表中,并且都处于sending data状态,优化查询索引,记住用影响结果集的思路去思考。

◆ Freeing items

♦  理论上这玩意不会出现很多。偶尔出现无碍

♦  如果大量出现,内存,硬盘可能已经出现问题。比如硬盘满或损坏。

◆ Sorting for …

♦  和Sending data类似,结果集过大,排序条件没有索引化,需要在内存里排序,甚至需要创建临时结构排序。

◆ 其他

♦  还有很多状态,遇到了,去查查资料。基本上我们遇到其他状态的阻塞较少,所以不关心。

2.分析流程

●  基本流程

■  详细了解问题状况

◆  Too many connections 是常见表象,有很多种原因。

◆  索引损坏的情况在innodb情况下很少出现。

◆  如出现其他情况应追溯日志和错误信息。

■  了解基本负载状况和运营状况

◆  基本运营状况

♦  当前每秒读请求

♦  当前每秒写请求

♦  当前在线用户

♦  当前数据容量

◆  基本负载情况

♦  学会使用这些指令

 Top

 Vmstat

 uptime

 iostat

 df

♦  Cpu负载构成

 特别关注i/o压力( wa%)

 多核负载分配

♦  内存占用

 Swap分区是否被侵占

 如Swap分区被侵占,物理内存是否较多空闲

♦  磁盘状态

 硬盘满和inode节点满的情况要迅速定位和迅速处理

■  了解具体连接状况

◆  当前连接数

♦  Netstat –an|grep 3306|wc –l

♦  Show processlist

◆  当前连接分布 show processlist

♦  前端应用请求数据库不要使用root帐号!

 Root帐号比其他普通帐号多一个连接数许可。

 前端使用普通帐号,在too many connections的时候root帐号仍可以登录数据库查询 show processlist!

 记住,前端应用程序不要设置一个不叫root的root帐号来糊弄!非root账户是骨子里的,而不是名义上的。

♦  状态分布

 不同状态代表不同的问题,有不同的优化目标。

 参见如上范例。

 雷同SQL的分布

 是否较多雷同SQL出现在同一状态

◆  当前是否有较多慢查询日志

♦  是否锁定

♦  影响结果集

■  频繁度分析

◆  写频繁度

♦  如果i/o压力高,优先分析写入频繁度

♦  Mysqlbinlog 输出最新binlog文件,编写脚本拆分

♦  最多写入的数据表是哪个

♦  最多写入的数据SQL是什么

♦  是否存在基于同一主键的数据内容高频重复写入?

 涉及架构优化部分,参见架构优化-缓存异步更新

◆  读取频繁度

♦  如果cpu资源较高,而i/o压力不高,优先分析读取频繁度

♦  程序中在封装的db类增加抽样日志即可,抽样比例酌情考虑,以不显著影响系统负载压力为底线。

♦  最多读取的数据表是哪个

♦  最多读取的数据SQL是什么

 该SQL进行explain 和set profiling判定

 注意判定时需要避免query cache影响

比如,在这个SQL末尾增加一个条件子句 and 1=1 就可以避免从query cache中获取数据,而得到真实的执行状态分析。

♦  是否存在同一个查询短期内频繁出现的情况

 涉及前端缓存优化

■  抓大放小,解决显著问题

◆  不苛求解决所有优化问题,但是应以保证线上服务稳定可靠为目标。

◆  解决与评估要同时进行,新的策略或解决方案务必经过评估后上线。

3.总结

●  要学会怎样分析问题,而不是单纯拍脑袋优化

■  慢查询只是最基础的东西,要学会优化0.01秒的查询请求。

●  当发生连接阻塞时,不同状态的阻塞有不同的原因,要找到原因,如果不对症下药,就会南辕北辙

■  范例:如果本身系统内存已经超载,已经使用到了swap,而还在考虑加大缓存来优化查询,那就是自寻死路了。

●  监测与跟踪要经常做,而不是出问题才做

■  读取频繁度抽样监测

◆  全监测不要搞,i/o吓死人。

◆  按照一个抽样比例抽样即可。

◆  针对抽样中发现的问题,可以按照特定SQL在特定时间内监测一段全查询记录,但仍要考虑i/o影响。

■  写入频繁度监测

◆  基于binlog解开即可,可定时或不定时分析。

■  微慢查询抽样监测

◆  高并发情况下,查询请求时间超过0.01秒甚至0.005秒的,建议酌情抽样记录。

■  连接数预警监测

◆  连接数超过特定阈值的情况下,虽然数据库没有崩溃,建议记录相关连接状态。

●  学会通过数据和监控发现问题,分析问题,而后解决问题顺理成章。特别是要学会在日常监控中发现隐患,而不是问题爆发了才去处理和解决。
 


精彩图集

赞助商链接