MySQL DBA 修炼之道_数据库教程

作者简介：
陈晓勇，70后，湖南人，擅长Oracle、MySQL数据库运维、诊断和性能调优。早期曾在某大型央企从事技术工作，参与多个系统的研发工作，04年后转向数据库领域，后在某世界500强大型工厂任专职Oracle　DBA，负责核心生产库的运维，08年离开传统行业，加入移动互联网公司优视科技，主要从事MySQL的维护管理工作。从业至今，一直在一线生产，积累了丰富的系统架构、操作系统、存储、数据库产品经验，目前主要关注系统架构和MySQL数据库管理。

资源目录：
推荐序
前言
第一部分 入门篇
第1章 理解MySQL 2
1.1 MySQL介绍 2
1.1.1 应用领域和适用场景 2
1.1.2 为什么那么多公司和机构选择使用MySQL 3
1.1.3 MySQL的优势是什么，它解决了什么问题 3
1.2 MySQL的基础架构和版本 4
1.2.1 软件架构中数据库的定位 4
1.2.2 MySQL的基础架构 5
1.2.3 MySQL的版本及特性 6
1.2.4 MySQL的开发周期 8
1.3 查询执行过程概述 9
1.4 MySQL权限 10
1.4.1 MySQL权限机制 10
1.4.2 赋予权限和回收权限 10
1.5 长连接、短连接、连接池 10
1.5.1 短连接 10
1.5.2 长连接 11
1.5.3 连接池 12
1.5.4 持久连接和连接池的区别 12
1.6 存储引擎简介 12
1.6.1 InnoDB引擎 12
1.6.2 MyISAM引擎 13
1.6.3 MEMORY存储引擎 13
1.6.4 ARCHIVE存储引擎 14
1.6.5 选择合适的引擎 14
1.6.6 选择何种平台 14
1.7 MySQL复制架构 15
1.8 一些基础概念 15
第2章 MySQL安装部署和入门 17
2.1 如何选择MySQL版本 17
2.2 官方版本的安装 18
2.2.1 二进制包的安装 18
2.2.2 源码编译安装 20
2.3 其他MySQL分支的安装 21
2.4 安装InnoDB Plugin 21
2.5 常用命令 22
2.5.1 使用mysql命令 22
2.5.2 使用mysqladmin命令 26
2.5.3 使用mysqldump命令 26
2.6 MySQL的主要参数设置 27
第二部分 开发篇
第3章 开发基础 30
3.1 相关基础概念 30
3.2 数据模型 33
3.2.1 关系数据模型介绍 33
3.2.2 实体–关系建模 34
3.2.3 其他数据模型 35
3.3 SQL基础 38
3.3.1 变量 39
3.3.2 保留字 40
3.3.3 MySQL注释 42
3.3.4 数据类型 43
3.3.5 函数 51
3.3.6 操作符及优先级 53
3.3.7 MySQL示例employees数据库 54
3.3.8 SQL语法 55
3.4 PHP开发 69
3.4.1 概述 69
3.4.2 客户端访问过程 69
3.4.3 开发工具 72
3.4.4 操作数据 73
3.4.5 PHP数据库开发建议 78
3.5 索引 78
3.5.1 索引介绍 78
3.5.2 使用索引的场景及注意事项 79
3.5.3 索引的错误用法 82
3.5.4 如何使用EXPLAIN工具 83
3.5.5 优化索引的方法学 90
3.6 ID主键 91
3.7 字符集和国际化支持 93
3.7.1 什么是字符集 93
3.7.2 国际化支持 93
3.7.3 字符集设置 94
第4章 开发进阶 98
4.1 范式和反范式 98
4.1.1 范式 98
4.1.2 反范式 102
4.2 权限机制和安全 104
4.2.1 MySQL访问权限系统 104
4.2.2 强化安全 106
4.2.3 SQL注入 109
4.3 慢查询日志 112
4.3.1 查看慢查询日志 112
4.3.2 使用工具分析慢查询日志 114
4.4 应用程序性能管理 118
4.4.1 为什么需要性能管理 118
4.4.2 应用性能管理概述 119
4.4.3 应用性能管理的关注点 120
4.4.4 具体应用 120
4.5 数据库设计 122
4.5.1 逻辑设计 122
4.5.2 物理设计 123
4.6 导入导出数据 127
4.6.1 规则简介 127
4.6.2 使用mysqldump导出，使用mysql导入 128
4.6.3 使用SELECT INTO OUTFILE命令导出数据 130
4.6.4 使用LOAD DATA导入数据 130
4.6.5 用mysqlimport工具导入 132
4.6.6 用mysql程序的批处理模式导出 132
4.6.7 用split切割文件，加速导入数据 133
4.7 事务和锁 133
4.7.1 概述 133
4.7.2 MyISAM的表锁 134
4.7.3 事务定义和隔离级别 135
4.7.4 InnoDB的行锁 137
4.8 死锁 141
4.9 其他特性 142
4.9.1 临时表 142
4.9.2 分区表 142
4.9.3 存储过程、触发器、外键 147
4.9.4 视图 159
第5章 开发技巧 161
5.1 存储树形数据 161
5.2 转换字符集 163
5.3 处理重复值 165
5.4 分页算法 167
5.5 处理NULL值 167
5.6 存储URL地址 169
5.7 归档历史数据 169
5.8 使用数据库存储图片 170
5.9 多表UPDATE 170
5.10 生成全局唯一ID 171
5.11 使用SQL生成升级SQL 171
第6章 查询优化 172
6.1 基础知识 172
6.1.1 查询优化的常用策略 172
6.1.2 优化器介绍 173
6.1.3 MySQL的连接机制 175
6.2 各种语句优化 176
6.2.1 连接的优化 176
6.2.2 GROUP BY、DISTINCT、ORDER BY语句优化 177
6.2.3 优化子查询 178
6.2.4 优化limit子句 179
6.2.5 优化IN列表 180
6.2.6 优化UNION 181
6.2.7 优化带有BLOB、TEXT类型字段的查询 181
6.2.8 filesort的优化 181
6.2.9 优化SQL_CALC_FOUND_ROWS 183
6.2.10 优化临时表 183
6.3 OLAP业务优化 184
第7章 研发规范 187
7.1 命名约定 187
7.2 索引 188
7.3 表设计 189
7.4 SQL语句 190
7.5 SQL脚本 191
7.6 数据架构的建议 192
7.7 开发环境、测试环境的配置参数建议 193
7.8 数据规划表 193
7.9 其他规范 194
第三部分 测试篇
第8章 测试基础 196
8.1 基础概念 196
8.2 性能测试的目的 197
8.3 基准测试 197
8.4 性能/基准测试的步骤 199
8.5 测试的注意事项 199
第9章 测试实践 201
9.1 硬件测试 201
9.1.1 概述 201
9.1.2 CPU测试 202
9.1.3 内存测试 203
9.1.4 I/O测试 203
9.1.5 网络测试 207
9.2 MySQL测试 207
9.2.1 概述 207
9.2.2 常用测试工具的介绍和使用 208
9.2.3 MySQL基准测试模型 211
9.3 应用数据库性能测试 221
第四部分 运维篇
第10章 基础知识 224
10.1 文件和I/O管理 224
10.1.1 MySQL日志文件 224
10.1.2 InnoDB数据文件和日志文件 228
10.1.3 临时文件 232
10.1.4 MySQL套接字文件 232
10.2 MySQL如何进行灾难恢复 233
10.3 变量设置、配置文件和主要参数 234
10.3.1 概述 234
10.3.2 如何设置参数、变量 235
10.3.3 配置文件的读取顺序 235
10.3.4 环境变量、配置文件、命令行选项的优先级 237
10.3.5 配置文件详述 237
10.3.6 配置文件示例 238
10.4 MySQL Query Cache和优化器 239
10.5 SHOW INNODB STATUS解析 241
第11章 MySQL的监控 250
11.1 非数据库的监控 250
11.1.1 开源监控工具/平台 250
11.1.2 编写程序来收集信息 251
11.2 数据库的监控 251
11.2.1 数据库服务的基本监控方式 251
11.2.2 应该收集的信息和收集方法 252
11.2.3 MySQL需要关注的参数及状态变量 260
11.3 数据库监控的实现 263
11.3.1 Nagios 263
11.3.2 swatch 263
11.3.3 Cacti 267
11.3.4 如何打造一个强大的监控系统 274
11.4 数据库监控的可视化 275
11.4.1 折线图 276
11.4.2 散点图 276
11.4.3 热图 277
第12章 MySQL复制 279
12.1 基础知识 279
12.1.1 原理及注意事项 279
12.1.2 常用命令 281
12.1.3 参数设置 287
12.1.4 配置文件 290
12.1.5 复制模式 292
12.1.6 复制兼容性 294
12.2 配置主从复制 294
12.3 配置主主复制 296
12.4 配置级联复制、环形复制 297
12.5 跨IDC复制 297
12.6 多主复制 298
12.7 延时复制 298
12.8 半同步复制 299
12.9 在线搭建从库 299
12.9.1 操作系统下对打包文件配置主从 299
12.9.2 利用mysqldump制作从库 301
12.10 配置日志服务器 303
12.11 常见的复制问题及处理方法 305
12.11.1 跳过复制错误 305
12.11.2 临时表和复制 305
12.11.3 内存表和复制 306
12.11.4 主库宕机重新启动成功，但复制关系中断 306
12.11.5 主库宕机重启不成功 307
12.11.6 多个从库的server-id相同 307
12.11.7 锁定导致的复制延时 307
12.11.8 对MyISAM引擎的表恢复数据 307
12.11.9 如何彻底清除Slave设置 308
12.11.10 网络异常导致的复制延时 308
第13章 迁移、升级、备份、恢复数据库 309
13.1 升级 309
13.1.1 升级表结构或变更数据 309
13.1.2 MySQL版本升级 312
13.2 新业务部署上线 312
13.3 迁移 313
13.3.1 迁移步骤 313
13.3.2 切换数据库时长短连接的影响 314
13.4 生产环境常用的备份策略 315
13.4.1 备份策略 315
13.4.2 备份建议 316
13.5 常用备份方式和恢复方法 316
13.5.1 使用dd备份和恢复数据 317
13.5.2 使用mysqldump备份和恢复数据 317
13.5.3 使用Percona XtraBackup备份和恢复数据 319
13.5.4 使用mysqlbinlog进行时间点恢复 326
第14章 运维技巧和常见问题处理 328
14.1 MySQL运维技巧 328
14.1.1 使用lsof命令恢复文件 328
14.1.2 如何删除大文件 330
14.1.3 获取吞吐信息 331
14.1.4 传输大文件 331
14.1.5 记录连接用户 331
14.1.6 如何判断表的碎片 332
14.1.7 快速关闭MySQL 333
14.1.8 如何预热数据 333
14.1.9 临时禁止数据库访问 334
14.1.10 获取MySQL连接、用户 334
14.1.11 更改数据库名 334
14.1.12 批量KILL连接 335
14.1.13 记录运行时间长的查询 335
14.1.14 删除分表 335
14.2 常见问题 336
14.2.1 忘记root密码 336
14.2.2 InnoDB同时打开事务最大不能超1023个 336
14.2.3 连接不上MySQL 336
14.2.4 主机的host_name被屏蔽 337
14.2.5 连接数过多 337
14.2.6 处理磁盘满 338
14.2.7 表损坏 338
14.2.8 查看锁的等待 338
14.2.9 mysqldump备份报错 339
14.2.10 Table 'tbl_name'doesn't exist 339
14.2.11 root账号权限异常 340
14.2.12 SHOW PROCESSLIST输出中有大量unauthenticated user连接 340
14.2.13 统计information_schema里面的元数据信息缓慢 340
14.2.14 Aborted_connects、Aborted_clients异常升高 341
14.2.15 MySQL server has gone away错误 342
14.2.16 信息包过大错误 342
14.2.17 内存溢出 343
14.2.18 MySQL单张表为多大才合适，为什么大表会慢 343
14.2.19 MySQL最大能支持多大的并发查询 344
14.2.20 创建索引出错 344
14.3 故障和性能问题处理 344
14.3.1 通过减少文件排序和临时表提高性能 344
14.3.2 通过慢查询快速定位导致性能问题的SQL 345
14.3.3 定位导致了性能问题的客户端/应用服务器 345
第15章 运维管理 346
15.1 规模化运维 346
15.1.1 基础环境 346
15.1.2 虚拟化 348
15.1.3 关于去IOE 349
15.1.4 资源利用和隔离 350
15.1.5 关于备机、备份 351
15.2 服务器采购 352
15.3 运维规则 352
15.3.1 确保基础网络稳定可靠 353
15.3.2 应构建性能模型，进行容量规划 353
15.3.3 优先扩容，再考虑优化 353
15.3.4 保持简单 353
15.3.5 监控一切 354
15.3.6 处理监控报警 354
15.3.7 不要重复“造轮子” 354
15.3.8 允许出错 354
15.3.9 设置备用角色 355
15.3.10 仔细阅读产品文档 355
15.3.11 画数据流图和物理部署图 355
15.3.12 要有版本控制 356
15.3.13 解决问题要用合适的工具 356
15.3.14 系统工程师要具备定位瓶颈的能力 356
15.3.15 确保无线网络的稳定 356
15.3.16 确保访问生产网络时有备用的访问方式 357
15.3.17 让优秀的人做工具/平台 357
15.3.18 要有分工，每个角色都很重要 357
15.3.19 其他团队应能轻松获取生产环境信息 358
15.3.20 由独立的系统处理代码性能问题 358
15.3.21 运维人员应介入产品开发的初期 358
15.3.22 关注安全 358
15.3.23 关注配置管理 358
15.3.24 对优先级进行管理 359
15.3.25 不要为了优化而优化 359
15.3.26 不要过早优化 359
15.3.27 要有知识分享系统 359
15.3.28 参加业内技术论坛 359
15.3.29 必须开周会 360
15.3.30 积极支持队友，和团队一起成长 360
15.3.31 从公司的利益出发 360
15.3.32 确保每个人都是可以被替换的 360
15.3.33 不要受绩效束缚 361
15.3.34 不断优化流程设计 361
15.3.35 要了解一些财务知识 361
15.3.36 了解其他领域 362
第五部分 性能调优与架构篇
第16章 基础理论和工具 364
16.1 性能调优理论 364
16.1.1 基础概念 364
16.1.2 阿姆达尔定律 367
16.1.3 通用扩展定律 370
16.1.4 排队论 373
16.2 诊断工具 375
16.2.1 OS诊断工具 375
16.2.2 MySQL诊断工具 392
16.3 调优方法论 417
16.3.1 性能调优的误区 417
16.3.2 调优指引 417
16.3.3 调优步骤 419
16.3.4 调优的方法 420
第17章 应用程序调优 421
17.1 程序访问调优 421
17.1.1 好的架构和程序逻辑 421
17.1.2 好的监控系统和可视化工具 424
17.1.3 良好的灰度发布和降级功能 425
17.1.4 合理地拆分代码 425
17.2 应用服务器调优 425
第18章 MySQL Server调优 427
18.1 概述 427
18.2 MySQL的主要参数 428
18.3 MySQL内存优化 433
18.3.1 如何避免使用swap 433
18.3.2 NUMA 434
18.4 MySQL CPU优化 437
18.5 MySQL I/O优化 438
18.5.1 概述 438
18.5.2 选择合适的I/O大小 439
18.5.3 日志缓冲如何刷新到磁盘 439
18.5.4 事务日志 440
18.5.5 二进制日志 441
18.5.6 InnoDB如何打开和刷新数据、日志文件 441
18.5.7 InnoDB共享表空间和独立表空间 441
18.5.8 UNDO暴涨的可能性 442
18.5.9 关于doublewrite buffer 442
18.5.10 数据库文件分类 442
18.5.11 何时运行OPTIMIZE TABLE 443
18.5.12 MySQL磁盘空间 443
第19章 操作系统、硬件、网络的优化 445
19.1 基本概念 445
19.2 文件系统的优化 446
19.3 内存 448
19.4 CPU 448
19.5 I/O 449
19.5.1 概述 449
19.5.2 传统磁盘 449
19.5.3 关于RAID 450
19.5.4 关于SSD 451
19.6 网络 452
第20章 可扩展的架构 454
20.1 做好容量规划 454
20.2 扩展和拆分 455
20.3 读写分离 457
20.4 切勿过度设计 458
20.5 可扩展的方法 460
20.5.1 优化静态内容、动态内容 460
20.5.2 网络优化 461
20.5.3 解耦 461
20.6 使用云数据库 462
第21章 高可用性 464
21.1 概述 464
21.2 单点故障 465
21.3 MySQL数据库切换 466
21.4 跨IDC同步 468
第22章 其他产品的选择 469
22.1 列式数据库产品 469
22.2 NoSQL产品的选择 470
22.2.1 概述 470
22.2.2 灾难恢复性 472
22.2.3 可维护性 474
22.2.4 可靠性 475
22.2.5 高可用性 475
22.2.6 高性能 476
22.2.7 可扩展性 477
22.2.8 资源利用 479
22.2.9 功能特性实现 481
22.2.10 数据结构 484
22.2.11 选择数据库产品的建议 484
参考文献 487