第8章 数据的家-MySQL的数据目录
数据库和文件系统的关系
我们知道像 InnoDB
、MyISAM
这样的存储引擎都是把表存储在磁盘上的,而操作系统用来管理磁盘的那个东东又被称为 文件系统,所以用专业一点的话来表述就是:像 InnoDB
、MyISAM
这样的存储引擎都是把表存储在文件系统上的。当我们想读取数据的时候,这些存储引擎会从文件系统中把数据读出来返回给我们,当我们想写入数据的时候,这些存储引擎会把这些数据又写回文件系统。本章就是要介绍一下 InnoDB
和 MyISAM
这两个存储引擎的数据如何在文件系统中存储的。
MySQL数据目录
MySQL
服务器程序在启动时会到文件系统的某个目录下加载一些文件,之后在运行过程中产生的数据也都会存储到这个目录下的某些文件中,这个目录就称为 数据目录,我们下面就要详细唠唠这个目录下具体都有哪些重要的东西。
数据目录和安装目录的区别
我们之前只接触过 MySQL
的安装目录(在安装 MySQL
的时候我们可以自己指定),我们重点强调过这个 安装目录 下非常重要的 bin
目录,它里边存储了许多关于控制客户端程序和服务器程序的命令(许多可执行文件,比如 mysql
,mysqld
,mysqld_safe
等等等等好几十个)。而 数据目录 是用来存储 MySQL
在运行过程中产生的数据,一定要和本章要讨论的 安装目录 区别开!一定要区分开!一定要区分开!一定要区分开!
如何确定 MySQL 中的数据目录
那说了半天,到底 MySQL
把数据都存到哪个路径下呢?其实 数据目录 对应着一个系统变量 datadir
,我们在使用客户端与服务器建立连接之后查看这个系统变量的值就可以了:
mysql> SHOW VARIABLES LIKE 'datadir';
+---------------+-----------------------+
| Variable_name | Value |
+---------------+-----------------------+
| datadir | /usr/local/var/mysql/ |
+---------------+-----------------------+
1 row in set (0.00 sec)
从结果中可以看出,在我的计算机上 MySQL 的数据目录就是 /usr/local/var/mysql/
,你用你的计算机试试呗~
数据目录的结构
MySQL
在运行过程中都会产生哪些数据呢?当然会包含我们创建的数据库、表、视图和触发器等等的用户数据,除了这些用户数据,为了程序更好的运行,MySQL
也会创建一些其他的额外数据,我们接下来细细的品味一下这个 数据目录 下的内容。
数据库在文件系统中的表示
每当我们使用 CREATE DATABASE 数据库名 语句创建一个数据库的时候,在文件系统上实际发生了什么呢?其实很简单,每个数据库都对应数据目录下的一个子目录,或者说对应一个文件夹,我们每当我们新建一个数据库时,MySQL
会帮我们做这两件事儿:
-
在 数据目录 下创建一个和数据库名同名的子目录(或者说是文件夹)。
-
在该与数据库名同名的子目录下创建一个名为
db.opt
的文件,这个文件中包含了该数据库的各种属性,比方说该数据库的字符集和比较规则是什么。
比方说我们查看一下在我的计算机上当前有哪些数据库:
mysql> SHOW DATABASES;
+--------------------+
| Database |
+--------------------+
| information_schema |
| charset_demo_db |
| dahaizi |
| mysql |
| performance_schema |
| sys |
| xiaohaizi |
+--------------------+
7 rows in set (0.00 sec)
可以看到在我的计算机上当前有 7 个数据库,其中 charset_demo_db
、dahaizi
和 xiaohaizi
数据库是我们自定义的,其余 4 个数据库是属于 MySQL
自带的系统数据库。我们再看一下我的计算机上的 数据目录 下的内容:
.
├── auto.cnf
├── ca-key.pem
├── ca.pem
├── charset_demo_db
├── client-cert.pem
├── client-key.pem
├── dahaizi
├── ib_buffer_pool
├── ib_logfile0
├── ib_logfile1
├── ibdata1
├── ibtmp1
├── mysql
├── performance_schema
├── private_key.pem
├── public_key.pem
├── server-cert.pem
├── server-key.pem
├── sys
├── xiaohaizideMacBook-Pro.local.err
├── xiaohaizideMacBook-Pro.local.pid
└── xiaohaizi
6 directories, 16 files
当然这个数据目录下的文件和子目录比较多,但是如果仔细看的话,除了 information_schema
这个系统数据库外,其他的数据库在数据目录下都有对应的子目录。这个 information_schema
比较特殊,设计 MySQL 的大佬们对它的实现进行了特殊对待,没有使用相应的数据库目录,我们忽略它的存在就好了。
表在文件系统中的表示
我们的数据其实都是以记录的形式插入到表中的,每个表的信息其实可以分为两种:
-
表结构的定义
-
表中的数据
表结构 就是该表的名称是什么,表里边有多少列,每个列的数据类型是什么,有什么约束条件和索引,用的是什么字符集和比较规则等等的各种信息,这些信息都体现在我们的建表语句中了。为了保存这些信息,InnoDB
和 MyISAM
这两种存储引擎都在 数据目录 下对应的数据库子目录下创建了一个专门用于描述表结构的文件,文件名是这样:
表名.frm
比方说我们在 dahaizi
数据库下创建一个名为 test
的表:
mysql> USE dahaizi;
Database changed
mysql> CREATE TABLE test (
-> c1 INT
-> );
Query OK, 0 rows affected (0.03 sec)
那在数据库 dahaizi
对应的子目录下就会创建一个名为 test.frm
的用于描述表结构的文件。值得注意的是,这个后缀名为 .frm
是以二进制格式存储的,我们直接打开会是乱码的~ 你还不赶紧在你的计算机上创建个表试试~
描述表结构的文件我们知道怎么存储了,那表中的数据存到什么文件中了呢?在这个问题上,不同的存储引擎就产生了分歧了,下面我们分别看一下 InnoDB
和 MyISAM
是用什么文件来保存表中数据的。
InnoDB是如何存储表数据的
我们前面重点介绍过 InnoDB
的一些实现原理,到现在为止我们应该熟悉下面这些东东:
-
InnoDB
其实是使用 页 为基本单位来管理存储空间的,默认的 页 大小为16KB
。 -
对于
InnoDB
存储引擎来说,每个索引都对应着一棵B+
树,该B+
树的每个节点都是一个数据页,数据页之间不必要是物理连续的,因为数据页之间有 双向链表 来维护着这些页的顺序。 -
InnoDB
的聚簇索引的叶子节点存储了完整的用户记录,也就是所谓的 索引即数据,数据即索引。
为了更好的管理这些页,设计 InnoDB
的大佬们提出了一个 表空间 或者 文件空间(英文名:table space
或者 file space
)的概念,这个 表空间 是一个抽象的概念,它可以对应文件系统上一个或多个真实文件(不同表空间对应的文件数量可能不同)。每一个 表空间 可以被划分为很多很多很多个 页,我们的表数据就存放在某个 表空间 下的某些页里。设计 InnoDB
的大佬将表空间划分为几种不同的类型,我们一个一个看一下。
系统表空间(system tablespace)
这个所谓的 系统表空间 可以对应文件系统上一个或多个实际的文件,默认情况下,InnoDB 会在 数据目录 下创建一个名为 ibdata1
(在你的数据目录下找找看有木有)、大小为 12M
的文件,这个文件就是对应的 系统表空间 在文件系统上的表示。怎么才 12M
?这么点儿还没插多少数据就用完了,那是因为这个文件是所谓的 自扩展文件,也就是当不够用的时候它会自己增加文件大小~
当然,如果你想让系统表空间对应文件系统上多个实际文件,或者仅仅觉得原来的 ibdata1
这个文件名难听,那可以在 MySQL
启动时配置对应的文件路径以及它们的大小,比如我们这样修改一下配置文件:
[server]
innodb_data_file_path=data1:512M;data2:512M:autoextend
这样在 MySQL 启动之后就会创建这两个 512M 大小的文件作为 系统表空间,其中的 autoextend
表明这两个文件如果不够用会自动扩展 data2
文件的大小。
我们也可以把 系统表空间 对应的文件路径不配置到 数据目录 下,甚至可以配置到单独的磁盘分区上,涉及到的启动参数就是 innodb_data_file_path
和 innodb_data_home_dir
,具体的配置逻辑挺绕的,我们这就不多介绍了,知道改哪个参数可以修改系统表空间对应的文件,有需要的时候到官方文档里一查就好了。
需要注意的一点是,在一个 MySQL 服务器中,系统表空间只有一份。从 MySQL 5.5.7 到 MySQL 5.6.6 之间的各个版本中,我们表中的数据都会被默认存储到这个 系统表空间。
独立表空间(file-per-table tablespace)
在 MySQL5.6.6 以及之后的版本中,InnoDB 并不会默认的把各个表的数据存储到系统表空间中,而是为每一个表建立一个 独立表空间,也就是说我们创建了多少个表,就有多少个独立表空间。使用独立表空间来存储表数据的话,会在该表所属数据库对应的子目录下创建一个表示该独立表空间的文件,文件名和表名相同,只不过添加了一个 .ibd
的扩展名而已,所以完整的文件名称长这样:
表名.ibd
比方说假如我们使用了 独立表空间 去存储 xiaohaizi
数据库下的 test
表的话,那么在该表所在数据库对应的 xiaohaizi
目录下会为 test
表创建这两个文件:
test.frm
test.ibd
其中 test.ibd
文件就用来存储 test
表中的数据和索引。当然我们也可以自己指定使用系统表空间还是独立表空间来存储数据,这个功能由启动参数 innodb_file_per_table
控制,比如说我们想刻意将表数据都存储到系统表空间时,可以在启动 MySQL
服务器的时候这样配置:
[server]
innodb_file_per_table=0
当 innodb_file_per_table
的值为 0
时,代表使用系统表空间;当 innodb_file_per_table
的值为 1
时,代表使用独立表空间。不过 innodb_file_per_table
参数只对新建的表起作用,对于已经分配了表空间的表并不起作用。如果我们想把已经存在系统表空间中的表转移到独立表空间,可以使用下面的语法:
ALTER TABLE 表名 TABLESPACE [=] innodb_file_per_table;
或者把已经存在独立表空间的表转移到系统表空间,可以使用下面的语法:
ALTER TABLE 表名 TABLESPACE [=] innodb_system;
其中中括号扩起来的 =
可有可无,比方说我们想把 test
表从独立表空间移动到系统表空间,可以这么写:
ALTER TABLE test TABLESPACE innodb_system;
MyISAM是如何存储表数据的
好了,介绍完了 InnoDB
的系统表空间和独立表空间,现在轮到 MyISAM
了。我们知道不像 InnoDB
的索引和数据是一个东东,在 MyISAM
中的索引全部都是 二级索引,该存储引擎的数据和索引是分开存放的。所以在文件系统中也是使用不同的文件来存储数据文件和索引文件。而且和 InnoDB
不同的是,MyISAM
并没有什么所谓的 表空间 一说,表数据都存放到对应的数据库子目录下。假如 test
表使用 MyISAM
存储引擎的话,那么在它所在数据库对应的 xiaohaizi
目录下会为 test
表创建这三个文件:
test.frm
test.MYD
test.MYI
其中 test.MYD
代表表的数据文件,也就是我们插入的用户记录;test.MYI
代表表的索引文件,我们为该表创建的索引都会放到这个文件中。
视图在文件系统中的表示
我们知道 MySQL
中的视图其实是虚拟的表,也就是某个查询语句的一个别名而已,所以在存储 视图 的时候是不需要存储真实的数据的,只需要把它的结构存储起来就行了。和 表 一样,描述视图结构的文件也会被存储到所属数据库对应的子目录下面,只会存储一个 视图名.frm 的文件。
其他的文件
除了我们上面说的这些用户自己存储的数据以外,数据目录 下还包括为了更好运行程序的一些额外文件,主要包括这几种类型的文件:
-
服务器进程文件。
我们知道每运行一个
MySQL
服务器程序,都意味着启动一个进程。MySQL
服务器会把自己的进程 ID 写入到一个文件中。 -
服务器日志文件。
在服务器运行过程中,会产生各种各样的日志,比如常规的查询日志、错误日志、二进制日志、
redo
日志等等各种日志,这些日志各有各的用途,我们之后会重点介绍各种日志的用途,现在先了解一下就可以了。 -
默认/自动生成的
SSL
和RSA
证书和密钥文件。主要是为了客户端和服务器安全通信而创建的一些文件,大家看不懂可以忽略。
文件系统对数据库的影响
因为 MySQL 的数据都是存在文件系统中的,就不得不受到文件系统的一些制约,这在数据库和表的命名、表的大小和性能方面体现的比较明显,比如下面这些方面:
-
数据库名称和表名称不得超过文件系统所允许的最大长度。
每个数据库都对应数据目录的一个子目录,数据库名称就是这个子目录的名称;每个表都会在数据库子目录下产生一个和表名同名的 .frm 文件,如果是 InnoDB 的独立表空间或者使用 MyISAM 引擎还会有别的文件的名称与表名一致。这些目录或文件名的长度都受限于文件系统所允许的长度~
-
特殊字符的问题
为了避免因为数据库名和表名出现某些特殊字符而造成文件系统不支持的情况,
MySQL
会 把数据库名和表名中所有除数字和拉丁字母以外的所有字符在文件名里都映射成 @+编码值 的形式作为文件名。比方说我们创建的表的名称为'test?'
,由于?
不属于数字或者拉丁字母,所以会被映射成编码值,所以这个表对应的.frm
文件的名称就变成了test@003f.frm
。 -
文件长度受文件系统最大长度限制
对于
InnoDB
的独立表空间来说,每个表的数据都会被存储到一个与表名同名的.ibd
文件中;对于MyISAM
存储引擎来说,数据和索引会分别存放到与表同名的.MYD
和.MYI
文件中。这些文件会随着表中记录的增加而增大,它们的大小受限于文件系统支持的最大文件大小。
MySQL系统数据库简介
我们前面提到了 MySQL 的几个系统数据库,这几个数据库包含了 MySQL 服务器运行过程中所需的一些信息以及一些运行状态信息,我们现在稍微了解一下。
-
mysql
这个数据库贼核心,它存储了 MySQL 的用户账户和权限信息,一些存储过程、事件的定义信息,一些运行过程中产生的日志信息,一些帮助信息以及时区信息等。
-
information_schema
这个数据库保存着 MySQL 服务器维护的所有其他数据库的信息,比如有哪些表、哪些视图、哪些触发器、哪些列、哪些索引等等。这些信息并不是真实的用户数据,而是一些描述性信息,有时候也称之为元数据。
-
performance_schema
这个数据库里主要保存 MySQL 服务器运行过程中的一些状态信息,算是对 MySQL 服务器的一个性能监控。包括统计最近执行了哪些语句,在执行过程的每个阶段都花费了多长时间,内存的使用情况等等信息。
-
sys
这个数据库主要是通过视图的形式把
information_schema
和performance_schema
结合起来,让程序员可以更方便的了解 MySQL 服务器的一些性能信息。
什么?这四个系统数据库这就介绍完了?是的,我们的标题写的就是 简介 嘛!如果真的要介绍一下这几个系统库的使用,那怕是又要写一本书了… 这里只是因为介绍数据目录里遇到了,为了内容的完整性跟大家提一下,具体如何使用还是要参照文档~