FastDFS分布式文件系统

分手后的思念是犯贱 2022-06-01 12:52 298阅读 0赞

## 说明:理论部分(1-3)原文出处:http://www.cnblogs.com/baiboy/ ##

##  fastdfs的安装是记录的本人自己的操作过程. ##

## 1** 分布式文件系统介绍** ##

--------------------

**分布式文件系统**：Distributed file system, DFS，又叫做网络文件系统：Network File System。一种允许文件通过网络在多台主机上分享的文件系统，可让多机器上的多用户分享文件和存储空间。

**特点**：在一个分享的磁盘文件系统中，所有节点对数据存储区块都有相同的访问权，在这样的系统中，访问权限就必须由客户端程序来控制。分布式文件系统可能包含的功能有：透通的数据复制与容错。

分布式文件系统是被设计用在局域网。而分布式数据存储，则是泛指应用分布式运算技术的文件和数据库等提供数据存储服务的系统。

**决定因素**：数据的存储方式、数据的读取速率、数据的安全机制。

**发展历史**：大致分为三个发展阶段，网络文件系统(1980s)、共享SAN文件系统(1990s)、面向对象的并行文件系统(2000s)

**概述**：FastDFS是一个开源的轻量级分布式文件系统，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合中小文件（建议范围：4KB < file\_size <500MB），对以文件为载体的在线服务，如相册网站、视频网站等。

## **2 系统架构介绍** ##

--------------------

FastDFS由跟踪服务器(Tracker Server)、存储服务器(Storage Server)和客户端(Client)构成。

**跟踪服务器Tracker Server**

主要做调度工作，起到均衡的作用；负责管理所有的 storage server和 group，每个 storage 在启动后会连接 Tracker，告知自己所属 group 等信息，并保持周期性心跳。tracker根据storage的心跳信息，建立group==>\[storage serverlist\]的映射表。

Tracker需要管理的元信息很少，会全部存储在内存中；另外tracker上的元信息都是由storage汇报的信息生成的，本身不需要持久化任何数据，这样使得tracker非常容易扩展，直接增加tracker机器即可扩展为tracker cluster来服务，cluster里每个tracker之间是完全对等的，所有的tracker都接受stroage的心跳信息，生成元数据信息来提供读写服务。

**存储服务器Storage Server**

主要提供容量和备份服务；以 group 为单位，每个 group 内可以有多台 storage server，数据互为备份。以group为单位组织存储能方便的进行应用隔离、负载均衡、副本数定制（group内storage server数量即为该group的副本数），比如将不同应用数据存到不同的group就能隔离应用数据，同时还可根据应用的访问特性来将应用分配到不同的group来做负载均衡；缺点是group的容量受单机存储容量的限制，同时当group内有机器坏掉时，数据恢复只能依赖group内地其他机器，使得恢复时间会很长。

group内每个storage的存储依赖于本地文件系统，storage可配置多个数据存储目录，比如有10块磁盘，分别挂载在/data/disk1-/data/disk10，则可将这10个目录都配置为storage的数据存储目录。storage接受到写文件请求时，会根据配置好的规则选择其中一个存储目录来存储文件。为了避免单个目录下的文件数太多，在storage第一次启动时，会在每个数据存储目录里创建2级子目录，每级256个，总共65536个文件，新写的文件会以hash的方式被路由到其中某个子目录下，然后将文件数据作为本地文件存储到该目录中。

**客户端Client**

主要是上传下载数据的服务器，也就是我们自己的项目所部署在的服务器。每个客户端服务器都需要安装Nginx

基本架构如下图所示。

![380252-20170415090606111-136048934.png][]

**FastDFS的存储策略**

为了支持大容量，存储节点（服务器）采用了分卷（或分组）的组织方式。存储系统由一个或多个卷组成，卷与卷之间的文件是相互独立的，所有卷的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台存储服务器组成，一个卷下的存储服务器中的文件都是相同的，卷中的多台存储服务器起到了冗余备份和负载均衡的作用。

在卷中增加服务器时，同步已有的文件由系统自动完成，同步完成后，系统自动将新增服务器切换到线上提供服务。当存储空间不足或即将耗尽时，可以动态添加卷。只需要增加一台或多台服务器，并将它们配置为一个新的卷，这样就扩大了存储系统的容量。

**FastDFS的上传过程**

FastDFS向使用者提供基本文件访问接口，比如upload、download、append、delete等，以客户端库的方式提供给用户使用。

![380252-20170415090608298-1456836680.png][]

我们知道Storage Server会定期的向Tracker Server发送自己的存储信息。当Tracker Server Cluster中的Tracker Server不止一个时，各个Tracker之间的关系是对等的，所以客户端上传时可以选择任意一个Tracker。

当Tracker收到客户端上传文件的请求时，会为该文件分配一个可以存储文件的group，当选定了group后就要决定给客户端分配group中的哪一个storage server。当分配好storage server后，客户端向storage发送写文件请求，storage将会为文件分配一个数据存储目录。然后为文件分配一个fileid，最后根据以上的信息生成文件名存储文件。文件名的格式如下：

![380252-20170415090609830-2108023259.png][]

**FastDFS的文件同步**

写文件时，客户端将文件写至group内一个storage server即认为写文件成功，storage server写完文件后，会由后台线程将文件同步至同group内其他的storage server。

每个storage写文件后，同时会写一份binlog，binlog里不包含文件数据，只包含文件名等元信息，这份binlog用于后台同步，storage会记录向group内其他storage同步的进度，以便重启后能接上次的进度继续同步；进度以时间戳的方式进行记录，所以最好能保证集群内所有server的时钟保持同步。

storage的同步进度会作为元数据的一部分汇报到tracker上，tracke在选择读storage的时候会以同步进度作为参考。

**FastDFS的文件下载**

客户端uploadfile成功后，会拿到一个storage生成的文件名，接下来客户端根据这个文件名即可访问到该文件。

![380252-20170415090611017-204910775.png][]

跟upload file一样，在downloadfile时客户端可以选择任意tracker server。tracker发送download请求给某个tracker，必须带上文件名信息，tracke从文件名中解析出文件的group、大小、创建时间等信息，然后为该请求选择一个storage用来服务读请求。

## **3 FastDFS性能方案** ##

![380252-20170415092208798-803990617.png][]

##  ##

## 4 FastDFS的安装 ##

4.1安装前准备工作:

4.1.2在安装FastDFS之前,先要检查Linux上是否安装了 gcc、libevent、libevent-devel，执行如下yum命令检查：

yum list installed | grep gcc

yum list installed | grep libevent

yum list installed | grep libevent-devel

如果没有安装，则需进行安装，执行如下命令安装：yum install gcc libevent libevent-devel -y

4.1.3然后再安装libfastcommon 库,libfastcommon 库是 FastDFS 文件系统运行需要的公共 C 语言函数库； 如果没有安装它,安装FastDFS时会报错.

a. libfastcommon 库的源码 下载地址：https://github.com/happyfish100

b.切换到解压后的libfastcommon目录：cd libfastcommon-1.0.36

c. 执行make脚本进行编译：./make.sh

d.  注意：第4步make编译的时候如果报错，需解决错误后再次进行make，通常发生错误是由于Linux缺少某些依赖库导致，根据错误提示解决错误；

e. 执行make install进行安装：./make.sh install

4.2正式安装FastDFS

a. 然后进入到其安装目录下,因为它是c语言编译的,所以执行其./make.sh脚本文件,编译一下.

b.然后再执行安装 ./make.sh install

c.至此FastDFS安装完成，安装后所有编译出来的文件存放在/usr/bin目录下，所有配置文件存放        d.在/etc/fdfs目录下；使用命令查看： ll /usr/bin/fdfs\*

e.另外注意需要把解压后的fastdfs-5.11/conf目录下的两个文件拷贝到/etc/fdfs/   
  1、cp http.conf /etc/fdfs/  
  2、cp mime.types /etc/fdfs/

这两个文件后续需要用到，所以先拷贝过去；

[380252-20170415090606111-136048934.png]: /images/20220601/69734f192dd04af18013de129b76104a.png
[380252-20170415090608298-1456836680.png]: /images/20220601/9c4f139f17e74aa993b772260c5b091d.png
[380252-20170415090609830-2108023259.png]: /images/20220601/7d08112ad0934986972ca3db87c4ec75.png
[380252-20170415090611017-204910775.png]: /images/20220601/f6213423448642efaaae68ff406d2334.png
[380252-20170415092208798-803990617.png]: /images/20220601/6f52c4c5a7294a699c4d18d4789dd34c.png