Nginx + Lua搭建文件上传下载服务（转载腾讯云大神）

小咪咪 2022-05-31 01:06 71阅读 0赞

## 导语 ##

项目需要做一个文件上传下载服务，利用 [ nginx][nginx]＋lua 做一个代理服务，上传入口统一，分发到不同的机器存储，下载链接和物理存储隔离，支持添加 agent 的方式扩容，这里主要讲一下思路和搭建配置过程，大神勿喷。

## 主要逻辑 ##

![1492501883773_5817_1492501884079.png][]

### 上传 ###

前端请求 nginx 服务， nginx 调用 upload 脚本，脚本通过查找配置，找到对应的逻辑存储路径和物理存储机器的 agent 的 ip 和端口，通过 tcp 发包到对应 agent ，部署在对应机器的 agent 接受数据，并写到本地文件。

### 下载 ###

http下载请求 nginx ， nginx 调用 download 脚本，脚本解析链接参数，根据参数找到对应的 agent 地址，请求返回文件二进制内容，脚本接受到 agent 返回的数据，返回给请求端。

### 配置Nginx＋lua ###

接下来主要讲一下 nginx 安装配置（这里包括lua的二进制流处理 lpack， md5计算， mysql 操作， json 操作）

1、安装 nginx

下载[http://nginx.org/en/download.html][http_nginx.org_en_download.html]

解压`tar -xvf nginx-1.10.3.tar.gz`

2、安装 luajit（轻量级 lua）

[http://luajit.org/download.html][http_luajit.org_download.html]

修改 makefile 里面的安装路径`export PREFIX= /usr/local/luajit`

然后安装`make &make install`

3、安装`nginx_lua_module`

下载[https://github.com/openresty/lua-nginx-module][https_github.com_openresty_lua-nginx-module]

解压

4、 安装`ngx_devel_kit` （NDK提供函数和宏处理一些基本任务，减轻第三方模块开发的代码量）

下载[https://github.com/simpl/ngx\_devel\_kit/][https_github.com_simpl_ngx_devel_kit]

5、 安装编译，导入

export LUAJIT_LIB=/usr/local/luajit/lib  
    
    export LUAJIT_INC=/usr/local/luajit/include/luajit-2.0 
    
    ./configure --prefix=/usr/local/nginx  --with-http_stub_status_module --with-http_ssl_module --add-module=/home/oicq/jeffzhuang/ngx_devel_kit-0.3.0 --add-module=/home/oicq/jeffzhuang/lua-nginx-module-0.10.3
    
    make -j2 
    make install

启动`/usr/local/nginx/sbin/nginx` 重启命令\` usr/local/nginx/sbin/nginx -s reload v

如果报错找不到luajit库`ln -s /usr/local/lib/libluajit-5.1.so.2 /lib64/libluajit-5.1.so.2`

测试nginx直接打开浏览器就可以了`http:10.x.x.x:8080`就可以看到欢迎界面了

6 、配置`conf/nginx.conf`运行 lua 脚本

增加lua库的查找路径`lua_package_path，lua_package_cpath`

![1492502101402_9934_1492502101748.png][]

7、增加`mysql.lua`下载 [ https://github.com/openresty/lua-resty-mysql][https_github.com_openresty_lua-resty-mysql] 拷贝到`lua_package_path` 目录下就可以了

8、增加 csjon [ http://www.kyne.com.au/~mark/software/download/lua-cjson-2.1.0.tar.gz][http_www.kyne.com.au_mark_software_download_lua-cjson-2.1.0.tar.gz]

修改 Makefile 里面的 `PREFIX＝/usr/local/luajit`就是luajit 的安装路径，make后将生成的 `cjson.so`拷贝到 `lua_package_cpath`目录下

9、安装lpack 可以用现成的 `lpack.lua` [ http://blog.csdn.net/tom\_221x/article/details/41119715][http_blog.csdn.net_tom_221x_article_details_41119715] 拷贝到 `lua_package_path` 或者用 [ https://github.com/LuaDist/lpack][https_github.com_LuaDist_lpack] 编译生成 `lpack.so`拷贝到 `lua_package_cpath` 64位需要增加编译命令 `-fPIC`

10、`upload.lua`下载[https://github.com/openresty/lua-resty-upload][https_github.com_openresty_lua-resty-upload]

11、`md5下载` [ https://github.com/openresty/lua-resty-string][https_github.com_openresty_lua-resty-string]

## 主要代码 ##

1、前端上传页面代码

<!DOCTYPE html>
    <html>
    	<head>
    		 <title>File upload example</title>
    	</head>
    	<body>
    		   <form action="emer_upload/order_system_storage" method="post" enctype="multipart/form-data">
    		   <input type="file" name="testFileName"/>
    		   <input type="submit" name="upload" value="Upload" />
    		   </form>
    	</body>
    </html>

2、upload上传代码，该模块在解析文件上传请求的过程中，主要采用了简单的类似有限状态机的算法来实现的，在不同的状态由相应的 handler 进行处理。

--文件下载服务写到 saveRootPath .."/" .. filename 下面 
    function DownLoad()
    
    	local chunk_size = 4096
    	local form,err=upload:new(chunk_size)
    	if not form then
    		 ngx.log(ngx.ERR, "failed to new upload: ", err)
    		 ngx.exit(ngx.HTTP_INTERNAL_SERVER_ERROR)
    	end 
    
    	form:set_timeout(100000)
    	
    	while true do
    		local typ,res,err=form:read()
    		if not typ then
    			ErrorMsg="failed to read :"..err
    			return 1
    		end
    
    		if typ =="header" then
    			local key=res[1]
    			local value=res[2]
    			if key =="Content-Disposition" then
    				local kvlist=string.split(value,';')
    				 for _, kv in ipairs(kvlist) do
    					local seg = string.trim(kv)
    					if seg:find("filename") then
    						local kvfile = string.split(seg, "=")
    						filename = string.sub(kvfile[2], 2, -2)
    						if filename then
    							--获取文件后缀名字
    							fileExtension=getExtension(filename)
    							local linuxTime=tostring(os.time())
    							filePath=saveRootPath .."/" ..linuxTime..filename
    							fileToSave,errmsg = io.open(filePath, "w+")
    							--存储的文件路径					
    							--ngx.say("failed to open file ", filePath)
    							if not fileToSave then
    								--ngx.say("failed to open file ", filePath .. errmsg)
    								ErrorMsg="打开文件失败"..filePath .. errmsg
    								return 1
    							end
    						else
    							ErrorMsg="请求参数找不到文件名字"
    							return 1
    						end
    						--跳出循环
    						break 
    					end
    				 end
    			end
    		elseif typ =="body" then
    			if fileToSave then
    			   fileToSave:write(res)
    			   fileMd5:update(res)
    			end
    		elseif typ =="part_end" then
    			if fileToSave then
    			   local md5_sum=fileMd5:final()
    			   --ngx.say("md5: ", str.to_hex(md5_sum))
    			   fileMD532=str.to_hex(md5_sum)
    			   fileToSave:close()
    			   fileToSave = nil
    			end			
    		elseif typ =="eof" then
    			break
    		else
    			ngx.log(ngx.INFO, "do other things")
    		end
    	end
    	return 0
    end

3、tcp接收二进制数据

-- 读取byte
    function readInt8(tcp)
        local next, val = string.unpack(tcp:receive(1), "b")
        return tonumber(val);
    end
    -- 读取int16
    function readInt16(tcp)
        local next, val = string.unpack(tcp:receive(2), "h");
        return tonumber(val);
    end
    -- 读取int32
    function readInt32(tcp)
        local next, val = string.unpack(tcp:receive(4), ">i");
        return tonumber(val);
    end
    -- 读取字符串
    function readString(tcp,len)
        return tostring(tcp:receive(len));
    end

4、tcp写二进制数据，这里和 agent 的通信协议是：开始标志位＋包长度＋json 字符串＋结束标志位，所以对应 pack 用的参数就是 bIAb ，> 就是转化为大端

jsonData["filename"]=fileMD532 .. "." .. fileExtension
    jsonData["cmd"]="write"
    jsonData["fileSize"]=tostring(filelen)
    jsonData["path"]=System.."/"..StorageDate
    local Jsonstr=cjson.encode(jsonData)
    local uiLen=string.len(Jsonstr)
    senddata=bpack(">b1IAb",startIndex,uiLen,Jsonstr,endIndex)
    socket:send(senddata)

5、下载错误的时候，使用了 redirect 直接跳转到错误页面，方便输出错误信息，其实这里还可以做用户 token 校验

local ErrorUrl="/downloadError.html"
    ErrorMsg="url 参数解析有问题 "..index
    return ngx.redirect(ErrorUrl.."?msg="..ErrorMsg,``` ngx.HTTP_MOVED_TEMPORARILY)