推荐一款日志切割神器

男娘i 2021-09-02 06:36 646阅读 0赞

点击上方 Java后端，选择 设为星标

优质文章，及时送达

链接：https://urlify.cn/F3Uzmi

对于 Linux 系统安全来说，日志文件是极其重要的工具。不知为何，我发现很多运维同学的服务器上都运行着一些诸如每天切分 Nginx日志之类的 CRON 脚本，大家似乎遗忘了 Logrotate，争相发明自己的轮子，这真是让人沮丧啊！就好比明明身边躺着现成的性感美女，大家却忙着自娱自乐，罪过！

logrotate 程序是一个日志文件管理工具。用于分割日志文件，删除旧的日志文件，并创建新的日志文件，起到“转储”作用。可以节省磁盘空间。下面就对 logrotate 日志轮转操作做一梳理记录。

1、配置文件介绍

Linux系统默认安装logrotate工具，它默认的配置文件在：

  1. /etc/logrotate.conf
  2. /etc/logrotate.d/

logrotate.conf 才主要的配置文件，logrotate.d 是一个目录，该目录里的所有文件都会被主动的读入/etc/logrotate.conf中执行。

另外，如果 /etc/logrotate.d/ 里面的文件中没有设定一些细节，则会以/etc/logrotate.conf这个文件的设定来作为默认值。

Logrotate是基于CRON来运行的，其脚本是/etc/cron.daily/logrotate，日志轮转是系统自动完成的。实际运行时，Logrotate会调用配置文件/etc/logrotate.conf。可以在/etc/logrotate.d目录里放置自定义好的配置文件，用来覆盖Logrotate的缺省值。

  1. [root@huanqiu_web1 ~]# cat /etc/cron.daily/logrotate
  2. #!/bin/sh
  3. /usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1
  4. EXITVALUE=$?
  5. if [ $EXITVALUE != 0 ]; then
  6.     /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
  7. fi
  8. exit 0

如果等不及cron自动执行日志轮转，想手动强制切割日志，需要加-f参数；不过正式执行前最好通过Debug选项来验证一下（-d参数），这对调试也很重要：

  1. # /usr/sbin/logrotate -f /etc/logrotate.d/nginx
  2. # /usr/sbin/logrotate -d -f /etc/logrotate.d/nginx

logrotate 命令格式：

  1. logrotate [OPTION...] <configfile>
  2. -d, --debug ：debug模式，测试配置文件是否有错误。
  3. -f, --force ：强制转储文件。
  4. -m, --mail=command ：压缩日志后，发送日志到指定邮箱。
  5. -s, --state=statefile ：使用指定的状态文件。
  6. -v, --verbose ：显示转储过程。

根据日志切割设置进行操作，并显示详细信息：

  1. [root@huanqiu_web1 ~]# /usr/sbin/logrotate -v /etc/logrotate.conf
  2. [root@huanqiu_web1 ~]# /usr/sbin/logrotate -v /etc/logrotate.d/php

根据日志切割设置进行执行，并显示详细信息,但是不进行具体操作，debug模式

  1. [root@huanqiu_web1 ~]# /usr/sbin/logrotate -d /etc/logrotate.conf
  2. [root@huanqiu_web1 ~]# /usr/sbin/logrotate -d /etc/logrotate.d/nginx

查看各log文件的具体执行情况

  1. [root@fangfull_web1 ~]# cat /var/lib/logrotate.status

#

2、切割介绍

比如以系统日志/var/log/message做切割来简单说明下：

  • 第一次执行完rotate(轮转)之后，原本的messages会变成messages.1，而且会制造一个空的messages给系统来储存日志；
  • 第二次执行之后，messages.1会变成messages.2，而messages会变成messages.1，又造成一个空的messages来储存日志！

如果仅设定保留三个日志（即轮转3次）的话，那么执行第三次时，则 messages.3这个档案就会被删除，并由后面的较新的保存日志所取代！也就是会保存最新的几个日志。

日志究竟轮换几次，这个是根据配置文件中的dateext 参数来判定的。

看下logrotate.conf配置：

  1. # cat /etc/logrotate.conf
  2. # 底下的设定是 "logrotate 的默认值" ，如果別的文件设定了其他的值，
  3. # 就会以其它文件的设定为主
  4. weekly //默认每一周执行一次rotate轮转工作
  5. rotate 4       //保留多少个日志文件(轮转几次).默认保留四个.就是指定日志文件删除之前轮转的次数，0 指没有备份
  6. create //自动创建新的日志文件，新的日志文件具有和原来的文件相同的权限；因为日志被改名,因此要创建一个新的来继续存储之前的日志
  7. dateext //这个参数很重要！就是切割后的日志文件以当前日期为格式结尾，如xxx.log-20131216这样,如果注释掉,切割出来是按数字递增,即前面说的 xxx.log-1这种格式
  8. compress //是否通过gzip压缩转储以后的日志文件，如xxx.log-20131216.gz ；如果不需要压缩，注释掉就行
  10. include /etc/logrotate.d
  11. # 将 /etc/logrotate.d/ 目录中的所有文件都加载进来
  13. /var/log/wtmp { //仅针对 /var/log/wtmp 所设定的参数
  14. monthly //每月一次切割,取代默认的一周
  15. minsize 1M //文件大小超过 1M 后才会切割
  16. create 0664 root utmp //指定新建的日志文件权限以及所属用户和组
  17. rotate 1                    //只保留一个日志.
  18. }
  19. # 这个 wtmp 可记录用户登录系统及系统重启的时间
  20. # 因为有 minsize 的参数，因此不见得每个月一定会执行一次喔.要看文件大小。

由这个文件的设定可以知道/etc/logrotate.d其实就是由/etc/logrotate.conf 所规划出来的目录，虽然可以将所有的配置都写入 /etc/logrotate.conf ，但是这样一来这个文件就实在是太复杂了，尤其是当使用很多的服务在系统上面时， 每个服务都要去修改 /etc/logrotate.conf 的设定也似乎不太合理了。

所以，如果独立出来一个目录，那么每个要切割日志的服务， 就可以独自成为一个文件，并且放置到 /etc/logrotate.d/ 当中。

其他重要参数说明：

  1. compress #通过gzip 压缩转储以后的日志
  2. nocompress #不做gzip压缩处理
  3. copytruncate #用于还在打开中的日志文件，把当前日志备份并截断；是先拷贝再清空的方式，拷贝和清空之间有一个时间差，可能会丢失部分日志数据。
  4. nocopytruncate #备份日志文件不过不截断
  5. create mode owner group #轮转时指定创建新文件的属性，如create 0777 nobody nobody
  6. nocreate #不建立新的日志文件
  7. delaycompress #和compress 一起使用时，转储的日志文件到下一次转储时才压缩
  8. nodelaycompress #覆盖 delaycompress 选项，转储同时压缩。
  9. missingok #如果日志丢失，不报错继续滚动下一个日志
  10. errors address #专储时的错误信息发送到指定的Email 地址
  11. ifempty #即使日志文件为空文件也做轮转，这个是logrotate的缺省选项。
  12. notifempty #当日志文件为空时，不进行轮转
  13. mail address #把转储的日志文件发送到指定的E-mail 地址
  14. nomail #转储时不发送日志文件
  15. olddir directory #转储后的日志文件放入指定的目录，必须和当前日志文件在同一个文件系统
  16. noolddir #转储后的日志文件和当前日志文件放在同一个目录下
  17. sharedscripts #运行postrotate脚本，作用是在所有日志都轮转后统一执行一次脚本。如果没有配置这个，那么每个日志轮转后都会执行一次脚本
  18. prerotate #在logrotate转储之前需要执行的指令，例如修改文件的属性等动作；必须独立成行
  19. postrotate #在logrotate转储之后需要执行的指令，例如重新启动 (kill -HUP) 某个服务！必须独立成行
  20. daily #指定转储周期为每天
  21. weekly #指定转储周期为每周
  22. monthly #指定转储周期为每月
  23. rotate count #指定日志文件删除之前转储的次数，0 指没有备份，5 指保留5 个备份
  24. dateext #使用当期日期作为命名格式
  25. dateformat .%s #配合dateext使用，紧跟在下一行出现，定义文件切割后的文件名，必须配合dateext使用，只支持 %Y %m %d %s 这四个参数
  26. size(或minsize) log-size #当日志文件到达指定的大小时才转储，log-size能指定bytes(缺省)及KB (sizek)或MB(sizem).
  27. 当日志文件 >= log-size 的时候就转储。以下为合法格式：（其他格式的单位大小写没有试过）
  28. size = 5 或 size 5 （>= 5 个字节就转储）
  29. size = 100k 或 size 100k
  30. size = 100M 或 size 100M

小示例：下面一个切割nginx日志的配置

  1. [root@master-server ~]# vim /etc/logrotate.d/nginx
  2. /usr/local/nginx/logs/*.log {
  3. daily
  4. rotate 7
  5. missingok
  6. notifempty
  7. dateext
  8. sharedscripts
  9. postrotate
  10. if [ -f /usr/local/nginx/logs/nginx.pid ]; then
  11. kill -USR1 `cat /usr/local/nginx/logs/nginx.pid`
  12. fi
  13. endscript
  14. }

分享一例曾经使用过的nginx日志切割处理脚本：

1）logrotate日志分割配置

  1. [root@bastion-IDC ~# vim /etc/logrotate.d/nginx
  2. /data/nginx_logs/*.access_log 
  3. {
  4. nocompress 
  5. daily 
  6. copytruncate 
  7. create 
  8. ifempty 
  9. olddir /data/nginx_logs/days 
  10. rotate 0                                        
  11. }

2）日志分割脚本

  1. [root@bastion-IDC ~# vim /usr/local/sbin/logrotate-nginx.sh
  2. #!/bin/bash
  3. #创建转储日志压缩存放目录
  4. mkdir -p /data/nginx_logs/days
  5. #手工对nginx日志进行切割转换
  6. /usr/sbin/logrotate -vf /etc/logrotate.d/nginx
  7. #当前时间
  8. time=$(date -d "yesterday" +"%Y-%m-%d")
  9. #进入转储日志存放目录
  10. cd /data/nginx_logs/days
  11. #对目录中的转储日志文件的文件名进行统一转换
  12. for i in $(ls ./ | grep "^\(.*\)\.[[:digit:]]$")
  13. do
  14. mv ${i} ./$(echo ${i}|sed -n 's/^\(.*\)\.\([[:digit:]]\)$/\1/p')-$(echo $time)
  15. done
  16. #对转储的日志文件进行压缩存放，并删除原有转储的日志文件，只保存压缩后的日志文件。以节约存储空间
  17. for i in $(ls ./ | grep "^\(.*\)\-\([[:digit:]-]\+\)$")
  18. do
  19. tar jcvf ${i}.bz2 ./${i}
  20. rm -rf ./${i}
  21. done
  22. #只保留最近7天的压缩转储日志文件
  23. find /data/nginx_logs/days/* -name "*.bz2" -mtime 7 -type f -exec rm -rf {} \;

3）crontab定时执行

  1. [root@bastion-IDC ~# crontab -e
  2. #logrotate
  3. 0 0 * * * /bin/bash -x /usr/local/sbin/logrotate-nginx.sh > /dev/null 2>

手动执行脚本，测试下看看：

  1. [root@bastion-IDC ~# /bin/bash -x /usr/local/sbin/logrotate-nginx.sh
  2. [root@bastion-IDC ~# cd /data/nginx_logs/days
  3. [root@bastion-IDC days# ls
  4. huantest.access_log-2017-01-18.bz2

php脚本切割一例：

  1. [root@huanqiu_web1 ~]# cat /etc/logrotate.d/php
  2. /Data/logs/php/*log {
  3.     daily
  4.     rotate 365
  5.     missingok
  6.     notifempty
  7.     compress
  8.     dateext
  9.     sharedscripts
  10.     postrotate
  11. if [ -f /Data/app/php5.6.26/var/run/php-fpm.pid ]; then
  12. kill -USR1 `cat /Data/app/php5.6.26/var/run/php-fpm.pid`
  13.         fi
  14.     endscript
  15.     postrotate
  16.         /bin/chmod 644 /Data/logs/php/*gz
  17.     endscript
  18. }
  20. [root@huanqiu_web1 ~]# ll /Data/app/php5.6.26/var/run/php-fpm.pid
  21. -rw-r--r-- 1 root root 4 Dec 28 17:03 /Data/app/php5.6.26/var/run/php-fpm.pid
  23. [root@huanqiu_web1 ~]# cd /Data/logs/php
  24. [root@huanqiu_web1 php]# ll
  25. total 25676
  26. -rw-r--r-- 1 root root 0 Jun 1  2016 error.log
  27. -rw-r--r-- 1 nobody nobody 182 Aug 30  2015 error.log-20150830.gz
  28. -rw-r--r-- 1 nobody nobody 371 Sep 1  2015 error.log-20150901.gz
  29. -rw-r--r-- 1 nobody nobody 315 Sep 7  2015 error.log-20150907.gz
  30. .........
  31. .........

nginx日志切割一例

  1. [root@huanqiu_web1 ~]# cat /etc/logrotate.d/nginx
  2. /Data/logs/nginx/*/*log {
  3.     daily
  4.     rotate 365
  5.     missingok
  6.     notifempty
  7.     compress
  8.     dateext
  9.     sharedscripts
  10.     postrotate
  11.     /etc/init.d/nginx reload
  12.     endscript
  13. }
  15. [root@huanqiu_web1 ~]# ll /Data/logs/nginx/www.huanqiu.com/
  16. ..........
  17. -rw-r--r-- 1 root root 1652 Jan 1 00:00 error.log-20170101.gz
  18. -rw-r--r-- 1 root root 1289 Jan 2 00:00 error.log-20170102.gz
  19. -rw-r--r-- 1 root root 1633 Jan 3 00:00 error.log-20170103.gz
  20. -rw-r--r-- 1 root root 3239 Jan 4 00:00 error.log-20170104.gz

系统日志切割一例

  1. [root@huanqiu_web1 ~]# cat /etc/logrotate.d/syslog
  2. /var/log/cron
  3. /var/log/maillog
  4. /var/log/messages
  5. /var/log/secure
  6. /var/log/spooler
  7. {
  8.     sharedscripts
  9.     postrotate
  10.     /bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true
  11.     endscript
  12. }
  14. [root@huanqiu_web1 ~]# ll /var/log/messages*
  15. -rw------- 1 root root 34248975 Jan 19 18:42 /var/log/messages
  16. -rw------- 1 root root 51772994 Dec 25 03:11 /var/log/messages-20161225
  17. -rw------- 1 root root 51800210 Jan 1 03:05 /var/log/messages-20170101
  18. -rw------- 1 root root 51981366 Jan 8 03:36 /var/log/messages-20170108
  19. -rw------- 1 root root 51843025 Jan 15 03:40 /var/log/messages-20170115
  20. [root@huanqiu_web1 ~]# ll /var/log/cron*
  21. -rw------- 1 root root 2155681 Jan 19 18:43 /var/log/cron
  22. -rw------- 1 root root 2932618 Dec 25 03:11 /var/log/cron-20161225
  23. -rw------- 1 root root 2939305 Jan 1 03:06 /var/log/cron-20170101
  24. -rw------- 1 root root 2951820 Jan 8 03:37 /var/log/cron-20170108
  25. -rw------- 1 root root 3203992 Jan 15 03:41 /var/log/cron-20170115
  26. [root@huanqiu_web1 ~]# ll /var/log/secure*
  27. -rw------- 1 root root 275343 Jan 19 18:36 /var/log/secure
  28. -rw------- 1 root root 2111936 Dec 25 03:06 /var/log/secure-20161225
  29. -rw------- 1 root root 2772744 Jan 1 02:57 /var/log/secure-20170101
  30. -rw------- 1 root root 1115543 Jan 8 03:26 /var/log/secure-20170108
  31. -rw------- 1 root root 731599 Jan 15 03:40 /var/log/secure-20170115
  32. [root@huanqiu_web1 ~]# ll /var/log/spooler*
  33. -rw------- 1 root root 0 Jan 15 03:41 /var/log/spooler
  34. -rw------- 1 root root 0 Dec 18 03:21 /var/log/spooler-20161225
  35. -rw------- 1 root root 0 Dec 25 03:11 /var/log/spooler-20170101
  36. -rw------- 1 root root 0 Jan 1 03:06 /var/log/spooler-20170108
  37. -rw------- 1 root root 0 Jan 8 03:37 /var/log/spooler-20170115

tomcat日志切割一例

  1. [root@huanqiu-backup ~]# cat /etc/logrotate.d/tomcat
  2. /Data/app/tomcat-7-huanqiu/logs/catalina.out {
  3. rotate 14
  4. daily
  5. copytruncate
  6. compress
  7. notifempty
  8. missingok
  9. }
  11. [root@huanqiu-backup ~]# ll /Data/app/tomcat-7-huanqiu/logs/catalina.*
  12. -rw-r--r--. 1 root root 0 Jan 19 19:11 /Data/app/tomcat-7-huanqiu/logs/catalina.out
  13. -rw-r--r--. 1 root root 95668 Jan 19 19:11 /Data/app/tomcat-7-huanqiu/logs/catalina.out.1.gz

早期用过的nginx日志处理一例

  1. [root@letv-backup ~]# vim /letv/sh/cut_nginx_log.sh
  2. #!/bin/bash
  3. # 你的日志文件存放目录
  4. logs_path="/letv/logs/"
  5. # 日志文件的名字，多个需要空格隔开
  6. logs_names=(error access pv_access)
  7. dates=`date -d "yesterday" +"%Y%m%d"`
  8. mkdir -p ${logs_path}$dates/
  9. num=${#logs_names[@]}
  10. for((i=0;i<num;i++));do
  11. mv ${logs_path}${logs_names[i]}.log ${logs_path}$dates/${logs_names[i]}.log
  12. done
  13. #nginx平滑重启
  14. kill -USR1 `cat /letv/logs/nginx/nginx.pid` 
  16. 结合crontab定时执行
  17. [root@letv-backup ~]# crontab -e
  18. #nginx日志切割
  19. 00 00 * * * cd /letv/logs;/bin/bash /letv/sh/cut_nginx_log.sh > /dev/null 2>$1

#

3、尝试解决logrotate无法自动轮询日志的办法

现象说明：

使用logrotate轮询nginx日志，配置好之后，发现nginx日志连续两天没被切割，这是为什么呢？？

然后开始检查日志切割的配置文件是否有问题，检查后确定配置文件一切正常。

于是怀疑是logrotate预定的cron没执行，查看了cron的日志，发现有一条Dec 7 04:02:01 www crond[18959]: (root) CMD (run-parts /etc/cron.daily)这样的日志，证明cron在04:02分时已经执行/etc/cron.daily目录下的程序。

接着查看/etc /cron.daily/logrotate（这是logrotate自动轮转的脚本）的内容：

  1. [root@huanqiu_test ~]# cat /etc/cron.daily/logrotate
  2. #!/bin/sh
  4. /usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1
  5. EXITVALUE=$?
  6. if [ $EXITVALUE != 0 ]; then
  7.     /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
  8. fi
  9. exit 0

没有发现异常，配置好的日志轮转操作都是由这个脚本完成的，一切运行正常，脚本应该就没问题。

直接执行命令：

  1. [root@huanqiu_test ~]# /usr/sbin/logrotate /etc/logrotate.conf

这些系统日志是正常轮询了，但nginx日志却还是没轮询。

接着强行启动记录文件维护操作，纵使logrotate指令认为没有需要，应该有可能是logroate认为nginx日志太小，不进行轮询。

故需要强制轮询，即在/etc/cron.daily/logrotate脚本中将 -t 参数替换成 -f 参数

  1. [root@huanqiu_test ~]# cat /etc/cron.daily/logrotate
  2. #!/bin/sh
  4. /usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1
  5. EXITVALUE=$?
  6. if [ $EXITVALUE != 0 ]; then
  7.     /usr/bin/logger -f logrotate "ALERT exited abnormally with [$EXITVALUE]"
  8. fi
  9. exit

最后最后重启下cron服务：

  1. [root@huanqiu_test ~]# /etc/init.d/crond restart
  2. Stopping crond: [ OK ]
  3. Starting crond: [ OK ]

logrotate默认自动切割生效时间

  1. Logrotate是基于CRON来运行的，其脚本是/etc/cron.daily/logrotate，实际运行时，Logrotate会调用配置文件/etc/logrotate.conf。
  2. [root@test ~]# cat /etc/cron.daily/logrotate
  3. #!/bin/sh
  5. /usr/sbin/logrotate /etc/logrotate.conf
  6. EXITVALUE=$?
  7. if [ $EXITVALUE != 0 ]; then
  8.     /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
  9. fi
  10. exit 0
  13. Logrotate是基于CRON运行的，所以这个时间是由CRON控制的，具体可以查询CRON的配置文件/etc/anacrontab（老版本的文件是/etc/crontab）
  14. [root@test ~]# cat /etc/anacrontab
  15. # /etc/anacrontab: configuration file for anacron
  17. # See anacron(8) and anacrontab(5) for details.
  19. SHELL=/bin/sh
  20. PATH=/sbin:/bin:/usr/sbin:/usr/bin
  21. MAILTO=root
  22. # the maximal random delay added to the base delay of the jobs
  23. RANDOM_DELAY=45 //这个是随机的延迟时间，表示最大45分钟
  24. # the jobs will be started during the following hours only
  25. START_HOURS_RANGE=3-22 //这个是开始时间
  27. #period in days delay in minutes job-identifier command
  28. 1 5 cron.daily nice run-parts /etc/cron.daily
  29. 7 25 cron.weekly nice run-parts /etc/cron.weekly
  30. @monthly 45 cron.monthly nice run-parts /etc/cron.monthly
  32. 第一个是Recurrence period
  33. 第二个是延迟时间
  34. 所以cron.daily会在3:22+(5,45)这个时间段执行，/etc/cron.daily是个文件夹
  36. 通过默认/etc/anacrontab文件配置，会发现logrotate自动切割日志文件的默认时间是凌晨3点多。
  38. ==================================================================================================
  39. 现在需要将切割时间调整到每天的晚上12点，即每天切割的日志是前一天的0-24点之间的内容。
  40. 操作如下：
  41. [root@kevin ~]# mv /etc/anacrontab /etc/anacrontab.bak //取消日志自动轮转的设置
  43. [root@G6-bs02 logrotate.d]# cat nstc_nohup.out
  44. /data/nstc/nohup.out {
  45. rotate 30
  46. dateext
  47. daily
  48. copytruncate
  49. compress
  50. notifempty
  51. missingok
  52. }
  54. [root@G6-bs02 logrotate.d]# cat syslog
  55. /var/log/cron
  56. /var/log/maillog
  57. /var/log/messages
  58. /var/log/secure
  59. /var/log/history
  60. {
  61.     sharedscripts
  62.     compress
  63.     rotate 30
  64.     daily
  65.     dateext
  66.     postrotate
  67.     /bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true
  68.     endscript
  69. }
  71. 结合crontab进行自定义的定时轮转操作
  72. [root@kevin ~]# crontab -l
  73. #log logrotate
  74. 59 23 * * * /usr/sbin/logrotate -f /etc/logrotate.d/syslog >/dev/null 2>&1
  75. 59 23 * * * /usr/sbin/logrotate -f /etc/logrotate.d/nstc_nohup.out >/dev/null 2>&1
  77. [root@G6-bs02 ~]# ll /data/nstc/nohup.out*
  78. -rw------- 1 app app 33218 1月 25 09:43 /data/nstc/nohup.out
  79. -rw------- 1 app app 67678 1月 25 23:59 /data/nstc/nohup.out-20180125.gz

除了利用自带的Logrotate工具实现日志切割之外，还可以编写python脚本或shell脚本以实现日志切割。下面就简单列出几个实例说明下：

一、Python脚本实现日志切割

  1. 实例1：对jumpserver日志进行切割
  2. [root@test-vm01 mnt]# cat log_rotate.py
  3. #!/usr/bin/env python
  5. import datetime,os,sys,shutil
  7. log_path = '/opt/jumpserver/logs/'
  8. log_file = 'jumpserver.log'
  10. yesterday = (datetime.datetime.now() - datetime.timedelta(days = 1))
  12. try:
  13.     os.makedirs(log_path + yesterday.strftime('%Y') + os.sep + \
  14.                 yesterday.strftime('%m'))
  16. except OSError,e:
  17. print
  18. print e
  19.     sys.exit()
  22. shutil.move(log_path + log_file,log_path \
  23.             + yesterday.strftime('%Y') + os.sep \
  24.             + yesterday.strftime('%m') + os.sep \
  25.             + log_file + '_' + yesterday.strftime('%Y%m%d') + '.log')
  28. os.popen("sudo /opt/jumpserver/service.sh restart")
  30. 手动执行这个脚本：
  31. [root@test-vm01 mnt]# chmod 755 log_rotate.py
  32. [root@test-vm01 mnt]# python log_rotate.py
  34. 查看日志切割后的效果：
  35. [root@test-vm01 mnt]# ls /opt/jumpserver/logs/
  36. 2017  jumpserver.log 
  37. [root@test-vm01 mnt]# ls /opt/jumpserver/logs/2017/
  38. 09
  39. [root@test-vm01 mnt]# ls /opt/jumpserver/logs/2017/09/
  40. jumpserver.log_20170916.log
  42. 然后做每日的定时切割任务：
  43. [root@test-vm01 mnt]# crontab -e
  44. 30 1 * * * /usr/bin/python /mnt/log_rotate.py > /dev/null 2>&1
  46. --------------------------------------------------------------------------------------
  47. 实例2:对nginx日志进行切割
  48. [root@test-vm01 mnt]# vim log_rotate.py
  49. #!/usr/bin/env python
  51. import datetime,os,sys,shutil
  53. log_path = '/app/nginx/logs/'
  54. log_file = 'www_access.log'
  56. yesterday = (datetime.datetime.now() - datetime.timedelta(days = 1))
  58. try:
  59.     os.makedirs(log_path + yesterday.strftime('%Y') + os.sep + \
  60.                 yesterday.strftime('%m'))
  62. except OSError,e:
  63. print
  64. print e
  65.     sys.exit()
  68. shutil.move(log_path + log_file,log_path \
  69.             + yesterday.strftime('%Y') + os.sep \
  70.             + yesterday.strftime('%m') + os.sep \
  71.             + log_file + '_' + yesterday.strftime('%Y%m%d') + '.log')
  74. os.popen("sudo kill -USR1 `cat /app/nginx/logs/nginx.pid`")
  76. --------------------------------------------------------------------------------------
  77. 其他业务日志的切割脚本跟上面做法相同

二、shell脚本实现日志切割

  1. [root@qd-vpc-op-consumer01 ~]# cat /app/script/log_rotate.sh
  2. #!/bin/sh
  4. function rotate() {
  5. logs_path=$1
  7. echo Rotating Log: $1
  8. cp ${logs_path} ${logs_path}.$(date -d "yesterday" +"%Y%m%d")
  9. > ${logs_path}
  10.     rm -f ${logs_path}.$(date -d "7 days ago" +"%Y%m%d")
  11. }
  13. for i in $*
  14. do
  15.         rotate $i
  16. done
  18. --------------------------------------------------------------------------------------------------------------
  19. 每天定时切割日志的任务制定（比如对python的一个业务/data/log/xcspam/下的日志进行切割，0K的日志不进行切割）：
  20. [root@qd-vpc-op-consumer01 ~]# crontab -e
  21. #xcspam 日志切割
  22. 30 0 * * * find /data/log/xcspam/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
  24. 手动执行切割：
  25. [root@qd-vpc-op-consumer01 ~]# find /data/log/xcspam/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
  27. 切割后的日志效果：
  28. [root@qd-vpc-op-consumer01 ~]# ls /data/log/xcspam/
  29. xcspam_error.log xcspam_error.log-20170926
  31. --------------------------------------------------------------------------------------------------------------
  32. 比如对maridb日志进行切割
  33. [root@qd-vpc-op-consumer01 ~]# crontab -e
  34. #xcspam 日志切割
  35. 30 0 * * * find /var/log/mariadb/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
  37. [root@qd-vpc-op-consumer01 ~]# find /var/log/mariadb/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
  38. [root@qd-vpc-op-consumer01 ~]# ll /var/log/mariadb/
  39. 总用量 8
  40. -rw-r-----. 1 mysql mysql 0 9月 17 20:31 mariadb.log
  41. -rw-r-----. 1 root root 4532 9月 17 20:31 mariadb.log.20170916
  42. --------------------------------------------------------------------------------------------------------------
  44. 日志压缩脚本：
  45. [root@localhost ~]# ls /var/log/fss/nginx/
  46. nginx.20190506.log nginx.20190507.log nginx.20190508.log
  48. [root@localhost ~]# cat /root/log_clean.sh
  49. #!/usr/bin/sh
  50. #根据系统/服务/日志保留天数三个参数压缩日志
  51. #usage: sh clearlog.sh sysname appname keepdays
  52. sysName=$1
  53. appName=$2
  54. keepDay=$3
  55. logDir=/var/log/${sysName}/${appName}
  56. logFile=${appName}.*[0-9][0-9].log
  57. cd ${logDir}
  58. find ./ -name "${logFile}" -mtime -${keepDay} -exec gzip {} \;
  61. [root@localhost ~]# sh /root/log_clean.sh fss nginx 3
  63. [root@localhost ~]# ls /var/log/fss/nginx/
  64. nginx.20190506.log.gz nginx.20190507.log.gz nginx.20190508.log.gz
  66. 还可以针对日志保留策略，调整成日志清理脚本。

推荐用的Nginx日志轮转方法 [部署在nginx的日志目录下]

  1. #!/bin/bash
  3. yesterday=`date -d "-1 days" +'%Y%m%d'`
  4. cd `dirname $0`
  5. basedir=`pwd`
  6. logdir="${basedir}/bak"
  7. bindir="${basedir%/*}/sbin"
  8. mkdir -p ${logdir}
  10. for log in `ls *.log 2>/dev/null`
  11. do
  12.     mv ${log} ${logdir}/${log}.${yesterday}.bak
  13. # gzip ${logdir}/${log}.${yesterday}
  14. done
  16. ${bindir}/nginx -s reload
  18. cd ${logdir}
  19. find . -type f -name "*.bak" -mtime +7 | xargs rm -f

- END -

  1. 最近整理一份面试资料《Java技术栈学习手册》，覆盖了Java技术、面试题精选、Spring全家桶、Nginx、SSM、微服务、数据库、数据结构、架构等等。获取方式：点“ 在看，关注公众号 Java后端 并回复 777 领取，更多内容陆续奉上。推荐阅读 1. 15000 字 30 图讲解 AQS2. 如何设计订单系统？不妨看看这篇文章3. 用命令行管理你的 GitHub 项目，不必再开网页4. 怎么去掉 IDEA 中 XML 显示的屎黄色5. 程序员需知的 58 个网站喜欢文章，点个在看

发表评论

表情：
评论列表 （有 0 条评论，646人围观）

还没有评论，来说两句吧...

相关阅读

    相关 推荐一款代码开发神器

    作为程序员如果你的开发环境是Linux，而且是不带图形环境的Linux，比如互联网公司的开发机，远程服务器、云端服务器等等，那么在这种情况下你一般都使用什么代码编辑器来进行开发

    清疚清疚/ 0 赞/ 465 阅读

    相关 推荐一款神器软件！！！

    不知道各位看官有没有遇到这种情况，你有一大堆office/word/pdf文档，你想找到其中一个文档，但是你不知道它叫什么它在哪，只能隐隐约约记得一些大概内容或者关键词，这时候

    迷南。迷南。/ 0 赞/ 455 阅读