etcd集群搭建和使用中常见的报错信息（热key探测系列教程）

爱被打了一巴掌 2023-02-20 06:14 5阅读 0赞

etcd的下载地址：[https://github.com/etcd-io/etcd/releases][https_github.com_etcd-io_etcd_releases]

当前最新的v3.4.9，我之前用的时候包括目前京东热key线上都是用的3.4.6，下面主要是看一下如何搭建etcd集群。

如果是本地测试单点的话，就在上面链接下载对应的操作系统版本，打开后

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3RpYW55YWxlaXhpYW93dQ_size_16_color_FFFFFF_t_70][]

直接启动etcd就算本地启动成功了，启动后就可以用etcdctl控制台进行操作，或者用代码操作etcd即可。

集群的话，以linux 3节点集群为例。

创建一个sh脚本，如下

#!/bin/bash
    
    if [ -z $NAME ];then
        NAME=my-etcd-1
    fi
    #if [ -z $DATADIR ];then
        #DATADIR=/export/etcd_data
    #fi
    if [ -z $MYHOST ];then
        MYHOST=http://127.0.0.1
    fi
    if [ -z $PORT ];then
            PORT=2379
    fi
    if [ -z $CLUSTER_PORT ];then
            CLUSTER_PORT=2380
    fi
    if [ -z $CLUSTER ];then 
        CLUSTER=my-etcd-1=http://localhost:2380,my-etcd-2=http://localhost:2382,my-etcd-3=http://localhost:2384
    fi
    if [ -z $CLUSTER_TOKEN ];then 
        CLUSTER_TOKEN=my-etcd-token
    fi
    if [ -z $CLUSTER_STATE ];then
        CLUSTER_STATE=new
    fi
        
    ETCD_CMD="./etcd --name ${NAME} --data-dir ${DATADIR}  --listen-client-urls ${MYHOST}:${PORT}   --advertise-client-urls ${MYHOST}:${PORT}  --listen-peer-urls ${MYHOST}:${CLUSTER_PORT} \
    --initial-advertise-peer-urls ${MYHOST}:${CLUSTER_PORT} \
    --initial-cluster $CLUSTER  \
    --initial-cluster-token $CLUSTER_TOKEN \
    --initial-cluster-state ${CLUSTER_STATE} \
    --auto-compaction-retention=10 \
    -–quota-backend-bytes=8589934592 \
        $*"
    echo -e "Running '$ETCD_CMD'\nBEGIN ETCD OUTPUT\n"
    exec $ETCD_CMD

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3RpYW55YWxlaXhpYW93dQ_size_16_color_FFFFFF_t_70 1][]

和etcd可执行文件放一起。

这个shell脚本里，大部分属性都是通过外传配置的，最好是通过环境变量配置。将这个文件夹（包含3个文件）复制三份，分别上传到3个主机或打包后放到docker里，用docker的话，需要再加一个dockerfile文件，dockerfile里就直接启动这个sh即可。

上传完毕后，就需要配置sh脚本里的各个参数属性了。

注意shell里面的配置项，里面有最大存储是8G，自动压缩间隔是10小时，可以自行调整。etcd如果磁盘写满（默认2G）后，就无法继续写入了，必须压缩 清理后才能继续写入。

譬如ip1、ip2、ip3 三个机器。各自的配置（主机环境变量，或docker环境变量）如下

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3RpYW55YWxlaXhpYW93dQ_size_16_color_FFFFFF_t_70 2][]

这就是etcd1的配置，注意一下name，就是一个唯一的name，那么etcd2的name就是my-etcd-2

MYHOST就是自己的ip。

CLUSTER\_STATE代表集群状态，如果是加入一个已有的集群，就是existing。如果是新组建集群，就是new。

CLIENT\_URLS就还是自己的ip，再加上127.0.0.1  注意加上端口后。

CLUSTER就是集群内所有etcd的ip+端口。

就这样分别启动3个etcd就可以了。观察日志，看他们的联通状态。

常见异常：  
1 节点启动后：tocommit(42081425) is out of range \[lastIndex(0)\]. Was the raft log corrupted, truncated, or lost

命令：  
cd /export/App/bin

查看所有member     ./etcdctl  member list  
删除掉那个数据不对的：   
./etcdctl member remove 8837e51603af62c2  
重新添加进来：  
./etcdctl member add my-etcd-2 --peer-urls=http://10.188.128.140:2380

2 ETCD数据库异常：mvcc: database space exceeded解决

参考：https://www.cnblogs.com/davygeek/p/8524477.html  
https://www.cnblogs.com/zjz20/p/12973817.html

使用API3  
export ETCDCTL\_API=3  
\# 查看告警信息，告警信息一般 memberID:8630161756594109333 alarm:NOSPACE  
etcdctl —endpoints=http://127.0.0.1:2379 alarm list

\# 获取当前版本  
rev=$(etcdctl —endpoints=http://127.0.0.1:2379 endpoint status —write-out=“json” | egrep -o ‘”revision”:\[0-9\]\*’ | egrep -o ‘\[0-9\].\*’)  
\# 压缩掉所有旧版本  
etcdctl —endpoints=http://127.0.0.1:2379 compact $rev  
\# 整理多余的空间  
etcdctl —endpoints=http://127.0.0.1:2379 defrag  
\# 取消告警信息  
etcdctl —endpoints=http://127.0.0.1:2379 alarm disarm

[https_github.com_etcd-io_etcd_releases]: https://github.com/etcd-io/etcd/releases
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3RpYW55YWxlaXhpYW93dQ_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200623181448520.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3RpYW55YWxlaXhpYW93dQ==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3RpYW55YWxlaXhpYW93dQ_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20200623183111206.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3RpYW55YWxlaXhpYW93dQ==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3RpYW55YWxlaXhpYW93dQ_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20200706174716261.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3RpYW55YWxlaXhpYW93dQ==,size_16,color_FFFFFF,t_70