ElasicSearch配置文件常用配置总结

青旅半醒 2022-01-26 15:53 384阅读 0赞

配置文件位于es根目录的config目录下面，有elasticsearch.yml和logging.yml两个配置，主配置文件是elasticsearch.yml，日志配置文件是logging.yml，elasticsearch调用log4j记录日志，所以日志的配置文件可以按照默认的设置。

所有的配置都可以使用环境变量，例如：node.rack: $\{RACK\_ENV\_VAR\}  
表示环境变量中有一个RACK\_ENV\_VAR变量。

**一、Cluster**

cluster.name: elasticsearch  
配置的集群名称，默认是elasticsearch，es服务会通过广播方式自动连接在同一网段下的es服务，通过多播方式进行通信，同一网段下可以有多个集群，通过集群名称这个属性来区分不同的集群。

**二、Node**

node.name: "node-1"  
当前配置所在机器的节点名，你不设置就默认随机指定一个name列表中名字，该name列表在es的jar包中config文件夹里name.txt文件中，其中有很多作者添加的有趣名字。

node.master: true  
指定该节点是否有资格被选举成为node（注意这里只是设置成有资格， 不代表该node一定就是master），默认是true，es是默认集群中的第一台机器为master，如果这台机挂了就会重新选举master。

node.data: true  
指定该节点是否存储索引数据，默认为true。

如何配置参考：[elasticsearch节点(角色)类型解释node.master和node.data][elasticsearch_node.master_node.data]

master和data同时配置会产生一些奇异的效果：  
        1) 当master为false，而data为true时，会对该节点产生严重负荷。  
        2) 当master为true，而data为false时，该节点作为一个协调者，可以理解为管理集群索引等相关信息的节点，不参文档层面的变更和搜索。  
        3) 当master为false，data也为false时，该节点就变成了一个负载均衡器。  
        你可以通过连接http://localhost:9200/\_cluster/health或者http://localhost:9200/\_cluster/nodes，或者使用插件http://github.com/lukas-vlcek/bigdesk或http://mobz.github.com/elasticsearch-head来查看集群状态。

node.rack: rack314  
每个节点都可以定义一些与之关联的通用属性，用于后期集群进行碎片分配时的过滤：

node.max\_local\_storage\_nodes: 1  
默认情况下，多个节点可以在同一个安装路径启动，如果你想让你的es只启动一个节点

**三、Index**

index.number\_of\_shards: 5  
设置默认索引分片个数，默认为5片。

index.number\_of\_replicas: 1  
设置默认索引副本个数，默认为1个副本。如果采用默认设置，而你集群只配置了一台机器，那么集群的健康度为yellow，也就是所有的数据都是可用的，但是某些复制没有被分配（健康度可用 curl 'localhost:9200/\_cat/health?v' 查看， 分为green、yello或red。green代表一切正常，集群功能齐全，yello意味着所有的数据都是可用的，但是某些副分片没有被分配，red则代表因为某些原因，某些数据不可用,一个索引的中的数据不完整了就显示red了）。  
当你想要禁用分布式时，你可以进行如下设置：  
index.number\_of\_shards: 1  
index.number\_of\_replicas: 0

这两个属性的设置直接影响集群中索引和搜索操作的执行。假设你有足够的机器来持有主分片和副分片，那么可以按如下规则设置这两个值：  
        1) 拥有更多的主分片可以提升索引执行能力，并允许通过机器分发一个大型的索引；  
        2) 拥有更多的副分片能够提升搜索执行能力以及集群能力。  
        对于一个索引来说，number\_of\_shards只能设置一次，也就是一旦确定不能修改（为什么不能修改主分片的数据量，[ElasticSearch原理][ElasticSearch]里面提到过），而number\_of\_replicas可以使用索引更新设置API在任何时候被增加或者减少。  
        可以连接http://ip:port/\_cat/indices?v来检测索引的状态。更多端口命令查看：[ElasticSearch5.6.1监控集群状态、查看集群信息的一般操作方法][ElasticSearch5.6.1]

**四、Paths**

path.conf: /path/to/conf  
设置配置文件的存储路径（elasticsearch.yml和logging.yml所在的位置），默认是es根目录下的config文件夹。

path.data: /path/to/data  
设置索引数据的存储路径，默认是es根目录下的data文件夹，可以设置多个存储路径，用逗号隔开，例：path.data: /path/to/data1,/path/to/data2

path.work: /path/to/work  
设置临时文件的存储路径，默认是es根目录下的work文件夹。

以上这种颜色的三个路径尽量不要放在ES的根目录下，如果重现安装ES数据会丢失。

path.logs: /path/to/logs  
设置日志文件的存储路径，默认是es根目录下的logs文件夹。

path.plugins: /path/to/plugins  
设置插件的存放路径，默认是es根目录下的plugins文件夹, 插件在es里面普遍使用，用来增强原系统核心功能。（例如分词器，head插件等，但是在ES6.x以后head插件需要单独安装了，不能放在ES的plugins文件中了）

**五、Plugin**

plugin.mandatory: mapper-attachments,lang-groovy  
插件托管位置，若列表中的某一个插件未安装，则节点无法启动

**六、Memory**

bootstrap.mlockall: true  
JVM开始交换时，ElasticSearch表现并不好：你需要保障JVM不进行交换，可以将bootstrap.mlockall设置为true禁止交换，设置为true来锁住内存不进行swapping。因为当jvm开始swapping时es的效率会降低，所以要保证它不swap，可以把ES\_MIN\_MEM和ES\_MAX\_MEM两个环境变量设置成同一个值，并且保证机器有足够的内存分配给es。同时也要允许elasticsearch的进程可以锁住内存，linux下启动es之前可以通过\`ulimit -l unlimited\`命令设置。[ElasticSearch优化系列七：优化建议][ElasticSearch 1]注意:内存也不是越大越好,一般64位机器,最大分配内存别才超过32G

问题：[ES分片报unassigned原因为ALLOCATION\_FAILED（由于分片分配失败导致未分配）][ES_unassigned_ALLOCATION_FAILED]

**七、Network And HTTP**

network.bind\_host: 192.168.0.1   \#只有本机可以访问http接口  
设置绑定的ip地址，可以是ipv4或ipv6的，默认为0.0.0.0，绑定这台机器的任何一个ip。

network.publish\_host: 192.168.0.1  
设置其它节点和该节点交互的ip地址，如果不设置它会自动判断，值必须是个真实的ip地址。

network.host: 192.168.0.1  
这个参数是用来同时设置bind\_host和publish\_host上面两个参数。

http.port: 9200  
设置对外服务的http端口，默认为9200。

transport.tcp.port: 9300  
设置节点之间交互的tcp端口，默认是9300，如果http.port:9300,则transport.tcp.port: 9400,发现规律了把，不废话了。

transport.tcp.compress: true  
设置是否压缩tcp传输时的数据，默认为false，不压缩。

http.max\_content\_length: 100mb  
设置内容的最大容量，默认100mb

http.enabled: false  
是否使用http协议对外提供服务，默认为true，开启。

**八、Gateway**

gateway.type: local

网关允许在所有集群重启后持有集群状态，集群状态的变更都会被保存下来，当第一次启用集群时，可以从网关中读取到状态，默认网关类型（也是推荐的）是local，可以设置为本地文件系统，分布式文件系统，hadoop的HDFS，和amazon的s3服务器等。

gateway.recover\_after\_nodes: 1  
一个集群中的N个节点启动后,才允许进行恢复处理，默认为1

gateway.recover\_after\_time: 5m  
设置初始化恢复过程的超时时间,超时时间从上一个配置中配置的N个节点启动后算起，默认是5分钟。

gateway.expected\_nodes: 2  
设置这个集群中节点的数量上限，默认为2，一旦这N个节点启动，就会立即进行数据恢复。

**九、Recovery Throttling**

下面这些配置允许在初始化恢复,副本分配,再平衡,或者添加和删除节点时控制节点间的分片分配

/----------------begin-----------------/

cluster.routing.allocation.node\_initial\_primaries\_recoveries: 4  
设置一个节点初始化数据恢复时，并发恢复线程的个数，默认为4。有两种情况，一种是在初始复苏过程中cluster.routing.allocation.node\_initial\_primaries\_recoveries，另一种是在添加、删除节点及调整时：cluster.routing.allocation.node\_concurrent\_recoveries

cluster.routing.allocation.node\_concurrent\_recoveries: 2  
添加删除节点或负载均衡时并发恢复线程的个数，默认为4。

/-----------------end----------------/

indices.recovery.max\_size\_per\_sec: 0   该配置在ES0.90.1版本废掉改为indices.recovery.max\_bytes\_per\_sec代替  
设置恢复时的吞吐量(例如:100mb,默认为20mb,0为无限制.如果机器还有其他业务在跑的话还是限制一下的好)

indices.recovery.concurrent\_streams: 5  
设置这个参数来限制从其它分片恢复数据时最大同时打开并发流的个数，默认为5。

注意: 合理的设置以上参数能有效的提高集群节点的数据恢复以及初始化速度

**十、Discovery**

discovery.zen.minimum\_master\_nodes: 1  
设置这个参数来保证集群中的节点可以知道其它N个有master资格的节点。默认为1， 设置值参考：(有master资格节点数/2) + 1，防止脑裂，[ElasticSearch6.5.4集群搭建][ElasticSearch6.5.4]，里面提到了脑裂

/----------------begin-----------------/

discovery.zen.ping.timeout: 3s  
设置集群中自动发现其它节点时ping连接超时时间，默认为3秒，对于比较差的网络环境可以高点的值来防止自动发现时出错。设置的时间越长选主过程非常慢。详细查看：[discovery.zen.ping\_timeout 参数作用的疑惑和探究][discovery.zen.ping_timeout]

[elasticsearch集群发现机制:Zen Discovery][elasticsearch_Zen Discovery]

[Elasticsearch 技术分析（六）： 自动发现机制 - Zen Discoveryedit][Elasticsearch _ _ - Zen Discoveryedit]

/-----------------end----------------/

discovery.zen.ping.multicast.enabled: false  
设置是否打开多播发现节点，默认是true。

多播是需要看服务器是否支持的，由于其安全性，其实现在基本的云服务（比如阿里云）是不支持多播的，所以即使你开启了多播模式，你也仅仅只能找到本机上的节点。  
单播模式安全，也高效，但是缺点就是如果增加了一个新的机器的话，就需要每个节点上进行配置才生效了。

discovery.zen.ping.unicast.hosts: \["host1", "host2:port", "host3\[portX-portY\]"\]  
设置集群中master节点的初始列表，可以通过这些节点来自动发现新加入集群的节点。

action.destructive\_requires\_name 默认false 允许 可设置true不允许  
设置是否可以通过正则或者\_all删除或者关闭索引

**十一、X-Pack**

官方插件 相关设置请查看此处：  
[https://www.elastic.co/guide/en/x-pack/current/xpack-settings.html][https_www.elastic.co_guide_en_x-pack_current_xpack-settings.html]

**十二、head插件相关配置**

http.cors.enabled: true  
http.cors.allow-origin: "\*"  
http.cors.allow-credentials: true  
配置head等插件监控ES信息

参考：

[ElasticSearch优化系列七：优化建议][ElasticSearch 1]

[elasticsearch性能调优][elasticsearch]

[ELASTICSEARCH集群部署文档][ELASTICSEARCH]

[一、Es基础概念及配置文件详解][Es]

[elasticsearch集群发现机制:Zen Discovery][elasticsearch_Zen Discovery]

[Elasticsearch 技术分析（六）： 自动发现机制 - Zen Discoveryedit][Elasticsearch _ _ - Zen Discoveryedit]

[elasticsearch系列八：ES 集群管理（集群规划、集群搭建、集群管理）][elasticsearch_ES]

[elasticsearch 集群][elasticsearch 1]

[elasticsearch配置][elasticsearch 2]

[elasticsearch_node.master_node.data]: https://blog.csdn.net/weixin_33824363/article/details/85970000
[ElasticSearch]: https://blog.csdn.net/qq_39669058/article/details/86715457
[ElasticSearch5.6.1]: https://blog.csdn.net/deliciousion/article/details/78076882
[ElasticSearch 1]: https://www.jianshu.com/p/29ffce0850af
[ES_unassigned_ALLOCATION_FAILED]: https://blog.csdn.net/qq_39669058/article/details/89636993
[ElasticSearch6.5.4]: https://blog.csdn.net/qq_39669058/article/details/86680832
[discovery.zen.ping_timeout]: https://elasticsearch.cn/question/4199
[elasticsearch_Zen Discovery]: https://blog.csdn.net/wangmaohong0717/article/details/73203866
[Elasticsearch _ _ - Zen Discoveryedit]: https://www.cnblogs.com/jajian/p/10176707.html
[https_www.elastic.co_guide_en_x-pack_current_xpack-settings.html]: https://www.elastic.co/guide/en/x-pack/current/xpack-settings.html
[elasticsearch]: https://1358440610-qq-com.iteye.com/blog/2336072
[ELASTICSEARCH]: http://www.wklken.me/posts/2016/06/29/deploy-es.html
[Es]: https://www.jianshu.com/p/714139587f39
[elasticsearch_ES]: https://www.cnblogs.com/leeSmall/p/9220535.html
[elasticsearch 1]: https://www.cnblogs.com/Leo_wl/p/4869076.html
[elasticsearch 2]: https://www.cnblogs.com/hanyouchun/p/5163183.html