关于elaticsearch中更新数据的几种方式

小灰灰 2022-05-29 09:58 2248阅读 0赞

作为一个成熟的框架elasticsearch里面提供丰富的操作数据的api,本篇我们就来学习一下在es中更新数据的几种方式。

(一)更新文档

(1)部分更新:

java api:

  1. ` HashMap<String,Object> data=new HashMap<>();
  2. data.put("name","woshigcs");
  3. data.put("age",25);
  4. UpdateRequestBuilder urb= client.prepareUpdate("active2018-03-21", "active", "18");
  5. urb.setDoc(data);
  6. urb.execute().actionGet();
  7. System.out.println("update ok......");

注意部分更新功能,前提是索引和该条数据已经存在,否则会抛出对应的异常,只要任何一个不满足,都会更新失败。

curl:

  1. curl -XPOST 'localhost:9200/test/type1/1/_update' -d '{
  2. "doc" : {
  3. "name" : "new_name"
  4. }
  5. }

(2)使用detect_noop

java api:

  1. ` HashMap<String,Object> data=new HashMap<>();
  2. data.put("name","woshigcs");
  3. data.put("age",25);
  4. UpdateRequestBuilder urb= client.prepareUpdate("active2018-03-21", "active", "18");
  5. urb.setDoc(data);
  6. urb.setDetectNoop(false);//默认是true
  7. urb.execute().actionGet();
  8. System.out.println("update ok......");

curl方式:

  1. curl -XPOST 'localhost:9200/test/type1/1/_update' -d '{
  2. "doc" : {
  3. "name" : "new_name"
  4. },
  5. "detect_noop": false
  6. }'

注意detect_noop的意思:

默认情况下detect_noop=true

默认情况下只有原来的source和新的source存在不同的字段情况下才会重建索引,如果一模一样是不会触发重建索引的,如果将detect_noop=false不管内容有没有变化都会重建索引,这一点可以通过version的值的变化来发现

更新的文档,必须提前存在,除非你用upset+script来更新,否则会报document missing异常

(二)script + upset更新方式:

java api

  1. ` HashMap<String,Object> params=new HashMap<>();
  2. HashMap<String,Object> data=new HashMap<>();
  3. data.put("name","12345");
  4. params.put("source",data);
  5. StringBuffer sb_json = new StringBuffer("ctx._source=source");
  6. Script script = new Script(sb_json.toString(), ScriptService.ScriptType.INLINE, "groovy", params);
  7. UpdateRequestBuilder urb= client.prepareUpdate("active2018-03-11", "active", "16");
  8. urb.setScript(script);
  9. urb.setUpsert(data);
  10. urb.execute().actionGet();
  11. System.out.println("更新完事。。。。。。 ");

curl

  1. curl -XPOST 'localhost:9200/test/type1/1/_update' -d '{
  2. "script" : {
  3. "inline": "ctx._source.counter += count",
  4. "params" : {
  5. "count" : 4
  6. }
  7. },
  8. "upsert" : {
  9. "counter" : 1
  10. }
  11. }'

(三):scripted_upsert用法:

官网个的例子没有跑通,下面这个是按照stackoverflow上面的例子改写的,可以通过

在postman里面已经跑通:

首先是在post请求的url

java api:

  1. ` HashMap<String,Object> params=new HashMap<>();
  2. HashMap<String,Object> data=new HashMap<>();
  3. data.put("name","12345");
  4. HashMap<String,Object> newdata=new HashMap<>();
  5. newdata.put("name","789");
  6. params.put("data",data);
  7. params.put("newdata",newdata);
  8. StringBuffer sb_json = new StringBuffer("if (ctx.op == \"create\") ctx._source=data; else ctx._source=newdata");
  9. Script script = new Script(sb_json.toString(), ScriptService.ScriptType.INLINE, "groovy", params);
  10. UpdateRequestBuilder urb= client.prepareUpdate("active2018-03-11", "active", "16");
  11. urb.setScript(script);
  12. urb.setScriptedUpsert(true);
  13. urb.setUpsert("{}");//必须有这个值,否则会报document missing exception
  14. urb.execute().actionGet();
  15. System.out.println("更新完事。。。。。。 ");

curl方式

  1. http://192.168.201.5:9200/active2018-03-11/active/11/_update

然后是下面的body里面选择raw然类型是JSON(application/json):

  1. {
  2. "scripted_upsert":true,
  3. "script" : {
  4. "script":"if (ctx.op == \"create\") ctx._source=data; else ctx._source=newdata ",
  5. "params" : {
  6. "data":{
  7. "ct":11,
  8. "aid":"a22",
  9. "tid":"t11"
  10. },
  11. "newdata":{
  12. "ct":1000,
  13. "aid":"a2qq2",
  14. "tid":"qq"
  15. }
  16. }
  17. },
  18. "upsert" : {}
  19. }

执行上面的脚本,首先会检查索引是否存在,如果不存在就会新建一个索引,然后会判断id等于11这条数据存在不存在,如果不存在就把data里面的数据作为第一次的插入数据,如果已经存在就会把原来的数据删除掉然后把newdata的数据插入进去,可以理解就是更新。这里需要注意,如果用的是动态mapping,需要注意数据的类型,动态mapping下两条数据里面的同一个字段可以拥有不同的类型,这样既灵活又带来了风险,所以对于严谨类型的数据推荐使用静态mapping,严格限定字段的类型。

(四)doc_as_upsert方式:

这个方式其实就是前面两个的简洁版,意思就是没有就插入有就覆盖,注意这是是覆盖并不是把原来的删除在插入,而且如果是动态mapping还可以改变字段的类型,但不建议这么用。

java api:

  1. ` HashMap<String,Object> data=new HashMap<>();
  2. data.put("name","234");
  3. data.put("age",123);
  4. data.put("address","北京海淀区");
  5. UpdateRequestBuilder urb= client.prepareUpdate("active2018-03-11", "active", "16");
  6. urb.setDoc(data);
  7. urb.setDocAsUpsert(true);
  8. urb.execute().actionGet();//
  9. System.out.println("操作成功......");

curl方式:

  1. http://192.168.201.5:9200/active2018-03-11/active/12/_update
  2. {
  3. "doc" : {
  4. "name" : "6755",
  5. "age":12,
  6. "address":"北京朝阳"
  7. },
  8. "doc_as_upsert" : true
  9. }

总结:

上面更新操作es几种方法,总体来说使用script更新的方式最强大,可以做一些复杂业务场景的操作,如数值的累增或者操作集合对象元素的追加或者删除,其他的几种方式适合简单的更新操作。

不管使用那种更新方式,我们都需要考虑并发问题,通过前面一系列的文章的介绍,我们知道es里面的更新,删除,都是伪操作,尤其是更新,在es内部的实际处理流程是:

(1)查询旧的document数据

(2)修改成最新的数据

(3)然后重建整条document

在这里的三个阶段,如果同时又另外一个进程也在修改该条数据,就会发生冲突,es里面是根据version字段来判断是否冲突的,在上面的步骤中的第一步查询旧的数据会得到version字段,在第三步时候写的时候会把这个version字段在传回,这个时候如果发现version不一致就会发生冲突然后抛出异常,所以大家在使用的时候可以优先通过设计避免多线程操作,如果实在没法避免则可以使用es里面的提供的version字段来通过乐观锁控制并发问题,如果操作是简单的累加或累减还可以用更简单的方法冲突重试来解决并发问题,一句话就是具体场景具体分析,关于es并发问题后面有空可以单独再整理一篇文章出来。

发表评论

表情:
评论列表 (有 0 条评论,2248人围观)

还没有评论,来说两句吧...

相关阅读

    相关 常用数据校验方式

    我们知道数据在传输过程中,可能会存在数据出错的情况。为了保证数据传输的正确性,因此会采取一些方法来判断数据是否正确,或者在数据出错的时候及时发现进行改正。常用的几种数据校验方式