聚合攻略——MongoDB

╰+哭是因爲堅強的太久メ 2023-02-20 07:05 41阅读 0赞

**聚合**：主要用于简单的数据处理（平均值，求和等），并返回计算后的数据结果。

MongoDB提供了3种方式来执行聚合命令：聚合管道方法，通过aggregate语句实现；map-reduce方法和单一目标聚合方法(此次不讲)。

--------------------

## 一、聚合管道方法（aggregate） ##

聚合管道方法，可以理解为合计流水线法，就是把集合里若干含数值型的文档记录，按其键对应的值进行各种分类统计。该方法支持分片集合操作。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70][]

--------------------

语法：db.Col.aggregate(  
\[ \{$match:\{< field>\}\}, //统计查找条件  
\{ $group:\{ < field1> , < field2> \}\}  
\])  
field1 为分类字段，field2为含各种统计操作符的数值型字段，  
如 $ sum,$ min,$ max,$ push,$ addToSet,$ first,$last操作符。

### ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 1][] ###

--------------------

### 一（1）管道命令之 $group ###

按照某个字段进行分组  
$group是所有聚合命令中用的最多的一个命令，用来将集合中的文档分组，可用于统计结果。

db.shuju.aggregate(\[\{$group:\{\_id:null,"总人数":\{$sum:1\},"平均年龄":\{$avg:"$age"\}\}\}\])

\{$sum:1\}表示计算机数量 \{$sum:"$age"\} 表示计算机 age 总数，

同理 \{$avg:"$age"\}，表示age平均数，max，min 同样。

### ![2020062413482058.png][] ###

**可以用$project 不显示内容**

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 2][]

--------------------

### 一（2）管道命令之 $match ###

$match用于进行数据的过滤，是在能够在聚合操作中使用的命令，和find区别在于$match 操作可以把结果交给下一个管道处理。

查找年龄大于10岁的数据，按$sort升序排序

db.shuju.aggregate(\{$match:\{age:\{$gt:10\}\}\},\{$sort:\{"age":1\}\})

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 3][]

**使用 $skip 跳过第一个文档，$limit 输出限制位3个**

db.shuju.aggregate(\{$match:\{age:\{$gt:10\}\}\},

\{$sort:\{"age":1\}\},\{$skip:1\},\{$limit:3\})

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 4][]

--------------------

**例子 1：通过产品类型来进行分组，然后在统计卖出的数量**

db.item.aggregate(\[\{$group:\{\_id:"$pnumber",total:\{$sum:"$quantity"\}\}\}\])

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 5][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 6][]

--------------------

## 二 map-reduce方法 ##

Map-Reduce是一种计算模型，简单的说就是将大批量的工作（数据）分解（MAP）执行，然后再将结果合并成最终结果（REDUCE）。

MongoDB提供的Map-Reduce非常灵活，对于大规模数据分析也相当实用。

使用 MapReduce 要实现两个函数 Map 函数和 Reduce 函数,Map 函数调用 emit(key, value), 遍历 collection 中所有的记录, 将 key 与 value 传递给 Reduce 函数进行处理。

>db.collection.mapReduce(
       function() {emit(key,value);},  //map 函数
       function(key,values) {return reduceFunction},   //reduce 函数
       {
          out: collection,
          query: document,
          sort: document,
          limit: number
       }
    )

Map 函数必须调用 emit(key, value) 返回键值对。

参数说明:

1.  map ：映射函数 (生成键值对序列,作为 reduce 函数参数)。
2.  reduce 统计函数，reduce函数的任务就是将key-values变成key-value，也就是把values数组变成一个单一的值value。。
3.  out 统计结果存放集合 (不指定则使用临时集合,在客户端断开后自动删除)。
4.  query 一个筛选条件，只有满足条件的文档才会调用map函数。（query。limit，sort可以随意组合）
5.  sort 和limit结合的sort排序参数（也是在发往map函数前给文档排序），可以优化分组机制
6.  limit 发往map函数的文档数量的上限（要是没有limit，单独使用sort的用处不大）

以上面 **例子1** 为例通过产品类型来进行分组，然后在统计卖出的数量（两种方法）

var map1=function()\{emit(this.pnumber,this.quantity)\}  
var reduce1 = function(key,values)\{return Array.sum(values)\}  
db.item.mapReduce(map1,reduce1,\{out:"mymapreduce1"\})  
db.mymapreduce1.find()

db.item.mapReduce(  
function()\{emit(this.pnumber,this.quantity)\},  
function(key,values)\{return Array.sum(values)\},  
\{ out:"item\_total" \}  
)

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 7][]

结果表明共有 8个符合条件的文档， 在map函数中生成了 3个键值对文档，最后使用reduce函数将相同的键值分为 3 组。

*  result：储存结果的collection的名字,这是个临时集合，MapReduce的连接关闭后自动就被删除了。
 *  timeMillis：执行花费的时间，毫秒为单位
 *  input：满足条件被发送到map函数的文档个数
 *  emit：在map函数中emit被调用的次数，也就是所有集合中的数据总量
 *  ouput：结果集合中的文档个数**（count对调试非常有帮助）**
 *  ok：是否成功，成功为1
 *  err：如果失败，这里可以有失败原因，不过从经验上来看，原因比较模糊，作用不大

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/2020062412223748.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20200624124848471.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ==,size_16,color_FFFFFF,t_70
[2020062413482058.png]: https://img-blog.csdnimg.cn/2020062413482058.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20200624140342652.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 3]: https://img-blog.csdnimg.cn/20200624142454704.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 4]: https://img-blog.csdnimg.cn/20200624142647615.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 5]: https://img-blog.csdnimg.cn/20200624143632181.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 6]: https://img-blog.csdnimg.cn/20200624143855601.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ_size_16_color_FFFFFF_t_70 7]: https://img-blog.csdnimg.cn/20200624150228125.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc3NTI1NQ==,size_16,color_FFFFFF,t_70