1.Map Reduce
Map-Reduce是一种计算模型,简单的说就是将大批量的工作(数据)分解(MAP)执行,然后再将结果合并成最终结果(REDUCE)。
MongoDB提供的Map-Reduce非常灵活,对于大规模数据分析也相当实用。
db.collection.mapReduce(
function() {emit(key,value);}, //map 函数
function(key,values) {return reduceFunction}, //reduce 函数
{
out: collection,
query: document,
sort: document,
limit: number
}
)
参数名 | 参数说明 |
---|---|
map | 映射函数 (生成键值对序列,作为 reduce 函数参数)。 |
reduce | 统计函数,reduce函数的任务就是将key-values变成key-value,也就是把valus数组变成一个单一的值value。 |
out | 统计结果存放集合 (不指定则使用临时集合,在客户端断开后自动删除)。 |
query | 一个筛选条件,只有满足条件的文档才会调用map函数。(query。limit,sort可以随意组合) |
sort | 和limit结合的sort排序参数(也是在发往map函数前给文档排序),可以优化分组机制 |
limit | 发往map函数的文档数量的上限(要是没有limit,单独使用sort的用处不大) |
// *** 3T Software Labs, Studio 3T: MapReduce Job ****
// Variable for db
var __3tsoftwarelabs_db = "hnzs";
// Variable for map
var __3tsoftwarelabs_map = function () {
// Enter the JavaScript for the map function here
// You can access the current document as 'this'
//
// Available functions: assert(), BinData(), DBPointer(), DBRef(), doassert(), emit(), gc()
// HexData(), hex_md5(), isNumber(), isObject(), ISODate(), isString()
// Map(), MD5(), NumberInt(), NumberLong(), ObjectId(), print()
// printjson(), printjsononeline(), sleep(), Timestamp(), tojson()
// tojsononeline(), tojsonObject(), UUID(), version()
//
// Available properties: args, MaxKey, MinKey
emit(this.ModifyBy, this.TransferQty);
}
;
// Variable for reduce
var __3tsoftwarelabs_reduce = function (key, values) {
// Enter the JavaScript for the reduce function here
// 'values' is a list of objects as emit()'ed by the map() function
// Make sure the object your return is of the same type as the ones emit()'ed
//
// Available functions: assert(), BinData(), DBPointer(), DBRef(), doassert(), emit(), gc()
// HexData(), hex_md5(), isNumber(), isObject(), ISODate(), isString()
// Map(), MD5(), NumberInt(), NumberLong(), ObjectId(), print()
// printjson(), printjsononeline(), sleep(), Timestamp(), tojson()
// tojsononeline(), tojsonObject(), UUID(), version()
//
// Available properties: args, MaxKey, MinKey
//var reducedValue = "" + values;
return values.join(',')
}
;
db.runCommand({
mapReduce: "Transfer",
map: __3tsoftwarelabs_map,
reduce: __3tsoftwarelabs_reduce,
out: { "inline" : 1},
query: {"ErpID" : "1001906051034641"},
sort: {},
inputDB: "hnzs",
});
1.query
查询条件查询符合条件的筛选条件
2.sort
和limit结合的sort排序参数(也是在发往map函数前给文档排序),可以优化分组机制
3.map
function (){
emit(this.key ,this.value)
}
如上面所示this.key 分组的key
emit(this.ModifyBy+ this.Status + this.SourceType, this.TransferQty + ',' +this.Status);
this.value 是需要reduce函数处理数据
4.reduce
function(key,values){
return Array.sum(values)
}
function(key,values){
return values.join(',')
}
总结
mapReduce 就是两个函数 map 和Reduce
map key是分组条件
values是你要Reduce的值
Reduce主要的作用是将值打造成需要的样子