MapReduce映射怎么定义

本篇内容主要讲解“MapReduce映射怎么定义”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“MapReduce映射怎么定义”吧!

创新互联长期为数千家客户提供的网站建设服务,团队从业经验10年,关注不同地域、不同群体,并针对不同对象提供差异化的产品和服务;打造开放共赢平台,与合作伙伴共同营造健康的互联网生态环境。为莱州企业提供专业的成都网站设计、成都做网站,莱州网站改版等技术服务。拥有10多年丰富建站经验和众多成功案例,为您定制开发。

  1. 定义

    map:俗称--映射,map之后元素个数不变

    如:

    x  --> (x,1) 
    y  --> (y,1)
    z  --> (z,1)

    reduce:俗称--规约,reduce之后元素个数<=当前个数(把key相同的元素,拉倒一起)

    如:

    x --> (x,1)  
    x --> (x,1)    -->>(x,1+1+1)
    x --> (x,1)

  2. mapReduce架构

    MR job提交到Yarn的工作流程==Yarn架构设计==Yarn工作流程

  3. shuffle

    map->shuffle->reduce

    理解:key相同的元素通过网络IO放到一起,进行业务计算

  4. 常用命令

    mapred

到此,相信大家对“MapReduce映射怎么定义”有了更深的了解,不妨来实际操作一番吧!这里是创新互联网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!


文章名称:MapReduce映射怎么定义
浏览地址:http://cdiso.cn/article/pcchsc.html

其他资讯