MapReduce开发总结,压缩及优化

x33g5p2x  于2020-09-30 发布在 MapReduce  
字(13.1k)|赞(0)|评价(0)|浏览(423)

1.MapReeduce开发总结

在编写MapReduce程序时,需要考虑的几个方面:

  1. 输入数据接口:InputFormat

    1. 默认使用的实现类是TextInputFormat
    2. TextInputFormat的功能逻辑是:一次读一行文本,然后将该行的起始偏移量作为key,行内容作为value返回
    3. KeyValueTextInputFormat每一行均为一条记录,被分隔符分割为key,value。默认分隔符是tab(\t)
    4. NlineInputFormat按照指定的行数N来划分切片
    5. CombinerTextInputFormat可以把多个小文件合并成一个切片处理,提高处理效率
    6. 用户还可以自定义InputFormat
  2. 逻辑处理接口Mapper

    用户根据业务需求实现其中的三个方法map(),setuo(),cleanup()

  3. Partitioner分区

    有默认实现HashPartitioner,逻辑是根据key的哈希值和numReduces来返回一个分区号

   key.hashCode()&Integer.MAXVALUE % numReduces

如果业务上有特殊需求,可以自定义分区

  1. Comparable排序

    1. 当我们用自定义的对象作为key来输出的时候,就必须要实现WritableComparable接口,重写其中的compareTo()方法
    2. 部分排序:对最终输出的每一个文件进行内部排序
    3. 全排序:对所有的数据进行排序,通常只有一个Reduce
    4. 二次排序:排序的条件有两个
  2. Combiner合并

    Combiner合并可以提高程序执行效率,减少IO传输,但是使用时必须不能影响原有的业务处理结果

  3. Reduce端分组:Groupingcomparator

    1. ReduceTask拿到输入数据(一个partition的所有数据)后,首先需要对数据进行分组,其分组的默认原则是key相同,然后对每一组kv数据调用一次reduce()方法,并且将这一组kv中的第一个kv的key作为参数传给Reduce的key,将这一组数据的value的迭代器传给Reduce()的values参数
    2. 利用上述机制,我们可以实现一个高效分组取最大值的逻辑
    3. 自定义一个bean对象用来封装我们的数据,然后改写其compareTo方法产生倒序排序的效果。然后自定义一个Groupingcomparator,将bean对象的分组逻辑改成按照我们的业务分组ID来分组(比如订单号)。这样我们要取的最大值就是Reduce()方法中传进来的key
  4. 逻辑处理接口Reduce

    用户根据业务需求实现其中三个方法:reduce(),setup(),cleanup()

  5. 输出数据接口:OutputFormat

    1. 默认实现类是TextOutputFormat,功能逻辑是:将每一个KV对目标文本文件中输出为一行
    2. SequenceFileOutputFormat将它的输出写为一个顺序文件。如果输出需要作为后续MapReduce任务的输入,这便是一种好的输出格式,因为它的格式紧凑,很容易被压缩
    3. 用户还可以自定义OutputFormat

2. Hadoop数据压缩

2.1 概述

  1. 压缩技术能够有效减少底层存储系统(HDFS)读写字节数。压缩提高了网络带宽和磁盘空间的效率。在Hadoop下,尤其是数据规模很大和工作符在密集的情况下,使用数据压缩显得非常重要。在这种情况下,I/O操作和网络数据传输需要花费大量的时间。还有,Shuffle与Merge过程同样也面临着巨大的I/O压力。
  2. 见于磁盘I/O和网络带宽是Hadoop的宝贵资源,数据压缩对于节省资源、最小化磁盘I/O和网络传输非常有帮助。不过,尽管压缩与解压操作的CPU开销不高,其性能的提升和资源的节省并非没有代价。
  3. 如果磁盘I/O和网络带宽影响了MapReduce作业性能,在任意,apReduce阶段启用压缩都可以改善端到端处理时间并减少I/O和网络流量
  4. 压缩MapReduce的一种优化策略:通过压缩编码对Mapper或者Reducer的输出进行压缩,以减少磁盘I/O,提高MR程序的运行速度(但相应增加了cpu的运算负担
  5. **注意:**压缩特性运用得当能提高性能,但运用不当也可能降低性能

基本原则:

  1. 运算密集型的job,少用压缩
  2. IO密集型的job,多用压缩

2.2 MR支持的压缩编码

压缩格式hadoop自带?算法文件扩展名是否可切分换成压缩格式后,原来的程序是否需要修改
DEDAULT是,直接使用DEFAULT.deflate和文本处理一样,不需要修改
Gzip是,直接使用DEFAULT.gz和文本处理一样,不需要修改
bzip2是,直接使用bzip2.bz2和文本处理一样,不需要修改
LZO否,需要安装LZO.lzo需要建索引,还需要指定输入格式
Snappy否,需要安装Snappy.snappy和文本处理一样,不需要修改

为了支持多种压缩/解压缩算法,Hadoop引入了编码/解码器,如下表所示

压缩格式对应的编码/解码器
DEFLATEorg.apache.hadoop.io.compress.DefaultCodec
gziporg.apache.hadoop.io.compress.GzipCodec
bzip2org.apache.hadoop.io.compress.BZip2Codec
LZOcom.hadoop.compression.lzo.LzopCodec
Snappyorg.apache.hadoop.io.compress.SnappyCodec

压缩性能的比较

压缩算法原始文件大小压缩文件大小压缩速度解压速度
gzip8.3GB1.8GB17.5MB/S58MB/S
bzip28.3GB1.1GB2.4MB/S9.5MB/S
LZO8.3GB2.9GB49.3MB/S74.6MB/S

2.3 压缩方式原则

  1. Gzip压缩

    1. 优点

      压缩率比较高,而且压缩/解压缩的速度也比较快;hadoop本身支持,在应用中处理gzip格式的文件就和直接处理文本一样;大部分linux系统都自带gzip命令,使用方便

    2. 缺点:不支持split

      应用场景:当每个文件压缩之后在130M以内的(一个块大小内),都可以考虑用gzip压缩格式。例如说,一天或者一个小时的日志压缩成一个gzip文件,运行mapReduce程序的时候通过多个gzip文件达到并发。hive程序,streaming程序,和java写的mapReduce程序完全和文本处理一样,压缩之后原来的程序不需要做任何修改

  2. Bzip2压缩

    1. 优点:

      支持split,具有很高的压缩率,比gzip压缩率都高;hadoop本身支持,但不支持native(java和c互操作的API接口);在linux系统下自带bzip2命令,使用方便

    2. 缺点:压缩/解压缩速度慢;不支持native

    3. 应用场景:

      适合对速度要求不高,但需要较高的压缩率的时候,可以作为MapReduce作业的输出格式;或者输出之后的数据比较大,处理之后的数据需要压缩存档减少磁盘空间并且以后数据用的比较少的情况;或者对单个很大的文本文件向压缩减少存储空间,同时又需要支持split,而且兼容之前的应用程序(即应用程序不要要修改)的情况

  3. Lzo压缩

    1. 优点:

      压缩/解压的速度比较快,合理的压缩率;支持split,是hadoop中最流行的压缩格式;可以在linux西永下安装lzop命令,使用方便

    2. 缺点:

      压缩率比gzip要低一些;hadoop本身不支持,需要安装;在应用中对lzo格式的文件需要做一些特殊处理(为了支持split需要建索引,还需要指定inputformat为lzo格式)。

    3. 应用场景:

      一个很大的文本文件,压缩之后还大于200M以上的可以考虑,而且单个文件越大,lzo优点越明显

  4. Snappy压缩

    1. 优点:高速压缩速度和合理的压缩率
    2. 缺点:不支持split;压缩率比gzip要低;hadoop本身不支持,需要安装;
    3. 应用场景:当MapReduce作业的Map输出的数据比较大的时候,作为Map到Reduce的中间数据的压缩格式;或者作为一个MapReduce作业的输出和另外一个MapReduce作业的输入。

2.4 压缩位置的选择

压缩可以在MapReduce作用的任意阶段启用

2.5 压缩配置参数

要在Hadoop中启用压缩,可以配置如下参数

参数默认值阶段建议
io.compression.codecs (在core-site.xml中配置)org.apache.hadoop.io.compress.DefaultCodec, org.apache.hadoop.io.compress.GzipCodec, org.apache.hadoop.io.compress.BZip2Codec输入压缩Hadoop使用文件扩展名判断是否支持某种编解码器
mapreduce.map.output.compress(在mapred-site.xml中配置)falsemapper输出这个参数设为true启用压缩
mapreduce.map.output.compress.codec(在mapred-site.xml中配置)org.apache.hadoop.io.compress.DefaultCodecmapper输出使用LZO或snappy编解码器在此阶段压缩数据
mapreduce.output.fileoutputformat.compress(在mapred-site.xml中配置)falsereducer输出这个参数设为true启用压缩
mapreduce.output.fileoutputformat.compress.codec(在mapred-site.xml中配置)org.apache.hadoop.io.compress. DefaultCodecreducer输出使用标准工具或者编解码器,如gzip和bzip2
mapreduce.output.fileoutputformat.compress.type(在mapred-site.xml中配置)RECORDreducer输出SequenceFile输出使用的压缩类型:NONE和BLOCK

3.压缩/解压缩案例

3.1 数据流的压缩和解压缩

CompressionCodec有两个方法可以用于轻松地压缩或解压缩数据。想要对正在被写入的一个输出流的数据进行压缩,我们可以使用createOutputStream(OutputStreamout)方法创建一个CompressionOutputStream,将其以压缩格式写入底层的流。相反,要想对从输入流读取而来的数据进行压缩,则调用createInputStream(InputStreamin)函数,从而获得一个CompressionInputStream,从而从底层的流读取未压缩的数据

3.2 java方式压缩和解压缩

public class TestCompress {
    public static void main(String[] args) throws Exception{
//        compress("G:\\学习\\maven\\src\\main\\java\\Compress\\kkkk.doc","org.apache.hadoop.io.compress.BZip2Codec");

        decompress("G:\\学习\\maven\\src\\main\\java\\Compress\\kkkk.doc.bz2",".doc");
    }

    /**
     * 压缩方法
     * @param filename 文件路径+文件名
     * @param methon 解码器
     */
    private static void compress(String filename,String methon) throws Exception {
        //创建输入流
        FileInputStream fis = new FileInputStream(new File(filename));
        //通过反射类找到解码器的类
        Class<?> codeClass = Class.forName(methon);
        //通过反射工具类找到解码器对象,需要用到配置conf对象
        CompressionCodec codec = (CompressionCodec) ReflectionUtils.newInstance(codeClass, new Configuration());
        //创建输出流
        FileOutputStream fos = new FileOutputStream(new File(filename + codec.getDefaultExtension()));
        //获得解码器输出对象
        CompressionOutputStream cos = codec.createOutputStream(fos);
        //流拷贝
        IOUtils.copyBytes(fis,cos,5*1024*1024,false);
        //关闭流
        cos.close();
        fos.close();
        fis.close();
    }

    /**
     * 解开压缩
     * @param filename 文件路径 + 文件名
     * @param decoded 后缀
     * @throws Exception
     */
    private static void decompress(String filename,String decoded)throws Exception{
        //获取factory实例
        CompressionCodecFactory factory = new CompressionCodecFactory(new Configuration());
        CompressionCodec codec = factory.getCodec(new Path(filename));
        if (codec == null){
            System.out.println(filename);
            return;
        }
        //解压缩的输入
        CompressionInputStream cis = codec.createInputStream(new FileInputStream(new File(filename)));
        //输出流
        FileOutputStream fos = new FileOutputStream(new File(filename + "." + decoded));
        //流拷贝
        IOUtils.copyBytes(cis,fos,5*1024*1024,false);
        //关闭流
        cis.close();
        fos.close();
    }

}

3.3 Map端采用压缩

即使你的MapReduce的输入输出文件都是未压缩的文件,你仍然可以对map任务的中间结果输出做压缩,因为它要写在硬盘并且通过网络传输到Reduce节点,对其压缩可以提高很多性能,这些工作只要设置两个属性即可

给大家提供的hadoop源码支持的压缩格式有:BZip2Codec 、DefaultCodec

public class WordCountDriver {
    public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException {
        args = new String[]{"G:\\学习\\maven\\src\\main\\java\\Compress\\wordcount.txt","G:\\学习\\maven\\src\\main\\java\\Compress\\out"};
        Configuration configuration = new Configuration();

        // 开启map端输出压缩
        configuration.setBoolean("mapreduce.map.output.compress", true);
        // 设置map端输出压缩方式
        configuration.setClass("mapreduce.map.output.compress.codec", BZip2Codec.class, CompressionCodec.class);

        Job job = Job.getInstance(configuration);

        job.setJarByClass(WordCountDriver.class);

        job.setMapperClass(CompressMapper.class);
        job.setReducerClass(CompressReduce.class);

        job.setMapOutputKeyClass(Text.class);
        job.setMapOutputValueClass(IntWritable.class);

        job.setOutputKeyClass(Text.class);
        job.setOutputValueClass(IntWritable.class);

        FileInputFormat.setInputPaths(job, new Path(args[0]));
        FileOutputFormat.setOutputPath(job, new Path(args[1]));

        boolean result = job.waitForCompletion(true);

        System.exit(result ? 1 : 0);
    }
}

mapper保持不变

public class CompressMapper extends Mapper<LongWritable,Text, Text, IntWritable> {
    @Override
    protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {
        //1.获取一行
        String line = value.toString();
        //2.切割
        String[] words = line.split(" ");
        //3.循环写出
        for(String word : words){
            context.write(new Text(word),new IntWritable(1));
        }

    }
}

reduce保持不变

public class CompressReduce extends Reducer<Text, IntWritable, Text,IntWritable> {
    @Override
    protected void reduce(Text key, Iterable<IntWritable> values, Context context) throws IOException, InterruptedException {
        int count = 0;
        //1.汇总
        for(IntWritable value:values){
            count+= value.get();
        }
        //2.输出
        context.write(key,new IntWritable(count));
    }
}

3.4 Reduce输出端采用压缩

基于wordcount案例处理

public class WordCountDriver1 {
    public static void main(String[] args) throws Exception {
        args = new String[]{"G:\\学习\\maven\\src\\main\\java\\Compress\\wordcount.txt","G:\\学习\\maven\\src\\main\\java\\Compress\\out"};
        Configuration configuration = new Configuration();

        Job job = Job.getInstance(configuration);

        job.setJarByClass(WordCountDriver1.class);

        job.setMapperClass(CompressMapper.class);
        job.setReducerClass(CompressReduce.class);

        job.setMapOutputKeyClass(Text.class);
        job.setMapOutputValueClass(IntWritable.class);

        job.setOutputKeyClass(Text.class);
        job.setOutputValueClass(IntWritable.class);

        FileInputFormat.setInputPaths(job, new Path(args[0]));
        FileOutputFormat.setOutputPath(job, new Path(args[1]));

        // 设置reduce端输出压缩开启
        FileOutputFormat.setCompressOutput(job, true);

        // 设置压缩的方式
        FileOutputFormat.setOutputCompressorClass(job, BZip2Codec.class);
//	    FileOutputFormat.setOutputCompressorClass(job, GzipCodec.class);
//	    FileOutputFormat.setOutputCompressorClass(job, DefaultCodec.class);

        boolean result = job.waitForCompletion(true);

        System.exit(result?1:0);
    }
}

mapper和Reducer保持不变

4.Hadoop企业优化

4.1 MapReduce跑的慢的原因

  1. 计算机性能

    cpu、内存、磁盘健康、网络

  2. I/O操作优化

    1. 数据倾斜
    2. map和reduce数设置不合理
    3. map运行时间太长,导致reduce等待过久
    4. 小文件过多
    5. 大量的不可分块的超大文件
    6. spill次数过多
    7. merge次数过多等

4.2 MapReduce优化方法

MapReduce优化方法主要从六个方面考虑:数据输入、Map阶段、I/O传输、数据倾斜问题和常用的调优参数

4.2.1数据输入

  1. 合并小文件:在执行MR任务前将小文件进行合并,大量小文件会产生大量的map任务,增大map任务装载次数,而任务的装载比较耗时,从而导致MR运行较慢
  2. 采用CombineTextInputFormat来作为输入,解决输入端大量小文件场景

4.2.2Map阶段

  1. **减少溢写(spill)次数:**通过调整io.sort.mb及sort.spill.percent参数值,增大触发spill的内存上限,减少spill次数,从而减少磁盘I/O。
  2. **减少合并(merge)次数:**通过调整io.sort.factor参数,增大merge的文件数目,减少merge的次数,从而缩短MR处理时间
  3. 在Map之后,不影响业务逻辑的前提下,先进行combine处理,减少I/O。

4.2.3Reduce阶段

  1. **合理设置map和Reduce数:**两个都不能设置太少,也不能设置太多。太少,会导致task等待,延长处理时间;太多,会导致map、reduce任务间竞争资源,造成处理超时等错误
  2. **设置Map、Reduce共存:**调整slowstart.completedmaps参数,使map运行到一定程度后,reduce也开始运行,减少reduce的等待时间
  3. **规避使用reduce:**因为reduce,在用于连接数据集的时候将会产生大量的网络消耗。
  4. **合理设置Reduce端的buffer:**默认情况下,数据达到一个阈值的时候,buffer中的数据就会写入磁盘,然后reduce会从磁盘中获得所有的数据。也就是说,buffer和reduce是没有直接关联的,中间多一个写磁盘--->读磁盘的过程,既然有这个弊端,那么就可以通过参数来配置,是的buffer中的一部分数据可以直接输送到reduce,从而减少IO开销:mapred.job.reduce.input.buffer.percent,默认为0.0。当值大于0的时候,会保留指定比例的内存读buffer中的数据直接拿给reduce使用。这样一来,设置buffer需要内存,读取数据需要内存,reduce计算也要内存,所以要根据作业的运行情况进行调整。

4.2.4 IO传输

  1. **采用数据压缩的方式,**减少网络IO的时间。安装Snappy和LZO压缩编码器
  2. 使用SequenceFile二进制文件

4.2.5 数据倾斜问题

  1. 数据倾斜现象

    数据频率倾斜——>某一个区域的数据量要远远大于其他区域

    数据大小倾斜——>部分记录的大小远远大于平均值

  2. 如何收集倾斜数据

    在reduce方法中加入记录map输入键的详细情况的功能

   public static final String MAX_VALUES = "skew.maxvalues"; 
   private int maxValueThreshold; 
    
   @Override
   public void configure(JobConf job) { 
        maxValueThreshold = job.getInt(MAX_VALUES, 100); 
   } 
   @Override
   public void reduce(Text key, Iterator<Text> values,
                        OutputCollector<Text, Text> output, 
                        Reporter reporter) throws IOException {
        int i = 0;
        while (values.hasNext()) {
            values.next();
            i++;
        }
   
        if (++i > maxValueThreshold) {
            log.info("Received " + i + " values for key " + key);
        }
   }
  1. 减少数据倾斜的方法

    1. 方法1:抽样和范围分区

      可以通过对原始数据进行抽样的到的结果集来预设分区边界值

    2. 方法2:自定义分区

      基于输出键的背景知识进行自定义分区。例如,如果map输出键的单词源于一本书。且其中某几个专业词汇较多。那么就可以自定义分区将这些专业词汇发送给固定的一部分reduce示例。而将其他的都发送给剩余的reduce实例

    3. 方法3:Combine

      使用Combine可以大量低减少数据倾斜。在可能的情况下,combine的目的就是聚合并精简数据。

    4. 方法4:采用MapJoin,尽量避免ReduceJoin

4.2.6 常用的调优参数

  1. 资源相关参数

    1. 以下参数是在用户自己的MR应用程序中配置就可以生效(mapred-default.xml)
配置参数参数说明
mapreduce.map.memory.mb一个Map Task可使用的资源上限(单位:MB),默认为1024。如果Map Task实际使用的资源量超过该值,则会被强制杀死。
mapreduce.reduce.memory.mb一个Reduce Task可使用的资源上限(单位:MB),默认为1024。如果Reduce Task实际使用的资源量超过该值,则会被强制杀死。
mapreduce.map.cpu.vcores每个Map task可使用的最多cpu core数目,默认值: 1
mapreduce.reduce.cpu.vcores每个Reduce task可使用的最多cpu core数目,默认值: 1
mapreduce.reduce.shuffle.parallelcopies每个reduce去map中拿数据的并行数。默认值是5
mapreduce.reduce.shuffle.merge.percentbuffer中的数据达到多少比例开始写入磁盘。默认值0.66
mapreduce.reduce.shuffle.input.buffer.percentbuffer大小占reduce可用内存的比例。默认值0.7
mapreduce.reduce.input.buffer.percent指定多少比例的内存用来存放buffer中的数据,默认值是0.0
  1. 应该在yarn启动之前就配置在服务器的配置文件中才能生效(yarn-default.xml)
配置参数参数说明
yarn.scheduler.minimum-allocation-mb 1024给应用程序container分配的最小内存
yarn.scheduler.maximum-allocation-mb 8192给应用程序container分配的最大内存
yarn.scheduler.minimum-allocation-vcores 1每个container申请的最小CPU核数
yarn.scheduler.maximum-allocation-vcores 32每个container申请的最大CPU核数
yarn.nodemanager.resource.memory-mb 8192给containers分配的最大物理内存
  1. shuffle性能优化的关键参数,应在yarn启动之前就配置好(mapred-default.xml)
配置参数参数说明
mapreduce.task.io.sort.mb 100shuffle的环形缓冲区大小,默认100m
mapreduce.map.sort.spill.percent 0.8环形缓冲区溢出的阈值,默认80%
  1. 容错相关参数(mapreduce性能优化)

    配置参数参数说明
    mapreduce.map.maxattempts每个Map Task最大重试次数,一旦重试参数超过该值,则认为Map Task运行失败,默认值:4。
    mapreduce.reduce.maxattempts每个Reduce Task最大重试次数,一旦重试参数超过该值,则认为Map Task运行失败,默认值:4。
    mapreduce.task.timeoutTask超时时间,经常需要设置的一个参数,该参数表达的意思为:如果一个task在一定时间内没有任何进入,即不会读取新的数据,也没有输出数据,则认为该task处于block状态,可能是卡住了,也许永远会卡主,为了防止因为用户程序永远block住不退出,则强制设置了一个该超时时间(单位毫秒),默认是600000。如果你的程序对每条输入数据的处理时间过长(比如会访问数据库,通过网络拉取数据等),建议将该参数调大,该参数过小常出现的错误提示是“AttemptID:attempt_14267829456721_123456_m_000224_0 Timed out after 300 secsContainer killed by the ApplicationMaster.”。

4.3HDFS小文件优化方法

4.3.1 HDFS小文件弊端

HDFS上每个文件都要在namenode上建立一个索引,这个索引的大小约为15byte,这样当小文件比较多的时候,就会产生很多的索引文件,一方面会大量占用namenode的内存空间,另一方面就是索引文件过大导致索引速度变慢

4.3.2解决方案

  1. Hadoop Archive:

    是一个高效地将小文件放入HDFS块中的文件存档工具,他能够将多个小文件打包成一个HAR文件,这样就减少了namenode的内存使用

  2. Sequence File

    Sequence File 由一系列的二进制key/value组成,如果key为文件名,value为文件内容,则可以将大批小文件合并成一个大文件

  3. CombineFileInputFormat

    CombineFileInputFormat是一种新的inputFormat,用于将多个文件合并成一个单独的split,另外,他会考虑数据的存储位置

  4. 开启JVM重用

    对于大量小文件Job,可以开启JVM重用,会减少45%的运行时间

    JVM重用理解:一个map运行一个jvm,重用的话,一个map在JVM上运行完毕之后,JVM继续运行其他map

    具体设置:mapreduce.job.jvm.numtasks值在10-20之间。

相关文章