14）Hadoop序列化

什么是序列化

    序列化就是把内存中的对象，转换成字节序列（或其他数据传输协议）以便于存储到磁盘（持久化）和网络传输

    反序列化就是将收到的字节序列（或其他数据传输协议）或者是磁盘的持久化数据，转换成内存中的对象

为什么不用Java序列化

    Java的序列化是一个重量级序列化框架（Serializable），一个对象被序列化后，会附带很多额外的信息（各种校验信息，Header，继承体系等），不便于在网络中高效传输。所以，Hadoop自己开发了一套序列化机制（Writable）。

    

Hadoop序列化特点

1）紧凑：高效使用存储空间

2）快速：读写数据的额外开销小

3）可扩展：随着通信协议的可升级而升级

4）互操作：支持多语言的交互

常用的序列化类型

自定义bean对象实现序列化接口 

    在企业开发中往往常用的基本序列化类型不能满足所有需求，比如在Hadoop框架内部传递一个bean对象，那么该对象就需要实现序列化接口。

具体实现bean对象序列化步骤如下7步：

1）必须实现Writable接口

2）反序列时，需要反射调用空参构造函数，所以必须有空参构造

public FlowBean(){

    super();

}

3）重写序列化方法

public void write(DataOutput out) throws IOException {

        out.writeLong(upFlow);

        out.writeLong(downFlow);

        out.writeLong(sumFlow);

    }

4）重写反序列化方法

public void readFields(DataInput in) throws IOException {

        upFlow = in.readLong();

        downFlow = in.readLong();

        sumFlow = in.readLong();

    }

5）注意反序列化的顺序和序列化的顺序完全一致

6）要想把结果显示在文件中，需要重写toString()，可用“\t”分开，方便后续用。

7）如果需要将自定义的bean放在key中传输，则还需要实现Comparable接口，因为MapReduce框中的Shuffle过程要求对key必须能排序

public int compareTo(FlowBean o){

        //倒序排序 从大到小

        return this.sumFlow > o.getSumFlow() ? -1 : 1;

    }

序列化案例实操