Java8_流

一、为什么需要Stream

Stream作为Java 8 的一大亮点,它与java.io 包里的 InputStream 和 OutputStream 是完全不同的概念。它也不同于 StAX 对 XML 解析的 Stream,也不是 Amazon Kinesis 对大数据实时处理的 Stream。Java 8 中的 Stream 是对集合(Collection)对象功能的增强,它更加专注于对集合对象进行各种非常便利、高效的聚合操作,或者大批量的数据操作。Stream API 借助于同样新出现的 Lambda 表达式,极大的提高了编程效率和程序可读性。同时它提供串行和并行两种模式进行聚合操作,并发模式能够充分利用多核处理器的优势,使用 fork/join 并行方式来拆分任务和加速处理的过程。通常编写并行代码很难而且容易出错,但是用 Stream API无需编写一行多线程的代码,就可以很方便的写出高性能的并发程序。所以说,Java 8 中首次出现的 java.util.stream 是一个函数式语言+多核时代综合影响的产物。

1、聚合操作

在传统的 javaEE 中,Java 代码经常不得不依赖于关系型数据库的聚合操作来完成诸如:

  • 客户每月平均消费金额
  • 最昂贵的在售商品
  • 本周完成的有效订单(排除了无效的)
  • 取十个数据样本作为首页推荐

这类操作。

但在当今这个数据大爆炸的时代,在数据来源多样化、数据海量化的今天,很多时候不得不脱离 RDBMS,或者以底层返回的数据为基础进行更上层的数据统计。而 Java 的集合 API 中,仅仅有极少量的辅助型方法,更多的时候是程序员需要用 Iterator 来遍历集合,完成相关的聚合应用逻辑。这是一种远不够高效、笨拙的方法。在 Java 7 中,如果要发现 type 为 grocery 的所有交易,然后返回以交易值降序排序好的交易 ID 集合,我们需要这样写:

如:Java 7 的排序和取值的实现

List groceryTransactions = new Arraylist<>();
for(Transaction t: transactions){
   if(t.getType() == Transaction.GROCERY){
      groceryTransactions.add(t);
   }
}
Collections.sort(groceryTransactions, new Comparator(){
   public int compare(Transaction t1, Transaction t2){
      return t2.getValue().compareTo(t1.getValue());
   }
});
List transactionIds = new ArrayList<>();
  for(Transaction t: groceryTransactions){
      transactionsIds.add(t.getId());
  }

Java 8 使用 Stream 代码更加简洁易读;而且使用并发模式,程序执行速度更快。

List transactionsIds = transactions.parallelStream()
.filter(t -> t.getType() == Transaction.GROCERY)
.sorted(comparing(Transaction::getValue).reversed())
.map(Transaction::getId)
.collect(toList());

二、Stream 总览

1、什么是流

Stream 不是集合元素,它不是数据结构并不保存数据,它是有关算法和计算的,更像一个高级版的 Iterator 。原始版本的 Iterator,用户只能显式的一个一个遍历元素并对其执行某些操作;高级版的 Stream ,用户只要给出需要对其包含的元素执行什么操作,比如 “过滤掉长度大于10的字符串”、“获取每个字符串的首字母” 等,Stream 会隐式的在内部进行遍历,做出相应的数据转换。

Stream 就如同一个迭代器(Iterator),单向,不可往复,数据只能遍历一次,遍历过一次后即用尽了,好比从面前流过的水,一去不复返。

而和迭代器又不同的是,Stream 可以进行并行化操作,迭代器只能进行命令式的、串行化操作。顾名思义,当使用串行化方式去遍历的时候,每个 item 读完之后再读取下一个 item 。而使用并行去遍历的时候,数据会被分成很多段,其中每一个都在不同的线程中处理,然后将结果一起输出。Stream 的并行操作依赖于 Java 7 中引入的 Fork / Join 框架来分拆任务和加速处理过程。

Stream 的另一大特点就是数据源本身可以是无限的。

2、流的构成

当我们使用流的时候通常包括三个步骤:

获取一个数据源(source)-> 数据转换 -> 执行操作获取想要的结果,每次转换原有的 Stream 对象不改变,返回一个新的Stream对象(可以有多次转换),这就允许对其操作可以像链条一样排序,变成一个管道,如下:

Java8_流_第1张图片

多种方式生成 Stream Source :

1)从Collection和数组

  • Collection.stream();
  • Collection.parallelStream()
  • Arrays.stream(T array) or Stream.of()

2)BufferReader

  • java.io.BufferedReader.lines()

3)静态工厂

  •  java.util.stream.IntStream.range()
  •  java.nio.file.Files.walk()

4)自己构建

  • java.util.Spliterator

5)其他

  • Random.ints()
  • BitSet.stream()
  • Pattern.splitAsStream(java.lang.CharSequence)
  • JarFile.stream()

流的操作类型分为两种:

  • Intermediate:一个流可以后面跟随零个或多个 intermediate 操作。其目的主要是打开流,做出某种程度的数据映射 / 过滤,然后返回一个新的流,交给下一个操作使用。这类操作都是惰性化得(Lazy),就是说仅仅调用到这类方法,并没有真正开始流的便利。
     
  • Terminal:一个流只能有一个 terminal 操作,当这个操作执行后,流就被用 “光” 了,无法再被操作。所以这必定是流的最后一个操作。Terminal 操作的执行,才会真正开始流的便利,并且会产生一个结果或一个side effect。

在对于一个 Stream 进行多次转换操作(Intermediate),每次都对 Stream 的每个元素进行转换,而且是执行多次,这样时间复杂度就是 N (转换次数)个 for 循环里把所有操作都做掉的总和吗?其实不是这样的,转换操作都是lazy的,多个转换操作只会在Terminal操作的时候融合起来,一次循环完成。我们可以这样简单的理解,Stream 里面有个操作函数的集合,每次转换操作就是把转换操作放入这个集合中。在 Terminal 操作的时候循环 Stream 对应的集合,然后对每个元素执行所有函数。

还有一种操作被称为 short-circuiting:

  • 对于一个 Intermediate 操作,如果它接受一个无限大(infinite / unbounded)的Stream,但返回一个有限的新 Stream。
  • 对于一个 Terminal 操作,如果它接受的是一个无限大的 Stream,但能在有限时间内计算出来结果。

当操作一个无限大的 Stream,而又希望在有限时间内完成操作,则在管道内拥有一个 short-circuiting 操作是必要非充分条件。

int sum = widgets.stream()
.filter(w -> w.getColor() == RED)
 .mapToInt(w -> w.getWeight())
 .sum();

stream( )获取当前小物件的 source,filter 和 mapToInt 为 Intermediate 操作,进行数据筛选和转换,最后一个 sum( ) 为Terminal操作,对符合条件的全部小物件做重量求和。

三、流的使用详解

简单来说,对 Stream 的使员就是一个 filter-map-reduce 过程,产生一个最终结果,或者导致一个副作用(side-effect)。

1、流的构造与转换

构造流的几种常见方法:

        //1、individual values
        Stream stream = Stream.of("a","b","c");
        //2、Arrays
        String[] strArray = new String[]{"a", "b", "c"};
        stream = Stream.of(strArray);
        或
        stream = Arrays.stream(strArray);
        //3、Collections
        List strList = Arrays.asList(strArray);
        stream = strList.stream();

需要注意的是,对于基本数值型,目前有三种对应的包装类型 Stream:

IntStream、LongStream、DoubleStream。当然我们也可以用 Stream、Stream >、Stream,但是 boxing 和 unboxing 会很耗时,所以特别为这三种基本数值型提供了对应的 Stream。

Java 8 中还没有提供其它数值型 Stream,因为这将导致扩增的内容较多。而常规的数值型聚合运算可以通过上面三种 Stream 进行。

数值流的构造:

        IntStream.of(new int[]{1,2,3}).forEach(System.out::println);
        IntStream.range(1,3).forEach(System.out::println);
        IntStream.rangeClosed(1,3).forEach(System.out::println);

流转换为其他数据结构:

        Stream stream = Stream.of("a", "b", "c");
        //1、Array
        String[] str = (String[]) stream.toArray(String[]::new);
        //2、Collection
        List list1 = (List) stream.collect(Collectors.toList());
        List list = (List) stream.collect(Collectors.toCollection(ArrayList::new));
        Set set = (Set) stream.collect(Collectors.toSet());
        Stack stack = (Stack) stream.collect(Collectors.toCollection(Stack::new));
        //3、String
        String string = stream.collect(Collectors.joining()).toString();

一个 Stream 只可以使用一次,上面的代码为了简洁而重复使用了数次。

2、流的操作

接下来,当把一个数据结构包装成 Stream 之后,就要开始对其中的元素进行操作了。常见的操作如下:

  • Intermediate:
    map(mapToInt,flatMap等)、filter、distinct、sort、peek、limit、skip、parallel、sequential、unordered
  • Terminal:
    forEach、forEachOrdered、toArray、reduce、collect、min、max、count、anyMatch、allMatch、noneMatch、findFirst、findAny、iterator
  • Short-circuiting:
    anyMatch、allMatch、noneMatch、findFirst、findAny、limit

首先来看看Stream比较经典的用法:

map / flatMap

如果你熟悉 scala 这类函数式语言,对这个方法应该很了解,它的作用就是把 input Stream 的每一个元素,映射成 output Stream 的另外一个元素。

转换大写

List list = Arrays.asList("a","b","c","d");
List output = list.stream().map(String::toUpperCase).collect(Collectors.toList());

平方数

List nums = Arrays.asList(1,2,3,4);
List squareNums = nums.stream().map(n->n*n).collect(Collectors.toList());

以上的例子都是map生成的1:1的映射,每个输入元素,都按照规则转换成另一个元素。还有一些场景,是一对多映射关系的,这时需要 flatMap。

 Stream> inputStream = Stream.of(
                Arrays.asList(1),
                Arrays.asList(2,3),
                Arrays.asList(4,5,6)
        );
 Stream outputStream = inputStream.flatMap((childList) -> childList.stream());

flatMap 是把 inputStream 里的层级结构扁平化了,就是将最底层的元素抽出来放到一起,最终 outputStream 里已经没有 List 了,都是直接的数字。

filter

filter 对原始的 Stream 进行某项测试,通过测试的元素被留下来生成一个新 Stream 。

留下偶数

 Integer[] sixNums = {1, 2, 3, 4, 5, 6};
 Integer[] events = Stream.of(sixNums).filter(n->n%2==0).toArray(Integer[]::new);

把单词挑出来

List output = reader.lines()
    .flatMap(line -> Stream.of(line.split(REGEXP)))
    .filter(word -> word.length() > 0)
    .collect(Collectors.toList());

这段代码首先把每行的单词用 flatMap 整理到新的 Stream,然后保留长度不为 0 的,就是整篇文章中的全部单词了。

forEach

forEach方法接收一个 Lambda 表达式,然后在 Stream 的每一个元素上执行该表达式。

// Java 8
roster.stream()
 .filter(p -> p.getGender() == Person.Sex.MALE)
 .forEach(p -> System.out.println(p.getName()));
// Pre-Java 8
for (Person p : roster) {
 if (p.getGender() == Person.Sex.MALE) {
 System.out.println(p.getName());
 }
}

对于一个人员集合遍历,找出男性并打印姓名。可以看出 forEach 是为 Lambda 而设计的,保持了最紧凑的风格。而且 Lambda 表达式本身是可以重用的,非常方便。当需要为多核系统优化时,可以 parallelStream( ).forEach( ),只是此时原有元素的次序没法保证,并行的情况下将改变串行时操作的行为,此时 forEach 本身的实现不需要调整,而 Java 8 以前的 for 循环 code 可能需要加入额外的多线程逻辑。

但一般认为,forEach 和常规 for 循环的差异不涉及到性能,它们仅仅是函数式风格与传统 Java 风格的差别。

另外一点需要注意的是,forEach 是 Terminal 操作,因此执行后,Stream 的元素就被 “消费” 掉了,你无法对一个 Stream 进行两次 Terminal 运算。下面是错误的:

stream.forEach(element -> doOneThing(element));
stream.forEach(element -> doAnotherThing(element));

相反,具有相似功能的 Intermediate 操作 peek 可以达到上述目的。如下是出现在该 api javadoc 上的一个实例。

peek 对每个元素执行操作并返回一个新的 Stream

Stream.of("one", "two", "three", "four")
                .filter(e->e.length()>3)
                .peek(e->System.out.println("Filtered value: " + e))
                .map(String::toUpperCase)
                .peek(e->System.out.println("Mapped value: " + e))
                .collect(Collectors.toList());

forEach 不能修改自己包含的本地变量值,也不能用 break/return 之类的关键字提前结束循环。

findFirst

这是一个 Terminal 兼 short-circuiting 操作,它总是返回 Stream 的第一个元素,或者空。

这里比较重点的是它的返回值类型:Optional。这也是一个模仿 Scala 语言中的概念,作为一个容器,它可能含有某值,或者不包含。使用它的目的是尽可能避免 NullPointerException。

Optional 的用例

        String strA = "abcd",strB = null;
        print(strA);
        print(strB);
    
    public static void print(String text){
        //java 8
        Optional.ofNullable(text).ifPresent(System.out::println);
        //java 8 之前
        if (text!=null){
            System.out.println(text);
        }
    }

在更加复杂的 if(XX != null)的情况中,使用 Optional 代码的可读性更好,而且它提供的是编译时检查,能极大的降低 NPE 这种 Runtime Exception 对程序的影响,或者强迫使程序员更早的在编译阶段处理空值问题,而不是留到运行时再发现和调试。

Stream 中的 findAny、Max/Min、reduce等方法都返回 Optional 值。还有例如 IntStream.average( ) 返回 OptionDouble 等。

reduce

这个方法主要作用是把 Stream 元素组合起来。它提供了起始值(种子),然后依照运算规则(BinaryOperator),和前面的 Stream 的第一个、第二个、第 n 个元素组合。从这个意义上说,字符串拼接、数值的 sum、min、max、average 都是特殊的 reduce。例如 Stream的 sum 就相当于

Integer sum = integers.reduce(0, (a, b) -> a+b); 
或
Integer sum = integers.reduce(0, Integer::sum);

也有没有起始值的情况,这时就会把 Stream 的前面两个元素组合起来,返回的是 Optional。

reduce用例:

//1、字符串拼接
String str = Stream.of("A", "B", "C", "D").reduce("",String::concat);
//2、求最小值
double minValue = Stream.of(-1.5, 1.0, -3.0, -2.0).reduce(Double.MAX_VALUE,Double::min);
//3、求和(有无起始值情况)
int sumValue = Stream.of(1, 2, 3, 4).reduce(0,Integer::sum);

sumValue = Stream.of(1, 2, 3, 4).reduce(Integer::sum).get();
//4、过滤,字符串拼接
str = Stream.of("a", "B", "c", "D", "e", "F").filter(s->s.compareTo("Z")>0).reduce("",String::concat);

上面代码例如第一个示例的 reduce(),第一个参数(空白字符)即为起始值,第二个参数(String::concat)为 BinaryOperator。这类有起始值的 reduce() 都返回具体的对象。而对于第四个示例没有起始值的 reduce(),由于可能没有足够的元素,返回的是 Optional,请留意这个区别。

limit/skip

limit 返回的是 Stream 前面的 n 个元素;skip 则是扔掉前 n 个元素(它是由一个叫 subStream 的方法改名而来)

limit 和 skip 对运行次数的影响

List persons = new ArrayList<>();
for (int i = 0; i <= 10000 ; i++) {
     Person person = new Person(i,"name"+i);
     persons.add(person);
}

List personList = persons.stream()
    .map(person -> person.getName())
    .limit(10).skip(3)
    .collect(Collectors.toList()); 
System.out.println(personList);

结果为:

Java8_流_第2张图片

这是一个有 10,000 个元素的 Stream,但在 short-circuiting 操作 limit 和 skip 的作用下,管道中 map 操作指定的 getName() 方法的执行次数为 limit 所限定的 10 次,而最终返回结果在跳过前 3 个元素后只有后面 7 个返回。

有一种情况是 limit/skip 无法达到 short-circuiting 目的的,就是把它们放在 Stream 排序操作的后面,原因跟 sorted 这个 Intermediate 操作有关:此时系统并不知道 Stream 排序后的次序如何,所以 sorted 中的操作看上去就像完全没有被 limit 和 skip 一样。

 List persons1 = new ArrayList<>();
        for (int i = 1; i <= 5 ; i++) {
            Person person = new Person(i,"name"+i);
            persons.add(person);
        }

List personList1 = persons1.stream()
    .sorted(Comparator.comparing(Person::getName))
    .limit(2).collect(Collectors.toList());

 Java8_流_第3张图片

最后有一点需要注意的是,对于一个 parallel 的 Stream 管道来说,如果其元素是有序的,那么 limit 操作的成本会比较大,因为它的返回对象必须是前 n 个也有一样次序的元素。取而代之的策略是取消元素的次序,或者不要用 parallel Stream。

sorted

对于 Stream 的排序通过 sorted 进行,它比数组的排序更强之处在于你可以首先对 Stream 进行各类 map、filter、limit、skip甚至是 distinct 来减少元素数量后,再排序,这能帮助程序明显缩短执行时间。

List persons1 = new ArrayList<>();
        for (int i = 1; i <= 5 ; i++) {
            Person person = new Person(i,"name"+i);
            persons1.add(person);
        }

List personList2 =persons1.stream().limit(2)
    .sorted(Comparator.comparing(Person::getName))
    .collect(Collectors.toList());
System.out.println(personList2);

这样会使结果简单许多

但是,这种优化是有 business logic 上的局限性的:即不要求排序后再取值。

min/max/distinct

min 和 max 的功能也可以通过对 Stream 元素先排序,然后再通过 findFirst 来实现,但是前者的性能会更好,为 O(n) ,而sorted 的成本为 O(n log n)。同时它们作为特殊的 reduce 方法被独立出来也是因为求最大最小是很常见的。

找出最长一行的长度

 BufferedReader br = new BufferedReader(new FileReader("c:\\Install.log"));
 int longestLine = br.lines().mapToInt(String::length).max().getAsInt();
 br.close();
 System.out.println(longestLine);

利用 distinct 找出不重复的单词,转小写并排序

List words = br.lines()
                .flatMap(line->Stream.of(line.split(" ")))
                .filter(word->word.length()>0)
                .map(String::toLowerCase)
                .distinct().sorted().collect(Collectors.toList());

Match

Stream 有三个 match 方法,从语义上说:

  • allMatch:Stream 中全部元素符合传入的 predicate ,返回 true
  • anyMatch:Stream 中只要有一个元素符合传入的 predicate,返回 true
  • noneMatch:Stream 中没有一个元素符合传入的 predicate,返回 true

它们都是不需要遍历全部元素才能返回结果。例如 allMatch 只要一个元素不满足条件,就 skip 剩下的所有元素,返回 false。

        List persons = new ArrayList<>();
        persons.add(new Person(1,"name"+1,10));
        persons.add(new Person(2, "name" + 2, 21));
        persons.add(new Person(3, "name" + 3, 34));
        persons.add(new Person(4, "name" + 4, 6));
        persons.add(new Person(5, "name" + 5, 55));

        boolean isAllAdult = persons.stream().allMatch(p->p.getAge()>18);
        System.out.println("All are adult? " + isAllAdult);
        boolean isThereAnyChildren = persons.stream().anyMatch(p->p.getAge()<12);
        System.out.println("Any child? " +isThereAnyChildren);

3、进阶:自己生成流

Stream.generate

通过实现 Supplier 借口,你可以自己来控制流的生成。这种情形通常用于随机数、常量的 Stream。或者需要前后元素间维持着某种状态信息的 Stream 。把 Supplier 实例传递给 Stream.generate( ) 生成的 Stream,默认是串行无序的。由于是无限的,在管道中,必须利用 limit 之类的操作限制 Stream 的大小。

生成 10 个随机整数

 Random seed = new Random();
 Supplier random = seed::nextInt;
 Stream.generate(random).limit(10).forEach(System.out::println);
 //Another way
 IntStream.generate(()->(int)(System.nanoTime()%100))
                        .limit(10).forEach(System.out::println);

Stream.generate( ) 还接受自己的实现的 Supplier。例如在构造海量测试数据的时候,用某种自动的规则给每一个变量赋值;或者依据公式计算 Stream 的每个元素值。这些都是维持状态信息的情形。

 自实现 Supplier

Stream.generate(new PersonSupplier()).limit(10)
    .forEach(p-> System.out.println(p.getName()+" "+p.getAge()));

private static class PersonSupplier implements Supplier {
        private int index = 0;
        private Random random = new Random();
        @Override
        public Person get() {
            return new Person(index++, "StormTestUser" + index, random.nextInt(100));
        }
}

Stream.iterate

iterate 跟 reduce 操作很像,接受一个种子值,和一个 UnaryOperator(例如 f)。然后种子值成为 Stream 的第一个元素。f(seed) 为第二个,f(f(seed)) 第三个,以此类推。

生成一个等差数列

Stream.iterate(0,n->n+3).limit(10).forEach(x-> System.out.print(x+" "));

与 Stream.generate 相仿,在 iterate 时候管道必须有 limit 这样的操作来限制 Stream 大小。

4、进阶:用 Collectors 来进行 reduction 操作

java.util.stream.Collectors 类的主要作用就是辅助进行各类有用的 reduction 操作,例如转变输出为 Collection,把 Stream 元素进行归组。

groupingBy/partitioningBy

按照年龄归组 

Map> personGroups = Stream.generate(new PersonSupplier()).limit(100)
                                                        .collect(Collectors.groupingBy(Person::getAge));
Iterator iterator = personGroups.entrySet().iterator();
while (iterator.hasNext()){
       Map.Entry> personsMap = (Map.Entry>) iterator.next();
       System.out.println("Age: "+personsMap.getKey()+" = "+personsMap.getValue().size());
}

上面的 code 中,首先生成 100 人信息,然后按照年龄归组,相同年龄的人放到同一个 list 中,输出如下:

Java8_流_第4张图片

按照未成年人和成年人归类

Map> children = Stream.generate(new PersonSupplier()).limit(100)
                .collect(Collectors.partitioningBy(p->p.getAge()<18));
System.out.println("children number: "+children.get(true).size());
System.out.println("adult number: "+children.get(false).size());

在使用条件“年龄小于 18”进行分组后可以看到,不到 18 岁的未成年人是一组,成年人是另外一组。partitioningBy 其实是一种特殊的 groupingBy,它依照条件测试的是否两种结果来构造返回的数据结构,get(true) 和 get(false) 能即为全部的元素对象。

 

 

转载:https://www.ibm.com/developerworks/cn/java/j-lo-java8streamapi/index.html#icomments

你可能感兴趣的:(java)