Stream作为Java 8 的一大亮点,它与java.io 包里的 InputStream 和 OutputStream 是完全不同的概念。它也不同于 StAX 对 XML 解析的 Stream,也不是 Amazon Kinesis 对大数据实时处理的 Stream。Java 8 中的 Stream 是对集合(Collection)对象功能的增强,它更加专注于对集合对象进行各种非常便利、高效的聚合操作,或者大批量的数据操作。Stream API 借助于同样新出现的 Lambda 表达式,极大的提高了编程效率和程序可读性。同时它提供串行和并行两种模式进行聚合操作,并发模式能够充分利用多核处理器的优势,使用 fork/join 并行方式来拆分任务和加速处理的过程。通常编写并行代码很难而且容易出错,但是用 Stream API无需编写一行多线程的代码,就可以很方便的写出高性能的并发程序。所以说,Java 8 中首次出现的 java.util.stream 是一个函数式语言+多核时代综合影响的产物。
1、聚合操作
在传统的 javaEE 中,Java 代码经常不得不依赖于关系型数据库的聚合操作来完成诸如:
这类操作。
但在当今这个数据大爆炸的时代,在数据来源多样化、数据海量化的今天,很多时候不得不脱离 RDBMS,或者以底层返回的数据为基础进行更上层的数据统计。而 Java 的集合 API 中,仅仅有极少量的辅助型方法,更多的时候是程序员需要用 Iterator 来遍历集合,完成相关的聚合应用逻辑。这是一种远不够高效、笨拙的方法。在 Java 7 中,如果要发现 type 为 grocery 的所有交易,然后返回以交易值降序排序好的交易 ID 集合,我们需要这样写:
如:Java 7 的排序和取值的实现
List groceryTransactions = new Arraylist<>();
for(Transaction t: transactions){
if(t.getType() == Transaction.GROCERY){
groceryTransactions.add(t);
}
}
Collections.sort(groceryTransactions, new Comparator(){
public int compare(Transaction t1, Transaction t2){
return t2.getValue().compareTo(t1.getValue());
}
});
List transactionIds = new ArrayList<>();
for(Transaction t: groceryTransactions){
transactionsIds.add(t.getId());
}
Java 8 使用 Stream 代码更加简洁易读;而且使用并发模式,程序执行速度更快。
List transactionsIds = transactions.parallelStream()
.filter(t -> t.getType() == Transaction.GROCERY)
.sorted(comparing(Transaction::getValue).reversed())
.map(Transaction::getId)
.collect(toList());
1、什么是流
Stream 不是集合元素,它不是数据结构并不保存数据,它是有关算法和计算的,更像一个高级版的 Iterator 。原始版本的 Iterator,用户只能显式的一个一个遍历元素并对其执行某些操作;高级版的 Stream ,用户只要给出需要对其包含的元素执行什么操作,比如 “过滤掉长度大于10的字符串”、“获取每个字符串的首字母” 等,Stream 会隐式的在内部进行遍历,做出相应的数据转换。
Stream 就如同一个迭代器(Iterator),单向,不可往复,数据只能遍历一次,遍历过一次后即用尽了,好比从面前流过的水,一去不复返。
而和迭代器又不同的是,Stream 可以进行并行化操作,迭代器只能进行命令式的、串行化操作。顾名思义,当使用串行化方式去遍历的时候,每个 item 读完之后再读取下一个 item 。而使用并行去遍历的时候,数据会被分成很多段,其中每一个都在不同的线程中处理,然后将结果一起输出。Stream 的并行操作依赖于 Java 7 中引入的 Fork / Join 框架来分拆任务和加速处理过程。
Stream 的另一大特点就是数据源本身可以是无限的。
2、流的构成
当我们使用流的时候通常包括三个步骤:
获取一个数据源(source)-> 数据转换 -> 执行操作获取想要的结果,每次转换原有的 Stream 对象不改变,返回一个新的Stream对象(可以有多次转换),这就允许对其操作可以像链条一样排序,变成一个管道,如下:
多种方式生成 Stream Source :
1)从Collection和数组
2)BufferReader
3)静态工厂
4)自己构建
5)其他
流的操作类型分为两种:
在对于一个 Stream 进行多次转换操作(Intermediate),每次都对 Stream 的每个元素进行转换,而且是执行多次,这样时间复杂度就是 N (转换次数)个 for 循环里把所有操作都做掉的总和吗?其实不是这样的,转换操作都是lazy的,多个转换操作只会在Terminal操作的时候融合起来,一次循环完成。我们可以这样简单的理解,Stream 里面有个操作函数的集合,每次转换操作就是把转换操作放入这个集合中。在 Terminal 操作的时候循环 Stream 对应的集合,然后对每个元素执行所有函数。
还有一种操作被称为 short-circuiting:
当操作一个无限大的 Stream,而又希望在有限时间内完成操作,则在管道内拥有一个 short-circuiting 操作是必要非充分条件。
int sum = widgets.stream()
.filter(w -> w.getColor() == RED)
.mapToInt(w -> w.getWeight())
.sum();
stream( )获取当前小物件的 source,filter 和 mapToInt 为 Intermediate 操作,进行数据筛选和转换,最后一个 sum( ) 为Terminal操作,对符合条件的全部小物件做重量求和。
简单来说,对 Stream 的使员就是一个 filter-map-reduce 过程,产生一个最终结果,或者导致一个副作用(side-effect)。
1、流的构造与转换
构造流的几种常见方法:
//1、individual values
Stream stream = Stream.of("a","b","c");
//2、Arrays
String[] strArray = new String[]{"a", "b", "c"};
stream = Stream.of(strArray);
或
stream = Arrays.stream(strArray);
//3、Collections
List strList = Arrays.asList(strArray);
stream = strList.stream();
需要注意的是,对于基本数值型,目前有三种对应的包装类型 Stream:
IntStream、LongStream、DoubleStream。当然我们也可以用 Stream
Java 8 中还没有提供其它数值型 Stream,因为这将导致扩增的内容较多。而常规的数值型聚合运算可以通过上面三种 Stream 进行。
数值流的构造:
IntStream.of(new int[]{1,2,3}).forEach(System.out::println);
IntStream.range(1,3).forEach(System.out::println);
IntStream.rangeClosed(1,3).forEach(System.out::println);
流转换为其他数据结构:
Stream stream = Stream.of("a", "b", "c");
//1、Array
String[] str = (String[]) stream.toArray(String[]::new);
//2、Collection
List list1 = (List) stream.collect(Collectors.toList());
List list = (List) stream.collect(Collectors.toCollection(ArrayList::new));
Set set = (Set) stream.collect(Collectors.toSet());
Stack stack = (Stack) stream.collect(Collectors.toCollection(Stack::new));
//3、String
String string = stream.collect(Collectors.joining()).toString();
一个 Stream 只可以使用一次,上面的代码为了简洁而重复使用了数次。
2、流的操作
接下来,当把一个数据结构包装成 Stream 之后,就要开始对其中的元素进行操作了。常见的操作如下:
首先来看看Stream比较经典的用法:
map / flatMap
如果你熟悉 scala 这类函数式语言,对这个方法应该很了解,它的作用就是把 input Stream 的每一个元素,映射成 output Stream 的另外一个元素。
转换大写
List list = Arrays.asList("a","b","c","d");
List output = list.stream().map(String::toUpperCase).collect(Collectors.toList());
平方数
List nums = Arrays.asList(1,2,3,4);
List squareNums = nums.stream().map(n->n*n).collect(Collectors.toList());
以上的例子都是map生成的1:1的映射,每个输入元素,都按照规则转换成另一个元素。还有一些场景,是一对多映射关系的,这时需要 flatMap。
Stream> inputStream = Stream.of(
Arrays.asList(1),
Arrays.asList(2,3),
Arrays.asList(4,5,6)
);
Stream outputStream = inputStream.flatMap((childList) -> childList.stream());
flatMap 是把 inputStream 里的层级结构扁平化了,就是将最底层的元素抽出来放到一起,最终 outputStream 里已经没有 List 了,都是直接的数字。
filter
filter 对原始的 Stream 进行某项测试,通过测试的元素被留下来生成一个新 Stream 。
留下偶数
Integer[] sixNums = {1, 2, 3, 4, 5, 6};
Integer[] events = Stream.of(sixNums).filter(n->n%2==0).toArray(Integer[]::new);
把单词挑出来
List output = reader.lines()
.flatMap(line -> Stream.of(line.split(REGEXP)))
.filter(word -> word.length() > 0)
.collect(Collectors.toList());
这段代码首先把每行的单词用 flatMap 整理到新的 Stream,然后保留长度不为 0 的,就是整篇文章中的全部单词了。
forEach
forEach方法接收一个 Lambda 表达式,然后在 Stream 的每一个元素上执行该表达式。
// Java 8
roster.stream()
.filter(p -> p.getGender() == Person.Sex.MALE)
.forEach(p -> System.out.println(p.getName()));
// Pre-Java 8
for (Person p : roster) {
if (p.getGender() == Person.Sex.MALE) {
System.out.println(p.getName());
}
}
对于一个人员集合遍历,找出男性并打印姓名。可以看出 forEach 是为 Lambda 而设计的,保持了最紧凑的风格。而且 Lambda 表达式本身是可以重用的,非常方便。当需要为多核系统优化时,可以 parallelStream( ).forEach( ),只是此时原有元素的次序没法保证,并行的情况下将改变串行时操作的行为,此时 forEach 本身的实现不需要调整,而 Java 8 以前的 for 循环 code 可能需要加入额外的多线程逻辑。
但一般认为,forEach 和常规 for 循环的差异不涉及到性能,它们仅仅是函数式风格与传统 Java 风格的差别。
另外一点需要注意的是,forEach 是 Terminal 操作,因此执行后,Stream 的元素就被 “消费” 掉了,你无法对一个 Stream 进行两次 Terminal 运算。下面是错误的:
stream.forEach(element -> doOneThing(element));
stream.forEach(element -> doAnotherThing(element));
相反,具有相似功能的 Intermediate 操作 peek 可以达到上述目的。如下是出现在该 api javadoc 上的一个实例。
peek 对每个元素执行操作并返回一个新的 Stream
Stream.of("one", "two", "three", "four")
.filter(e->e.length()>3)
.peek(e->System.out.println("Filtered value: " + e))
.map(String::toUpperCase)
.peek(e->System.out.println("Mapped value: " + e))
.collect(Collectors.toList());
forEach 不能修改自己包含的本地变量值,也不能用 break/return 之类的关键字提前结束循环。
findFirst
这是一个 Terminal 兼 short-circuiting 操作,它总是返回 Stream 的第一个元素,或者空。
这里比较重点的是它的返回值类型:Optional。这也是一个模仿 Scala 语言中的概念,作为一个容器,它可能含有某值,或者不包含。使用它的目的是尽可能避免 NullPointerException。
Optional 的用例
String strA = "abcd",strB = null;
print(strA);
print(strB);
public static void print(String text){
//java 8
Optional.ofNullable(text).ifPresent(System.out::println);
//java 8 之前
if (text!=null){
System.out.println(text);
}
}
在更加复杂的 if(XX != null)的情况中,使用 Optional 代码的可读性更好,而且它提供的是编译时检查,能极大的降低 NPE 这种 Runtime Exception 对程序的影响,或者强迫使程序员更早的在编译阶段处理空值问题,而不是留到运行时再发现和调试。
Stream 中的 findAny、Max/Min、reduce等方法都返回 Optional 值。还有例如 IntStream.average( ) 返回 OptionDouble 等。
reduce
这个方法主要作用是把 Stream 元素组合起来。它提供了起始值(种子),然后依照运算规则(BinaryOperator),和前面的 Stream 的第一个、第二个、第 n 个元素组合。从这个意义上说,字符串拼接、数值的 sum、min、max、average 都是特殊的 reduce。例如 Stream的 sum 就相当于
Integer sum = integers.reduce(0, (a, b) -> a+b);
或
Integer sum = integers.reduce(0, Integer::sum);
也有没有起始值的情况,这时就会把 Stream 的前面两个元素组合起来,返回的是 Optional。
reduce用例:
//1、字符串拼接
String str = Stream.of("A", "B", "C", "D").reduce("",String::concat);
//2、求最小值
double minValue = Stream.of(-1.5, 1.0, -3.0, -2.0).reduce(Double.MAX_VALUE,Double::min);
//3、求和(有无起始值情况)
int sumValue = Stream.of(1, 2, 3, 4).reduce(0,Integer::sum);
sumValue = Stream.of(1, 2, 3, 4).reduce(Integer::sum).get();
//4、过滤,字符串拼接
str = Stream.of("a", "B", "c", "D", "e", "F").filter(s->s.compareTo("Z")>0).reduce("",String::concat);
上面代码例如第一个示例的 reduce(),第一个参数(空白字符)即为起始值,第二个参数(String::concat)为 BinaryOperator。这类有起始值的 reduce() 都返回具体的对象。而对于第四个示例没有起始值的 reduce(),由于可能没有足够的元素,返回的是 Optional,请留意这个区别。
limit/skip
limit 返回的是 Stream 前面的 n 个元素;skip 则是扔掉前 n 个元素(它是由一个叫 subStream 的方法改名而来)
limit 和 skip 对运行次数的影响
List persons = new ArrayList<>();
for (int i = 0; i <= 10000 ; i++) {
Person person = new Person(i,"name"+i);
persons.add(person);
}
List personList = persons.stream()
.map(person -> person.getName())
.limit(10).skip(3)
.collect(Collectors.toList());
System.out.println(personList);
结果为:
这是一个有 10,000 个元素的 Stream,但在 short-circuiting 操作 limit 和 skip 的作用下,管道中 map 操作指定的 getName() 方法的执行次数为 limit 所限定的 10 次,而最终返回结果在跳过前 3 个元素后只有后面 7 个返回。
有一种情况是 limit/skip 无法达到 short-circuiting 目的的,就是把它们放在 Stream 排序操作的后面,原因跟 sorted 这个 Intermediate 操作有关:此时系统并不知道 Stream 排序后的次序如何,所以 sorted 中的操作看上去就像完全没有被 limit 和 skip 一样。
List persons1 = new ArrayList<>();
for (int i = 1; i <= 5 ; i++) {
Person person = new Person(i,"name"+i);
persons.add(person);
}
List personList1 = persons1.stream()
.sorted(Comparator.comparing(Person::getName))
.limit(2).collect(Collectors.toList());
最后有一点需要注意的是,对于一个 parallel 的 Stream 管道来说,如果其元素是有序的,那么 limit 操作的成本会比较大,因为它的返回对象必须是前 n 个也有一样次序的元素。取而代之的策略是取消元素的次序,或者不要用 parallel Stream。
sorted
对于 Stream 的排序通过 sorted 进行,它比数组的排序更强之处在于你可以首先对 Stream 进行各类 map、filter、limit、skip甚至是 distinct 来减少元素数量后,再排序,这能帮助程序明显缩短执行时间。
List persons1 = new ArrayList<>();
for (int i = 1; i <= 5 ; i++) {
Person person = new Person(i,"name"+i);
persons1.add(person);
}
List personList2 =persons1.stream().limit(2)
.sorted(Comparator.comparing(Person::getName))
.collect(Collectors.toList());
System.out.println(personList2);
这样会使结果简单许多
但是,这种优化是有 business logic 上的局限性的:即不要求排序后再取值。
min/max/distinct
min 和 max 的功能也可以通过对 Stream 元素先排序,然后再通过 findFirst 来实现,但是前者的性能会更好,为 O(n) ,而sorted 的成本为 O(n log n)。同时它们作为特殊的 reduce 方法被独立出来也是因为求最大最小是很常见的。
找出最长一行的长度
BufferedReader br = new BufferedReader(new FileReader("c:\\Install.log"));
int longestLine = br.lines().mapToInt(String::length).max().getAsInt();
br.close();
System.out.println(longestLine);
利用 distinct 找出不重复的单词,转小写并排序
List words = br.lines()
.flatMap(line->Stream.of(line.split(" ")))
.filter(word->word.length()>0)
.map(String::toLowerCase)
.distinct().sorted().collect(Collectors.toList());
Match
Stream 有三个 match 方法,从语义上说:
它们都是不需要遍历全部元素才能返回结果。例如 allMatch 只要一个元素不满足条件,就 skip 剩下的所有元素,返回 false。
List persons = new ArrayList<>();
persons.add(new Person(1,"name"+1,10));
persons.add(new Person(2, "name" + 2, 21));
persons.add(new Person(3, "name" + 3, 34));
persons.add(new Person(4, "name" + 4, 6));
persons.add(new Person(5, "name" + 5, 55));
boolean isAllAdult = persons.stream().allMatch(p->p.getAge()>18);
System.out.println("All are adult? " + isAllAdult);
boolean isThereAnyChildren = persons.stream().anyMatch(p->p.getAge()<12);
System.out.println("Any child? " +isThereAnyChildren);
3、进阶:自己生成流
Stream.generate
通过实现 Supplier 借口,你可以自己来控制流的生成。这种情形通常用于随机数、常量的 Stream。或者需要前后元素间维持着某种状态信息的 Stream 。把 Supplier 实例传递给 Stream.generate( ) 生成的 Stream,默认是串行无序的。由于是无限的,在管道中,必须利用 limit 之类的操作限制 Stream 的大小。
生成 10 个随机整数
Random seed = new Random();
Supplier random = seed::nextInt;
Stream.generate(random).limit(10).forEach(System.out::println);
//Another way
IntStream.generate(()->(int)(System.nanoTime()%100))
.limit(10).forEach(System.out::println);
Stream.generate( ) 还接受自己的实现的 Supplier。例如在构造海量测试数据的时候,用某种自动的规则给每一个变量赋值;或者依据公式计算 Stream 的每个元素值。这些都是维持状态信息的情形。
自实现 Supplier
Stream.generate(new PersonSupplier()).limit(10)
.forEach(p-> System.out.println(p.getName()+" "+p.getAge()));
private static class PersonSupplier implements Supplier {
private int index = 0;
private Random random = new Random();
@Override
public Person get() {
return new Person(index++, "StormTestUser" + index, random.nextInt(100));
}
}
Stream.iterate
iterate 跟 reduce 操作很像,接受一个种子值,和一个 UnaryOperator(例如 f)。然后种子值成为 Stream 的第一个元素。f(seed) 为第二个,f(f(seed)) 第三个,以此类推。
生成一个等差数列
Stream.iterate(0,n->n+3).limit(10).forEach(x-> System.out.print(x+" "));
与 Stream.generate 相仿,在 iterate 时候管道必须有 limit 这样的操作来限制 Stream 大小。
4、进阶:用 Collectors 来进行 reduction 操作
java.util.stream.Collectors 类的主要作用就是辅助进行各类有用的 reduction 操作,例如转变输出为 Collection,把 Stream 元素进行归组。
groupingBy/partitioningBy
按照年龄归组
Map> personGroups = Stream.generate(new PersonSupplier()).limit(100)
.collect(Collectors.groupingBy(Person::getAge));
Iterator iterator = personGroups.entrySet().iterator();
while (iterator.hasNext()){
Map.Entry> personsMap = (Map.Entry>) iterator.next();
System.out.println("Age: "+personsMap.getKey()+" = "+personsMap.getValue().size());
}
上面的 code 中,首先生成 100 人信息,然后按照年龄归组,相同年龄的人放到同一个 list 中,输出如下:
按照未成年人和成年人归类
Map> children = Stream.generate(new PersonSupplier()).limit(100)
.collect(Collectors.partitioningBy(p->p.getAge()<18));
System.out.println("children number: "+children.get(true).size());
System.out.println("adult number: "+children.get(false).size());
在使用条件“年龄小于 18”进行分组后可以看到,不到 18 岁的未成年人是一组,成年人是另外一组。partitioningBy 其实是一种特殊的 groupingBy,它依照条件测试的是否两种结果来构造返回的数据结构,get(true) 和 get(false) 能即为全部的元素对象。
转载:https://www.ibm.com/developerworks/cn/java/j-lo-java8streamapi/index.html#icomments