通过POI组件读取Excel大文件
一、问题背景
在Java中读取Excel可以通过POI组件。POI提供了跨平台的能力，在linux环境下可以对excel文件做操作；如果是采用COM接口则必须要在window下，而且需要安装office软件。
POI提供UserModel和事件驱动两种方式读取excel。UserModel方式操作简洁，但是内存消耗大，稍微大一点的excel读取就会报内存溢出。
下面讲的是如果通过事件驱动的方式读取excel。代码经测试读取10万行记录的excel在10秒左右。
二、环境准备
需要导入如下Jar包依赖：
三、样例代码
1、从DefaultHandler派生事件处理类ExcelAbstract
package com.elon.excel;
import java.io.InputStream;
import java.sql.SQLException;
import java.util.HashMap;
import java.util.Map;
import org.apache.poi.xssf.eventusermodel.XSSFReader;
import org.apache.poi.xssf.model.SharedStringsTable;
import org.apache.poi.xssf.usermodel.XSSFRichTextString;
import org.apache.poi.openxml4j.opc.OPCPackage;
import org.xml.sax.Attributes;
import org.xml.sax.InputSource;
import org.xml.sax.SAXException;
import org.xml.sax.XMLReader;
import org.xml.sax.helpers.DefaultHandler;
import org.xml.sax.helpers.XMLReaderFactory;
/**
* POI事件驱动读取Excel文件的抽象类。
*
* @author elon
* @version 2018年7月7日
*/
public abstract class ExcelAbstract extends DefaultHandler {
private SharedStringsTable sst;
private String lastContents;
private boolean nextIsString;
private int curRow = 0;
private String curCellName = "";
/**
* 读取当前行的数据。key是单元格名称如A1,value是单元格中的值。如果单元格式空,则没有数据。
*/
private Map rowValueMap = new HashMap<>();
/**
* 处理单行数据的回调方法。
*
* @param curRow 当前行号
* @param rowValueMap 当前行的值
* @throws SQLException
*/
public abstract void optRows(int curRow, Map rowValueMap);
/**
* 读取Excel指定sheet页的数据。
*
* @param filePath 文件路径
* @param sheetNum sheet页编号.从1开始。
* @throws Exception
*/
public void readOneSheet(String filePath, int sheetNum) throws Exception {
OPCPackage pkg = OPCPackage.open(filePath);
XSSFReader r = new XSSFReader(pkg);
SharedStringsTable sst = r.getSharedStringsTable();
XMLReader parser = getSheetParser(sst);
// 根据 rId# 或 rSheet# 查找sheet
InputStream sheet2 = r.getSheet("rId" + sheetNum);
InputSource sheetSource = new InputSource(sheet2);
parser.parse(sheetSource);
sheet2.close();
pkg.close();
}
@Override
public void startElement(String uri, String localName, String name, Attributes attributes) throws SAXException {
// c => 单元格
if (name.equals("c")) {
// 如果下一个元素是 SST 的索引，则将nextIsString标记为true
String cellType = attributes.getValue("t");
if (cellType != null && cellType.equals("s")) {
nextIsString = true;
} else {
nextIsString = false;
}
}
// 置空
lastContents = "";
/**
* 记录当前读取单元格的名称
*/
String cellName = attributes.getValue("r");
if (cellName != null && !cellName.isEmpty()) {
curCellName = cellName;
}
}
@Override
public void endElement(String uri, String localName, String name) throws SAXException {
// 根据SST的索引值的到单元格的真正要存储的字符串
// 这时characters()方法可能会被调用多次
if (nextIsString) {
try {
int idx = Integer.parseInt(lastContents);
lastContents = new XSSFRichTextString(sst.getEntryAt(idx)).toString();
} catch (Exception e) {
}
}
// v => 单元格的值，如果单元格是字符串则v标签的值为该字符串在SST中的索引
// 将单元格内容加入rowlist中，在这之前先去掉字符串前后的空白符
if (name.equals("v")) {
String value = lastContents.trim();
value = value.equals("") ? " " : value;
rowValueMap.put(curCellName, value);
} else {
// 如果标签名称为 row ，这说明已到行尾，调用 optRows() 方法
if (name.equals("row")) {
optRows(curRow, rowValueMap);
rowValueMap.clear();
curRow++;
}
}
}
public void characters(char[] ch, int start, int length) throws SAXException {
// 得到单元格内容的值
lastContents += new String(ch, start, length);
}
/**
* 获取单个sheet页的xml解析器。
* @param sst
* @return
* @throws SAXException
*/
private XMLReader getSheetParser(SharedStringsTable sst) throws SAXException {
XMLReader parser = XMLReaderFactory.createXMLReader("org.apache.xerces.parsers.SAXParser");
this.sst = sst;
parser.setContentHandler(this);
return parser;
}
}
2、从ExcelAbstract派生ExcelReaderUtil处理每一行数据
package com.elon.excel;
import java.text.SimpleDateFormat;
import java.util.ArrayList;
import java.util.Date;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.regex.Matcher;
import java.util.regex.Pattern;
import org.apache.poi.hssf.usermodel.HSSFDateUtil;
/**
* Excel读取公共类。
* @author elon
* @version 2018年7月7日
*/
public class ExcelReaderUtil extends ExcelAbstract {
/**
* 提取列名称的正则表达式
*/
private static final String DISTILL_COLUMN_REG = "^([A-Z]{1,})";
/**
* 读取excel的每一行记录。map的key是列号(A、B、C...), value是单元格的值。如果单元格是空，则没有值。
*/
private List> dataList = new ArrayList<>();
@Override
public void optRows(int curRow, Map rowValueMap) {
Map dataMap = new HashMap<>();
rowValueMap.forEach((k,v)->dataMap.put(removeNum(k), v));
dataList.add(dataMap);
}
/**
* 日期数字转换为字符串。
*
* @param dateNum excel中存储日期的数字
* @return 格式化后的字符串形式
*/
public static String dateNum2Str(String dateNum) {
Date date = HSSFDateUtil.getJavaDate(Double.parseDouble(dateNum));
SimpleDateFormat formatter = new SimpleDateFormat("yyyy-MM-dd");
return formatter.format(date);
}
/**
* 删除单元格名称中的数字，只保留列号。
* @param cellName 单元格名称。如:A1
* @return 列号。如：A
*/
private String removeNum(String cellName) {
Pattern pattern = Pattern.compile(DISTILL_COLUMN_REG);
Matcher m = pattern.matcher(cellName);
if (m.find()) {
return m.group(1);
}
return "";
}
public List> getDataList() {
return dataList;
}
}
上面的dateNum2Str方法将excel中读取的日期数字转换为可读的字符串形式。之所不在ExcelAbstract中根据 attributes.getValue(“s”)的返回值自动判断日期类型，是由于不同的excel版本这个值是不同的。但是客户端是清楚哪一列是存储日期的，最好由调用者判断。
四、测试代码
package com.elon.excel;
public class TestExcel {
public static void main(String[] args) {
try {
ExcelReaderUtil excel = new ExcelReaderUtil();
excel.readOneSheet("E:/temp/test.xlsx", 1);
System.out.println(excel.getDataList());
} catch (Exception e) {
e.printStackTrace();
}
}
}
# **3、测试打印读取的Excel数据**
在ExcelAbstract中增加curCellName记录每一次处理的单元格名称是为了解决空单元格的问题。如果只记录值，空单元格无法区分。通过curCellName可以识别出没有值的单元格。