最近开发需求中要求大数据的入库操作,LZ项目中使用的是Oracle数据库,因此选择了Clob类型存储。第一个想到的是普通的JDBC的操作,毕竟这个LZ以前处理过,但是这个程序统一使用的Spring的jdbctemplate进行的入库操作,LZ以前没接触过,就尝试研究了一番。
整体上代码难度不大,网上相关技术较多,这里简单贴下代码供参考:
xml配置(也可以直接代码中new DefaultLobHandler()):
<bean id="lobHandler" class="org.springframework.jdbc.support.lob.DefaultLobHandler" lazy-init="true"> </bean>
java代码:
String sql = "insert into TR_PROJ_INFO(INSTALLADDRESS) values(?)"; final String text="xxx"; //jt就是jdbctemplate,需要配置datasource并通过spring注入 jt.execute(sql, new AbstractLobCreatingPreparedStatementCallback(lobHandler) { @Override protected void setValues(PreparedStatement pstm, LobCreator lobCreator) throws SQLException, DataAccessException { lobCreator.setClobAsString(pstm, 1, text); } });
ok,代码写完了,LZ就拿来测试,这个时候,异常君来了。。。
org.springframework.jdbc.support.lob.DefaultLobHandler"</span></i></span></div> org.springframework.jdbc.UncategorizedSQLException: (executing PreparedStatementCallback [org.springframework.jdbc.core.JdbcTemplate$SimplePreparedStatementCreator@34e6e3]): encountered SQLException [数据大小超出此类型的最大值: 71472]; nested exception is java.sql.SQLException: 数据大小超出此类型的最大值: 71472 java.sql.SQLException: 数据大小超出此类型的最大值: 71472 at oracle.jdbc.dbaccess.DBError.throwSqlException(DBError.java:134) at oracle.jdbc.dbaccess.DBError.throwSqlException(DBError.java:179) at oracle.jdbc.ttc7.TTCItem.setArrayData(TTCItem.java:147) at oracle.jdbc.dbaccess.DBDataSetImpl.setBytesBindItem(DBDataSetImpl.java:2461) at oracle.jdbc.driver.OraclePreparedStatement.setItem(OraclePreparedStatement.java:1155) at oracle.jdbc.driver.OraclePreparedStatement.setString(OraclePreparedStatement.java:1572) at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39) at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25) at java.lang.reflect.Method.invoke(Method.java:597) at org.logicalcobwebs.proxool.ProxyStatement.invoke(ProxyStatement.java:100) at org.logicalcobwebs.proxool.ProxyStatement.intercept(ProxyStatement.java:57) at oracle.jdbc.internal.OracleStatement$$EnhancerByProxool$$16a7118c.setString(<generated>) at org.springframework.jdbc.support.lob.DefaultLobHandler$DefaultLobCreator.setClobAsString(DefaultLobHandler.java:106) at com.blackstar.project.service.ProjectService$1.setValues(ProjectService.java:71) at org.springframework.jdbc.core.support.AbstractLobCreatingPreparedStatementCallback.doInPreparedStatement(AbstractLobCreatingPreparedStatementCallback.java:71) at org.springframework.jdbc.core.JdbcTemplate.execute(JdbcTemplate.java:450) at org.springframework.jdbc.core.JdbcTemplate.execute(JdbcTemplate.java:469)
LZ当时就吐血了。。。居然还有大小限制,插入的数据也就1000多个汉字,最多刚超过4000字节,大家都知道这是oracle的varchar2类型的最大值,但是我明明用了clob字段,而且据说最大支持存储4G数据量。然后LZ开始求助百度君,试了多种方案后,发现代码大同小异,异常依旧。当时LZ着急完成功能,最后试了一种折中的办法,现在看看那段代码我也是醉了,贴出来:
String sql ="INSERT INTO TR_PROJ_INFO (SEQU_ID,INSTALLADDRESS) values('"+sequId+"',empty_clob())" jt.update(sql); updateClobColumn("INSTALLADDRESS",params.get("Range"),sequId); private void updateClobColumn(String key,String value,String sequId) { if (value != null) { String updateClobSql = "UPDATE TR_PROJ_INFO set "+key+" = "+key+"||? WHERE sequ_id = ? "; while (value.length() > 500) { String temp = value.substring(0, 500); jt.update(updateClobSql, new Object[] { temp, sequId }); value = value.substring(500); } jt.update(updateClobSql, new Object[] { value, sequId }); } }
首先给clob插入空值,然后逐次插入500个字符,居然神奇的没有报错。。。
虽然最终完成了功能,但是总觉着这个方法太暴力。后来抽时间重新排查问题,LZ最后实在没办法自己搞了测试demo,一模一样的代码,然后。。。就成功了。痛苦得把jar包拎出来一个个对比,最后发现ocale驱动包居然不一样,居然是Oracle JDBC Driver version - 9.0.2.0.0,测试环境是11.2.0.1.0,泪奔,放到环境中,一切都ok了,遇到这样的问题,我也只能认栽了,最后再贴出来一段读取Clob字段的代码(根据自己需要,我的驱动包换了以后,可以直接读取出来,如果读取出来不是字符串,而是clob类,那就转化一下):
public String ClobToString(Clob clob) { String reString = ""; Reader is = null; try { is = clob.getCharacterStream(); } catch (SQLException e) { // TODO Auto-generated catch block e.printStackTrace(); } // 得到流 BufferedReader br = new BufferedReader(is); String s = null; try { s = br.readLine(); } catch (IOException e) { // TODO Auto-generated catch block e.printStackTrace(); } StringBuffer sb = new StringBuffer(); while (s != null) { //执行循环将字符串全部取出付值给StringBuffer由StringBuffer转成STRING sb.append(s); try { s = br.readLine(); } catch (IOException e) { // TODO Auto-generated catch block e.printStackTrace(); } } reString = sb.toString(); return reString; }