Text和String的区别

Text和String的区别主要在于几个关于位置和长度的方法(lenght、indexOf(find)、charAt)所针对的对象不同,Text的位置是UTF-8编码后的字节偏移量,长度是UTF-8编码后的字节数组大小,而String针对的是Java char(String有一个codePointAt方法可以获得和Text的charAt一样的效果)。

一个来自《Hadoop 权威指南》的例子:

import org.apache.hadoop.io.Text;
import org.junit.Assert;
import org.junit.Test;

public class TextStringDiffTest {

	@Test
	public void string(){
		
		String s = "\u0041\u00DF\u6771\uD801\uDC00";
		
		// test indexOf
		Assert.assertEquals(s.indexOf("\u0041"), 0);
		Assert.assertEquals(s.indexOf("\u00DF"), 1);
		Assert.assertEquals(s.indexOf("\u6771"), 2);
		Assert.assertEquals(s.indexOf("\uD801\uDC00"), 3);
		System.out.println(s.toString());
		
		// test length
		Assert.assertEquals(s.length(), 5);
		Assert.assertEquals(s.getBytes().length, 10);
		
	}
	
	@Test
	public void text(){
		
		// 这个字符串按照UTF-8方案编码后所占的字节数是1+2+3+4(没有\uDC00是因为找不到)
		Text text = new Text("\u0041\u00DF\u6771\uD801\uDC00");
		
		// test find
		Assert.assertEquals(text.find("\u0041"), 0);
		Assert.assertEquals(text.find("\u00DF"), 1);
		Assert.assertEquals(text.find("\u6771"), 3);
		Assert.assertEquals(text.find("\uD801\uDC00"), 6);
		Assert.assertEquals(text.find("\uDC00"), -1);
		
		// test length
		Assert.assertEquals(text.getLength(), 10);
	}

}
在编码后一个unicode字符占有多个字节时,可以看出两者的不同。


附上Unicode编码相关:

1.Unicode是一种字符映射方案,这种映射并不是编码(即还没有到二进制机器码层面),而是像一个电话本一样,把全世界所有语言使用的字符,都映射成一个"u+"开头的数字(在JAVA中,除了映射表中最后一个字符u+10400,都可以使用以"\u"开头的单个java char来表示);

(第一个字符是\u4E00,最后一个字符是\u9FA5)

比如:

字符 Unicode字符 Java表示 ASCⅡ/UTF-8
拉丁大写字母A u+0041 /u0041 00101001/00101001

2.将Unicdoe字符映射到机器码的编码方案有UTF-8和UTF-16;

a.UTF-8:是一种变长的编码方案,在0~127之间的Unicode码将会使用一个字节来编码(并且这个映射和ASCⅡ相同),超过127的用2个或4个字节;

b.UTF-16:固定使用2个或4个字节。


3.Unicode只是一个字符到数字的映射的标准,它对支持的字符数量没有限制;

4.永远记得通过Content-Type或者meta charset便签来显式指定你的文档的编码,这样浏览器就不会猜测你使用什么编码而造成编码错误。


参考文档:

http://www.freebuf.com/articles/others-articles/25623.html 感谢作者&不妥删

你可能感兴趣的:(大数据)