对于HtmlParser的使用,这方面的介绍很多,而且详细。前段时间我将HtmlParser的源码读了一篇,在此,总结下其HtmlParser的设计,跟大家交流,我们只关注是设计。
一、Filter设计
NodeFilter 是htmlParser主要的提取节点的一种方式,其结构灵活,通过组合解释器查找页面上的任一个节点。
1、先看个测试用例:
/** * Test and filtering. */ public void testAnd () throws ParserException { String guts; String html; NodeList list; guts = "<body>Now is the <a id=one><b>time</b></a> for all good <a id=two><b>men</b></a>..</body>"; html = "<html>" + guts + "</html>"; createParser (html); list = parser.extractAllNodesThatMatch ( new AndFilter ( new HasChildFilter ( new TagNameFilter ("b")), new HasChildFilter ( new StringFilter ("men"))) ); assertEquals ("only one element", 1, list.size ()); assertType ("should be LinkTag", LinkTag.class, list.elementAt (0)); LinkTag link = (LinkTag)list.elementAt (0); assertEquals ("attribute value", "two", link.getAttribute ("id")); }
2、NodeFilter 结构图
3、所使用的设计模式
NodeFilter接口的主要作用是判断该节点是否是客户端所查找的节点,返回一个boolean值。从上图中也可以看出,其接口中只有一个方法:
boolean accept (Node node); //接受一个Node类型的参数
在这,HtmlParser作者采用的是解析器模式来实现这个模式。
我们先了解下解释器模式,然后再结合作者的源码来理解解释器模式,体会作者的设计灵活性。
Interpreter模式可以定义出其方法的一种表示,并同时提供一个解释器。客户端可以使用解释器来解释这个语言中的句子。
其中,Interpreter模式的几个要点:
1、Interpreter模式应用场合是Interpreter模式应用中的难点,只有满足“业务规则频繁变化,且类似的模式不断重复出现,并且容易抽象为语法规则问题”才适合使用Interpreter模式
2、使用Interpreter模式来表示方法规则,从而可以使用面向对象技艺来方便地“扩展”方法。
4、HtmlParser NodeFilter 解释器模式的应用
抽象表达式角色:
public interface NodeFilter extends Serializable, Cloneable { /** * Predicate to determine whether or not to keep the given node. * The behaviour based on this outcome is determined by the context * in which it is called. It may lead to the node being added to a list * or printed out. See the calling routine for details. * @return <code>true</code> if the node is to be kept, <code>false</code> * if it is to be discarded. * @param node The node to test. */ boolean accept (Node node); }
下面看一个逻辑“与”的操作的实现,这里表示二个过滤器通过逻辑与操作给出一个boolean表达式的操作。代码如下:
/** * Accepts nodes matching all of its predicate filters (AND operation). */ public class AndFilter implements NodeFilter { protected NodeFilter[] mPredicates; /** * Creates an AndFilter that accepts nodes acceptable to both filters. * * @param left One filter. * @param right The other filter. */ public AndFilter(NodeFilter left, NodeFilter right) { NodeFilter[] predicates; predicates = new NodeFilter[2]; predicates[0] = left; predicates[1] = right; setPredicates(predicates); } public void setPredicates(NodeFilter[] predicates) { if (null == predicates) predicates = new NodeFilter[0]; mPredicates = predicates; } public boolean accept(Node node) { boolean ret; ret = true; for (int i = 0; ret && (i < mPredicates.length); i++) if (!mPredicates[i].accept(node)) // 这里调用本身构造的解释器再进行判断 ret = false; return (ret); } }
再来看一个测试用例中的另外一些过滤操作,HasChildFilter 其代码如下:
public class HasChildFilter implements NodeFilter { protected NodeFilter mChildFilter; protected boolean mRecursive; public HasChildFilter(NodeFilter filter) { this(filter, false); } public HasChildFilter(NodeFilter filter, boolean recursive) { mChildFilter = filter; mRecursive = recursive; } public boolean accept(Node node) { CompositeTag tag; // ?1 NodeList children; boolean ret; ret = false; if (node instanceof CompositeTag) { tag = (CompositeTag) node; children = tag.getChildren(); if (null != children) { for (int i = 0; !ret && i < children.size(); i++) if (mChildFilter.accept(children.elementAt(i))) // 判断是否包括该元素 ret = true; // do recursion after all children are checked // to get breadth first traversal if (!ret && mRecursive) // 搜索下层节点 for (int i = 0; !ret && i < children.size(); i++) if (accept(children.elementAt(i))) ret = true; } } return (ret); } }
TagNameFilter 的代码如下:
public class TagNameFilter implements NodeFilter { protected String mName; public TagNameFilter(String name) { mName = name.toUpperCase(Locale.ENGLISH); } public boolean accept(Node node) { return ((node instanceof Tag) && !((Tag) node).isEndTag() && ((Tag) node).getTagName().equals(mName)); } }
NodeFilter的另外13个子类,都按此实现包装不同的业务逻辑。并且非常容易增加其子类来实现新的“文法”规则。
客户端则可灵活组装解释器,执行解释。非常灵活,这也满足用户自定义逻辑去查找HTML文件中的各个节点。
至于HtmlParser是如何人存储HTML结构,在此不做深挖,只需要知道将提供一个迭代器可遍历所有的节点即可(其实HtmlParser中是通过遍历各个字符来映射Node对象及装载各字符的坐标(列数,行数))。
5、HtmlParser中客户端的调用
现在来看看测试用例中的Parser类中extractAllNodesThatMatch()。
Parser:
public class Parser implements Serializable { ... .... /** * Extract all nodes matching the given filter. */ public NodeList extractAllNodesThatMatch (NodeFilter filter) throws ParserException { NodeIterator e; NodeList ret; ret = new NodeList (); for (e = elements (); e.hasMoreNodes (); ) // elements()返回一个简单的迭代器,遍历所有节点 e.nextNode ().collectInto (ret, filter); return (ret); } ... ... }
AbstractNode:
public abstract class AbstractNode implements Node, Serializable { ... ... public void collectInto (NodeList list, NodeFilter filter) { if (filter.accept (this)) list.add (this); } ... ... }
public class CompositeTag extends TagNode { //TagNode extends AbstractNode, AbstractNode implements Node ... ... public void collectInto (NodeList list, NodeFilter filter) { super.collectInto (list, filter); //AbstractNode collectInto for (SimpleNodeIterator e = children(); e.hasMoreNodes ();) { // e.nextNode() 返回一个Node类型 e.nextNode ().collectInto() = this.collectInto() 递归遍历所有节点,并对每个节点进行过滤,将符合条件的节点添加至结果集中(NodeList) e.nextNode ().collectInto (list, filter); } if ((null != getEndTag ()) && (this != getEndTag ())) getEndTag ().collectInto (list, filter); } ... ... }