使用开源引擎Lucene搭建小型搜索引擎
信息的搜集-策略 广度优先 vs. 深度优先– 宽度优先:先采集完同一层的网页,再采集下一层网页 – 深度优先:先沿一条路径采到叶节点,再从同层其他路径进行采 集 – 有研究表明:广度优先的方法得到的网页集合的重要性更好
网站采集 vs. 全局URL采集 全局URL采集– 网站采集:一个网站一个网站采集 – 全局URL采集:将所有URL放入一个URL池,从中使用某种方法 全局URL采集:将所有URL放入一个URL池,从中使用某种方法 进行选择 – 网站采集在支持应用方面灵活性大一些,但是采集效率可能不如 全局URL采集,通常的搜索引擎采用全局URL采集的方法。 全局URL采集,通常的搜索引擎采用全局URL采集的方法。
孤立站点– 用户提交7
2011-6-3