搜索引擎是指根据一定的策略、运用特定的计算机程序从互联网上搜集信息,在对信息进行组织和处理后,为用户提供检索服务,将用户检索相关的信息展示给用户的系统。搜索引擎包括全文索引、目录索引、元搜索引擎、垂直搜索引擎、集合式搜索引擎、门户搜索引擎与免费链接列表等。百度和谷歌等是搜索引擎的代表。
分类 | 定义 | 优点 | 缺点 | 举例站点 |
目录式 | 以人工或半半自动方式搜集信息,由编辑员查看信息后,人工形成信息摘要,并将信息置于事先确定的分类框架中。 | 信息准确、导航质量高。 | 需人工介入、维护量大、信息量小、信息更新不及时; | yahoo |
机器人索引 | 由一个称为蜘蛛的机器人程序以某种策略自动地在互联网中发现和搜集信息,由索引器为搜集到的信息建立索引;用户查询时,检索器根据用户的查询输入检索索引库,并将查询结果返回给用户; | 信息量大,更新及时,毋需人工干预; | 返回信息过多,有很多无关的垃圾信息,用户必须从结果中进行筛选; | google、ltavista、locos、百度、搜狐、中搜 |
元搜索引擎 | 没有自己的数据,而是将用户的查询请求同时向多个搜索引擎递交,将返回的结果进行重复排除、重新排序等处理后,作为自己的结果返回给用户。 | 返回结果的信息更大、更全。 | 用户需做更多的筛选; | webcrawler |
搜索引擎组成 | 搜索引擎工作步骤 | ||
1 搜索器 | 其功能是在互联网中漫游,发现和搜集信息; | 1 爬行 | 搜索引擎是通过一种特定规律的软件跟踪网页的链接,从一个链接爬到另外一个链接,像蜘蛛在蜘蛛网上爬行一样,所以被称为“蜘蛛”也被称为“机器人”。搜索引擎蜘蛛的爬行是被输入了一定的规则的,它需要遵从一些命令或文件的内容。 |
2 索引器 | 其功能是理解搜索器所搜索到的信息,从中抽取出索引项,用于表示文档以及生成文档库的索引表; |
2 抓取存储 | 搜索引擎是通过蜘蛛跟踪链接爬行到网页,并将爬行的数据存入原始页面数据库。其中的页面数据与用户浏览器得到的HTML是完全一样的。搜索引擎蜘蛛在抓取页面时,也做一定的重复内容检测,一旦遇到权重很低的网站上有大量抄袭、采集或者复制的内容,很可能就不再爬行。 |
3 检索器 | 其功能是根据用户的查询在索引库中快速检索文档,进行相关度评价,对将要输出的结果排序,并能按用户的查询需求合理反馈信息; |
3 预处理 | 搜索引擎将蜘蛛抓取回来的页面,进行各种步骤的预处理。 ⒈提取文字 ⒉中文分词 ⒊去停止词 ⒋消除噪音 搜索引擎需要识别并消除这些噪声,比如版权声明文字、导航条、广告等 ⒍正向索引 ⒎倒排索引 ⒏链接关系计算 ⒐特殊文件处理 |
4 用户接口 | 其作用是接纳用户查询、显示查询结果、提供个性化查询项。 | 4 排名 | 用户在搜索框输入关键词后,排名程序调用索引库数据,计算排名显示给用户,排名过程与用户直接互动的。但是,由于搜索引擎的数据量庞大,虽然能达到每日都有小的更新,但是一般情况搜索引擎的排名规则都是根据日、周、月阶段性不同幅度的更新。 |