网站建设 > 网站设计

百度引擎搜索的工作原理是什么?

分类:网站设计 发布时间:2017-09-14 23:30:00

摘要:百度引擎搜索的工作原理是什么?Spider抓取系统的基本框架,Baiduspider 主要抓取策略类型,Baiduspider抓取过程中涉及的网络协议,Baiduspider抓取频次原则及调整方法

  相信对于几个国内大的搜索引擎之一 —— 百度搜索引擎,大家不会陌生。在这里我们要介绍的是百度搜索引擎的工作原理。了解搜索引擎的工作原理对我们日常搜索应用和网站提交推广都会有很大帮助,下面我将会对百度的工作原理进行一个简析。

百度引擎搜索的工作原理是什么? 第1张

  互联网信息爆发式增长,如何有效的获取并利用这些信息是搜索引擎工作中的首要环节,数据抓取系统作为整个搜索系统中的上游,主要负责互联网信息的搜集、保 存、更新环节,它像蜘蛛一样在网络间爬来爬去,因此通常会被叫做“spider”,例如我们常用的几家通用搜索引擎蜘蛛被称为:Baiduspdier、 Googlebot、Sogou Web Spider等。

  1、Spider抓取系统的基本框架

  Spider抓取系统是搜索引擎数据来源的重要保证,如果把web理解为一个有向图,那么,spider的工作过程可以认为是对这个有向图的遍历,从一些重要的种子URL开始,通过页面上的超链接关系,不断的发现新URL并抓取,尽最大可能抓取到更多的有价值网页。

  对于类似百度这样的大型spider系统,因为每时每刻都存在网页被修改、删除或出现新的超链接的可能,因此,还要对spider过去抓取过的页面保持更新,维护一个URL库和页面库。

  2、Baiduspider 主要抓取策略类型

  上图看似简单,但其实Baiduspider在抓取过程中面对的是一个超级复杂的网络环境,为了使系统可以抓取到尽可能多的有价值资源并保持系统及实际环境中页面的一致性同时不给网站体验造成压力,会设计多种复杂的抓取策略。

  3、Baiduspider抓取过程中涉及的网络协议

  刚才提到百度搜索引擎会设计复杂的抓取策略,其实搜索引擎与资源提供者之间存在相互依赖的关系,其中搜索引擎需要站长为其提供资源,否则搜索引擎就无法满足用户检索需求;而站长需要通过搜索引擎将自己的内容推广出去获取更多的受众。

  spider抓取系统直接涉及互联网资源提供者的利益,为了使搜素引擎与站长能够达到双赢,在抓取过程中双方必须遵守一定的规范,以便于双方的数据处理及对接,这种过程中遵守的规范也就是日常中我们所说的一些网络协议。

  4、Baiduspider抓取频次原则及调整方法

  Baiduspider根据上述网站设置的协议对站点页面进行抓取,但是不可能做到对所有站点一视同仁,会综合考虑站点实际情况确定一个抓取配额,每天定 量抓取站点内容,即我们常说的抓取频次,那么百度搜索引擎是根据什么指标来确定对一个网站的抓取频次的呢?主要指标有四个:

  (1)、网站更新频率:更新快多来,更新慢少来,直接影响Baiduspider的来访频率。

  (2)、网站更新质量:更新频率提高了,仅仅是吸引了Baiduspier的注意,Baiduspider对质量是有严格要求的,如果网站每天更新出的大量内容都被Baiduspider判定为低质页面,依然没有意义。

  (3)、连通度:网站应该安全稳定、对Baiduspider保持畅通,经常给Baiduspider吃闭门羹可不是好事情。

  (4)、站点评价:百度搜索引擎对每个站点都会有一个评价,且这个评价会根据站点情况不断变化,是百度搜索引擎对站点的一个基础打分(绝非外界所说的百度权重),是百度内部一个非常机密的数据,站点评级从不独立使用,会配合其它因子和阈值一起共同影响对网站的抓取和排序。

  5、造成Baiduspider抓取异常的原因

  有一些网页,内容优质,用户也可以正常访问,但是Baiduspider却无法正常访问并抓取,造成搜索结果覆盖率缺失,对百度搜索引擎对站点都是一种损失,百度把这种情况叫“抓取异常”。对于大量内容无法正常抓取的网站,百度搜索引擎会认为网站存在用户体验上的缺陷,并降低对网站的评价,在抓取、索引、排序上都会受到一定程度的负面影响,最终影响到网站从百度获取的流量。

  上面就是我对百度搜搜引擎工作原理的简要分析,在这里而分析得并不是很全面深入,在此主要分的是抓取建库方面的原理分析,每一个SEOER都应该知道SEO优化的根本目的就是为了增加使用用户、获得流量,掌握了百度搜索引擎的工作原理,也不要忽视用户的体验感。