怎么理解搜索引擎爬虫的工作原理?

　　作为一个seo工作者，了解搜索引擎爬虫的工作原理，是非常有必要的，因为这是对于大家根据爬虫抓取原理对网站优化进行调整的重要依据。

　　怎么理解搜索引擎爬虫的工作原理?

　　1、种子URL

　　所谓种子URL所指的就是最开始选定的URL地址，大多数情况下，网站的首页、频道页等丰富性内容更多的页面会被作为种子URL;

　　然后将这些种子URL放入到待抓取的URL列表中;

　　2、待抓取URL列表

　　爬虫从待抓取的URL列表中逐个进行读取，读取URL的过程中，会将URL通过DNS解析，把这个URL地址转换成网站服务器的IP地址+相对路径的方式;

　　3、网页下载器

　　接下来把这个地址交给网页下载器(所谓网页下载器，顾名思义就是负责下载网页内容的一个模块;

　　4、源代码

　　对于下载到本地的网页，也就是我们网页的源代码，一方面要将这个网页存储到网页库中，另一方面会从下载网页中再次提取URL地址。

　　5、抽取URL

　　新提取出来的URL地址会先在已抓取的URL列表中进行比对，检查一下这个网页是不是被抓取了。

　　6、新URL存入待抓取队列

　　如果网页没有被抓取，就将新的URL地址放入到待抓取的URL列表的末尾，等待被抓取。

　　就这样循环的工作着，直到待抓取队列为空的时候，爬虫就算完成了抓取的全过程。

　　然后以下载的网页，就都会进入到一定的分析中，分析后进行索引，我们就能看到收录结果了。

　　不过，关于搜索引擎蜘蛛的抓取原理，各位优化人员，只要将基础部分进行掌握，那么对于我们的seo优化工作就是比较充分了。