什么是爬虫？搜索引擎原理中是这样说的：爬虫也称为“Wanderers”(漫步者)或者“Robots”(机器人)，我们常说的百度爬虫经常用后者代替。它首先是一组运行在计算机的程序，在搜索引擎中负责抓取时新的且公共可访问的web网页、图片和文档等资源。这种抓取的过程为通过下载一个网页，分析其中的链接，继而漫游到其他链接指向的网页，循环往返。

爬虫的发展史要从第一个爬虫开始讲起。那么下面给大家介绍下世界上第一个爬虫，爬虫简称是一种自动抓取网页信息的机器人。世界上第一个爬虫是由麻省理工学院的学生马休·格雷在1993年写的，并给他起了一个名字“万维网漫步者”。尽管其编写目的不是为了做搜索引擎，但正是这我们这一生我们这一生我们这一生革命的创新，为以后的搜索引擎发展和今天的广泛应用提供了坚实的基础。

现代搜索引擎的思路源于Wanderes，不少人改进了马休·格雷的蜘蛛程序。1994年7月，Michael Mauldin将John Leavitt的蜘蛛程序接入到其索引程序中，创建了当时著名的搜索引擎Lycos。这应该也算是第一个搜索引擎了。其后无数的搜索引擎促使了爬虫越写越复杂，并逐渐向多策略、负载均衡及大规模增量抓取等方向发展。爬虫的工作成果是的搜索引擎能够渐叟几乎全部的万维网页，甚至被删除的网页也可以通过”网页快照“的功能访问。
以上就是互联网那些事今天给大家介绍的关于什么是爬虫以及爬虫的发展史问题，我们只有了解了爬虫以及他的发展史，才能更好地 做好SEO技术。同时欢迎广大朋友继续关注互联网那些事，平台就继续为大家提供SEO技术分享等一些资讯。深圳网站建设深圳网企有的不仅仅是10年以上的网站建设经验，更多的是站在用户的角度去设计网站，符合大多数人的使用习惯，做更好的用户体验！