Googlebot是什么意思

Googlebot指谷歌蜘蛛,也叫做谷歌网页抓取机器人,其用途是用来抓取网页内容。百度蜘蛛叫做Baiduspider,360蜘蛛叫做360spider。

Google拥有大量Googlebot,有些Googlebot专门用来抓取暗网页面,有些Googlebot用来抓取更新频繁的网页,有些Googlebot用来抓取移动网页。无论任何类型的Googlebot,都是为了更高效的抓取网页数据。

Googlebot24小时持续工作,发现并抓取互联网中的网页数据(文字、图片、视频),并把抓取到的网页数据保存到Google数据库中。Googlebot只负责抓取网页数据,至于抓取到的网页能否呈现给用户,Google还要经过分析处理(参考文章:谷歌搜索的工作原理是什么)。

Googlebot会根据网站更新频率和网站服务器的承载能力决定抓取频次,既保证Googlebot的抓取效率,又不防影响到网站正常运行。