Python爬虫就是使用 Python 程序开发的网络爬虫，是一种按照一定的规则，自动地抓取万维息的程序或者脚本，主要用于搜索引擎，它将一个网站的所有内容与链接进行阅读，并建立相关的全文索引到数据库中，然后跳到另一个网站。