首先我们拿到由scrapy 创建的爬虫项目,我这边是已经编写了一段的爬虫项目的代码。看下目录结构
原来正常创建的爬虫项目的话,是没有debug.py文件的。这个debug 文件则是由我们创建出来的调试文件,在debug模式下,直接通过debug按钮 运行这个debug.py 文件。
这里就是debug.py 文件中的内容:
from scrapy import cmdline
# 'taobaoNumber' 为爬虫名,格式一般就是这样固定化的
cmdline.execute('scrapy crawl taobaoNumber'.split())
下面会继续跳转到我们设置的debug位置,下面就可以看到我们请求到的网站内容信息,通过这种方式来调试我们的代码会非常便捷。