scrapy 2.3 Scrapy Shell

2021-06-15 16:45 更新

而 parse 命令对于检查蜘蛛的行为非常有用,除了显示接收到的响应和输出之外,检查回调中发生的情况几乎没有帮助。如何调试情况 parse_details 有时没有收到物品?

幸运的是, shell 在这种情况下,你的面包和黄油(见 从spiders调用shell来检查响应 ):

from scrapy.shell import inspect_response

def parse_details(self, response, item=None):
    if item:
        # populate more `item` fields
        return item
    else:
        inspect_response(response, self)
以上内容是否对您有帮助:
在线笔记
App下载
App下载

扫描二维码

下载编程狮App

公众号
微信公众号

编程狮公众号