自动限速(AutoThrottle)扩展

    • 更友好的对待网站，而不使用默认的下载延迟0。
    • 自动调整scrapy来优化下载速度，使得用户不用调节下载延迟及并发请求数来找到优化的值。用户只需指定允许的最大并发请求数，剩下的都交给扩展来完成。

    在Scrapy中，下载延迟是通过计算建立TCP连接到接收到HTTP包头(header)之间的时间来测量的。

    注意，由于Scrapy可能在忙着处理spider的回调函数或者无法下载，因此在合作的多任务环境下准确测量这些延迟是十分苦难的。不过，这些延迟仍然是对Scrapy(甚至是服务器)繁忙程度的合理测量，而这扩展就是以此为前提进行编写的。

    算法根据以下规则调整下载延迟及并发数:

    • spider永远以1并发请求数及 中指定的下载延迟启动。

    注解

    下面是控制AutoThrottle扩展的设置:

    默认: False

    启用AutoThrottle扩展。

    默认: 5.0

    默认: 60.0

    在高延迟情况下最大的下载延迟(单位秒)。

    默认: False

    起用AutoThrottle调试(debug)模式，展示每个接收到的response。您可以通过此来查看限速参数是如何实时被调整的。