请问:
我在 Pipelines 的__init__中设置了一个变量 AAA,代码里写着:
if len(AAA)> 500:
汇总写入一次数据;
AAA= []
请问:最后程序结束的时候,如果 AAA 不足 500,如何收尾。
我在 Pipelines 的__init__中设置了一个变量 AAA,代码里写着:
if len(AAA)> 500:
汇总写入一次数据;
AAA= []
请问:最后程序结束的时候,如果 AAA 不足 500,如何收尾。
|
bazingaterryJul 4, 2017 via iPhone
1
结束的时候还有一个函数(一时之间想不起名字
|
|
ldbC5uTBj11yaeh5Jul 4, 2017
2
判断一下当前时间,超过上次记录时间比如 1 分钟的话,即使不足 500 条也写入。算是最简单的 workaround 了。
|
|
sikaribaJul 4, 2017
3
就用一楼的那个,收尾的时候再写一次。closed 函数。
https://docs.scrapy.org/en/latest/topics/spiders.html#scrapy.spiders.Spider.closed |
|
4
pipline 里有个 close_spider 可以在这里导出
|
|
1OJul 4, 2017
5
都是🐸,你看你都丑成啥样了。
|
|
6
谢谢大家,明白了,都怪自己没有细看官方文档。谢谢大家,学习成长了。
|