问题描述:在爬取数据之后向远程数据库存相关数据时,出现该错误。
暂时解决方案:发现每次爬取较大量数据进行存储的时候会出现这种错误,而分批量爬取数据,然后再进行存储就不会出现这个问题了。
比如之前一次性爬10000页的数据,现在每次只爬取2000-3000页,然后分几次爬完。
本文共 187 字,大约阅读时间需要 1 分钟。
问题描述:在爬取数据之后向远程数据库存相关数据时,出现该错误。
暂时解决方案:发现每次爬取较大量数据进行存储的时候会出现这种错误,而分批量爬取数据,然后再进行存储就不会出现这个问题了。
比如之前一次性爬10000页的数据,现在每次只爬取2000-3000页,然后分几次爬完。
转载于:https://my.oschina.net/u/3636678/blog/2244742