当前位置: 首页 > news >正文

PyMysql error : Packet Sequence Number Wrong - got 1 expected 0

文章目录

  • 错误一
    • 错误原因
    • 解决方案
  • 错误二
    • 原因
    • 解决方案

我自己知道的,这类问题有两类原因,两种解决方案。

错误一

错误原因

pymysql的主进程启动的connect无法给子进程中使用,所以读取大批量数据时最后容易出现了此类问题。

解决方案

换成pymysql-pool可以解决方法:
具体如下:

pip install pymysql-pool

代码如下:

import pymysql
import pymysqlpooldef select_ebay_catelotory():config={'host': HOST, 'user': USER, 'password': PASSWD, 'database': DB, 'autocommit':True}pool1 = pymysqlpool.ConnectionPool(size=10, maxsize=20, pre_create_num=2, name='pool1', **config)con1 = pool1.get_connection()gcu = con1.cursor()try:gcu.execute(f"""SELECT *** """)# 获取剩余结果所有数据rows = gcu.fetchall()except Exception as e:print(e)finally:# gcu.close()con1.close()return rows

错误二

原因

要读取的内容太大了。有两类:某列太长了,总行数太多了。

如何确定?
你的代码读取100行没问题,1000行也没问题,10000行也没问题,100万行就有问题了。那就是这个原因。

解决方案

不要limit去读,太费时间:先取id,再用id去分批读取数据。

import pymysql
import pymysqlpooldef select_all_ids():config={'host': HOST, 'user': USER, 'password': PASSWD, 'database': DB, 'autocommit':True}pool1 = pymysqlpool.ConnectionPool(size=35, maxsize=35, pre_create_num=2, name='pool1', **config)con1 = pool1.get_connection()gcu = con1.cursor()try:gcu.execute(f"""SELECT `id` FROM sfc_minesweeper.product_detail WHERE create_time>'2024-07-10' AND CHAR_LENGTH(result_data)>500""")# 获取剩余结果所有数据rows = gcu.fetchall()except Exception as e:print(e)finally:# gcu.close()con1.close()return rowsdef select_ebay_catelotory(pids):config={'host': HOST, 'user': USER, 'password': PASSWD, 'database': DB, 'autocommit':True}pool1 = pymysqlpool.ConnectionPool(size=35, maxsize=35, pre_create_num=2, name='pool1', **config)con1 = pool1.get_connection()gcu = con1.cursor()try:gcu.execute(f"""SELECT `id`, `result_data`, `product_offer_id` FROM sfc_minesweeper.product_detail WHERE id in {tuple(pids)}""")# 获取剩余结果所有数据rows = gcu.fetchall()except Exception as e:print(e)finally:# gcu.close()con1.close()return rows# 先拿到所有id
pd_ids = [e[0] for e in select_all_ids()]
# 再分批读取
pd1688s = []
step = 4000
for begin in range(0, len(pd_ids), step):pd1688s.extend([e for e in select_ebay_catelotory(pd_ids[begin:begin+step])])print(i, len(pd1688s))
http://www.lryc.cn/news/399741.html

相关文章:

  • MVC 生成验证码
  • OSPF.综合实验
  • 云计算【第一阶段(29)】远程访问及控制
  • 2024前端面试真题【CSS篇】
  • python中设置代码格式,函数编写指南,类的编程风格
  • CentOS 8升级gcc版本
  • Kafka基础入门篇(深度好文)
  • C++之复合资料型态KU网址第二部V蒐NAY3989
  • 乡镇集装箱生活污水处理设备处理效率高
  • 计算机网络高频面试题
  • 进程通信(1):无名管道(pipe)
  • YOLOv10改进 | 损失函数篇 | SlideLoss、FocalLoss、VFLoss分类损失函数助力细节涨点(全网最全)
  • 【数组、特殊矩阵的压缩存储】
  • Flat Ads:金融APP海外广告投放素材的优化指南
  • DBA 数据库管理 表管理 数据批量处理。表头约束
  • C# 上位机开发之旅-委托事件的那些事[2]
  • 浏览器出现 502 Bad Gateway的原理分析以及解决方法
  • Java的高级特性
  • pip install selenium异常
  • 应急响应总结
  • 一些资源(●ˇ∀ˇ●)
  • WGCLOUD的ping设备监测可以导入excel数据吗
  • vue 画二维码及长按保存
  • IDEA中Git常用操作及Git存储原理
  • 人工智能算法工程师(中级)课程4-sklearn机器学习之回归问题与代码详解
  • 智能制造热点词汇科普篇——工业微服务
  • FastGPT+OneAI接入网络模型
  • Java核心篇之JVM探秘:内存模型与管理初探
  • 未来互联网的新篇章:深度解析Facebook的技术与战略
  • MySQL卸载 - Windows版