Python pandas导excel数据量太大报错问题

举报
yd_273762914 发表于 2022/05/31 22:31:48 2022/05/31
【摘要】 开发环境 MySQL 10.1.38-MariaDB-1~bionicPython3.7.8 开发工具 PyCharm2018.1SmartGit18.1Navicat15.0.28 问题描述 ...

开发环境

  • MySQL 10.1.38-MariaDB-1~bionic
  • Python3.7.8

开发工具

  • PyCharm2018.1
  • SmartGit18.1
  • Navicat15.0.28

问题描述

最近在用python的pandas库导Excel表,遇到数据量太大,导出时候直接抛出异常

ValueError: This sheet is too large! Your sheet size is: 1286685, 19 Max sheet size is: 1048576, 16384

原本的代码实现是:

pd.to_excel("fileName.xlsx",sheet_name="sheet1" )

  
 
  • 1

解决方法

尝试修改引擎为openpyxl,也是会抛出异常

pd.to_excel("fileName.xlsx",sheet_name="sheet1" , engine='openpyxl')

  
 
  • 1

因为单个excel文件有输出长度65535的限制,所以尝试修改文件格式为csv可以临时解决问题,修改一下代码,如:

pd.to_csv("fileName.csv")

  
 
  • 1

总结:对于数据量很大的Excel导出,可以尝试进行数据SQL的改写,过滤不必要的业务数据,或者使用程序分成多个Excel也是可以的,上面的方法都不想采用,可以临时用csv文件导出,csv文件可以可以支持大文件

文章来源: smilenicky.blog.csdn.net,作者:smileNicky,版权归原作者所有,如需转载,请联系作者。

原文链接:smilenicky.blog.csdn.net/article/details/125065604

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。