论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
ToB企服应用市场:ToB评测及商务社交产业平台
»
论坛
›
数据库
›
SqlServer
›
PostgreSQL(十二)报错:Tried to send an out-of-rang ...
PostgreSQL(十二)报错:Tried to send an out-of-range integer as a 2-b ...
大连全瓷种植牙齿制作中心
金牌会员
|
2024-7-17 03:04:11
|
显示全部楼层
|
阅读模式
楼主
主题
784
|
帖子
784
|
积分
2367
一、报错场景
今天写了一个历史数据处理步伐,在开发环境、测试环境都可以正常实行,但是放到生产环境上就不可,报了一个如许的错误:
org.postgresql.util.PSQLException: An I/O error occurred while sending to the backend.
意思大概是:
当把数据发送给后端的时间,出现了一个 I/O 异常。
完备报错截图如下:
顺着日记中异常栈信息往下看,可以看到下面有一处具体的报错原因:
Caused by: java.io.IOException: Tried to send an out-of-range integer as a 2-byte value: 51000
意思大概是:
出现了一个IO异常,实验发送一个二进制 int 类型数值时,当前数值超出了大小限定:5100
Caused by: java.io.IOException: Tried to send an out-of-range integer as a 2-byte value: 51000
at org.postgresql.core.PGStream.sendInteger2(PGStream.java:359)
at org.postgresql.core.v3.QueryExecutorImpl.sendParse(QueryExecutorImpl.java:1604)
at org.postgresql.core.v3.QueryExecutorImpl.sendOneQuery(QueryExecutorImpl.java:1929)
at org.postgresql.core.v3.QueryExecutorImpl.sendQuery(QueryExecutorImpl.java:1487)
at org.postgresql.core.v3.QueryExecutorImpl.execute(QueryExecutorImpl.java:347)
... 140 common frames omitted
复制代码
二、源码分析
我们根据报错提示,找到源码对应的位置,该源码位于 postgresql 依赖中,Maven坐标如下:
<!--postgresql 数据库驱动依赖 -->
<dependency>
<groupId>org.postgresql</groupId>
<artifactId>postgresql</artifactId>
<version>42.6.0</version>
<scope>runtime</scope>
</dependency>
复制代码
源码位置如下:
可以看到这里有一个大小限定,Short.MAX_VALUE 对应的就是 Short 类型的最大值,为 32767。也就是说,
在 PostgreSQL 中,如果参数的数量超过 32767 之后,就会抛出 Tried to send an out-of-range integer 这个异常。
三、实际原因(更加复杂)
原理都懂,但是细想的话还是有以下两个问题:
我在代码中明明根据入参按照 1000 分页处理的,没有超出 32767,为什么还会报这个错?
报错信息中的 51000 又是哪来的?
于是我们继续根据上面的异常栈信息进行排查,针对第2层栈信息在当地打断点调试。
Caused by: java.io.IOException: Tried to send an out-of-range integer as a 2-byte value: 51000
at org.postgresql.core.PGStream.sendInteger2(PGStream.java:359)
at org.postgresql.core.v3.QueryExecutorImpl.sendParse(QueryExecutorImpl.java:1604)
at org.postgresql.core.v3.QueryExecutorImpl.sendOneQuery(QueryExecutorImpl.java:1929)
at org.postgresql.core.v3.QueryExecutorImpl.sendQuery(QueryExecutorImpl.java:1487)
at org.postgresql.core.v3.QueryExecutorImpl.execute(QueryExecutorImpl.java:347)
... 140 common frames omitted
复制代码
首先找到第二层栈信息对应的源码位置,并在当地进行debug:
这里我当地调试的时间,是传了 11 个参数,但是在第二层断点中入参却变成了 352 个,这是为什么呢?
不要慌,其实这里的 queryUtf8 变量中存储的就是我们的 SQL 了,我们直接检察下这个变量的字符串即可:
终于,找到罪魁罪魁了,
由于项目中集成了
ShrdingJDBC
,导致实行 SQL 的时间会自动拼接分表 SQL 并进行 UNION ALL,导致入参个数猛增几十倍。
所以:
开发环境中,分表是 202110~202405,32张表 × 11个入参 = 352 个总入参。
生产环境中,分表是 202110~202512,51张表 × 1000个入参 = 51000 个总入参。
51000 远远超出 32767 的限定,所以抛出 IO 异常。
四、解决思路
可以根据以下两种情况,分别进行解决:
如果没有使用 ShardingJDBC 进行分表:
建议分页处理。
如果已经使用 ShardingJDBC 进行分表:在单个SQL入参不超过 32767 的情况下,一方面
可以将分片键加入参数中
;另一方面
可以再进一步分页,细化分页颗粒度。
整理完毕,完结撒花~
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
0 个回复
正序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
发新帖
回复
大连全瓷种植牙齿制作中心
金牌会员
这个人很懒什么都没写!
楼主热帖
初识C语言
记一次 .NET 某汽贸店 CPU 爆高分析 ...
前后端分离项目(八):后端报错Field ...
Net core中使用System.Drawing对上传的 ...
浅入浅出 1.7和1.8的 HashMap
7.1 实现进程内存块枚举
计算数学算式的值
java学习第二天
Python爬虫之基于selenium实现12306模 ...
Qt源码阅读(四) 事件循环
标签云
挺好的
服务器
快速回复
返回顶部
返回列表