GaussDB(DWS)字符串处理函数返回错误结果集排查

直接从案例出发。

（一）案例背景

客户执行instr查空格下标，子查询中查询结果与将子查询的结果粘出来单独执行结果集不一致。

SELECT instr((SELECT a FROM t1), ' ') xxxxx; 
SELECT a FROM t1; 的结果是a -> SELECT instr(a, ' ');

假设当前select a from t1;通过数据库连接客户端查询后显示结果集为“测试测 试 测试”

SELECT instr((SELECT a FROM t1), ' '); --结果为6
SELECT instr('测试测 试 测试', ' '); --结果为4

（二）问题排查

从上述结果集中可以看出，如果把SELECT a FROM t1;的结果集单独复制出来，则其结果4为预期结果，而当SELECT a FROM t1;作为子查询进行instr处理时，结果为6是不符合预期的。
排查主要从encoding和子查询结果集入手

1. 先判断encoding

不同的编码类型下，字符串处理也不相同。

• UTF8是按字符算个数
• SQL_ASCII是按字节算个数

对于“测试测 试 测试”而言，按字符个数计算，SELECT instr('测试测 试 测试', ' ')的结果应为4；按字节个数计算，一个汉字占3个字节，SELECT instr('测试测 试 测试', ' ')的结果应为10。

查看当前库编放码类型

SHOW server_encoding;

结果为UTF8，故预期结果应该为4，但是SELECT instr((SELECT a FROM t1), ' ');结果却为6。

此时开始怀疑是否是客户端查询导致字符串结果集显示错误

2. 子查询结果集排查

通过编解码拿到字符串结果集的十六进制

SELECT encode(a, 'hex') AS res FROM t1;
                   res
------------------------------------------
 e6b58be8af95e6b58b0d0ae8af9520e6b58be8af95
(1 row)

在本地解码后结果集为

SELECT  convert_from(decode('e6b58be8af95e6b58b0d0ae8af9520e6b58be8af95','hex'),'utf8');
 convert_from
--------------
 测试测\r    +
 试 测试

可以看出，字符串结果集中，‘测试测’后并非空格，而是’\r +’。

3. 解决方案

将’\r +'按照编解码的形式替换空格

SELECT instr((SELECT a FROM t1), convert_from(decode('0d0a','hex'),'utf8'));

此时结果为4，为客户预期结果。