大数据文件分隔符

举报
小工匠 发表于 2021/09/10 01:55:31 2021/09/10
【摘要】 背景:DSG数据同步到hadoop平台,发现部分表中数据存在竖线分隔符(“|”),导致hadoop平台数据不准确。 为解决此问题并避免出现内容带分隔符的可能情况,商定分隔符修改为CtrlA(ascii是...

背景:DSG数据同步到hadoop平台,发现部分表中数据存在竖线分隔符(“|”),导致hadoop平台数据不准确。
为解决此问题并避免出现内容带分隔符的可能情况,商定分隔符修改为CtrlA(ascii是0x01 ) ,经测试在HDFS可用。


分隔符为CtrlA(ascii是0x01 ) 在vi的编辑模式下 Ctrl+V Ctrl+A 。windows cmd模式下 Ctrl+Q Ctrl+A

Hive默认用
‘\001’(Ctrl+A)作为字段(Fields)分隔符,
‘\002’(Ctrl+B)作为集合元素(Collections Items)分隔符,
‘\003’作为Map类型Key/Values分隔符。

所以shell中的脚本
FIELDS TERMINATED BY ‘’ 可以不指定


#建立 OFFER日表    fields terminated by '|' 要修改,默认的是'\001'(Ctrl+A),也可以不指定;
v_create_sql="use ztedb;
drop table if exists OFFER_${day_id};
CREATE TABLE  OFFER_${day_id}
(
OFFER_ID    BIGINT,
ATOM_ACTION_ID  BIGINT,
PARTY_ID    BIGINT,
OFFER_SPEC_ID   BIGINT,
OFFER_NBR   STRING,
AREA_ID INT,
MKT_ACTIVITY_ID BIGINT,
START_DT    DATE,
END_DT  DATE,
BSS_START_DT    DATE,
BSS_END_DT  DATE,
BILL_START_DT   DATE,
BILL_END_DT DATE,
STATUS_CD   STRING,
STATUS_DT   DATE,
CREATE_DT   DATE,
VERSION DATE,
EXT_PROD_OFFER_INST_ID  STRING,
EXT_SYSTEM  STRING

) ROW FORMAT DELIMITED
FIELDS TERMINATED BY ''
STORED AS TEXTFILE;"
  
 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29

文章来源: artisan.blog.csdn.net,作者:小小工匠,版权归原作者所有,如需转载,请联系作者。

原文链接:artisan.blog.csdn.net/article/details/50349919

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。