Metastore client自动解析域名问题

举报
OceanHu 发表于 2020/11/30 14:58:34 2020/11/30
【摘要】 Metastore client自动解析域名问题

上下文&问题:

交代一下上下文信息,metastore起在指定主机网卡上,主机上/etc/hosts配置了如下信息:

近期在开发中遇到thrift中自动把ip转成域名,这里拿metastore源码分析一下。metastore.xml文件中,

上述配置项明确写的是thrift://ip:port,比如说这里写的是thrift://127.0.0.1:9083,但是实际在开发中我们会发现日志里去创建client的时候有一条日志

Trying to connect to metastore with URI  thrift://loalhost:9083

分析:

我们先分析下为什么会自动转成域名。

定位代码发现metastore服务是在HiveMetastoreClient类中调用resolveUris方法去对metastore.thrift.uris转换成URL类。

这时候还没结束,看到uriResolveHook这个属性,大家可以自己看下,默认这个属性是null(也可以在配置项里进行修改指定uri),那就是走的第二步,在这里如果你写的ip他有对应的域名,就会转换成对应的域名。

可能平常大家觉得没有什么问题,但是当一个主机节点带有多个网卡的时候,将metastore服务指定在具体网卡上时(在这里我指定的是192.168.111.111),当你在所在主机上去调用的时候你会发现client创建失败,因为metastore服务给我的ip解析成hhytest,因为我的/etc/hosts里自带两个同名的域名,他走到第一个(127.0.0.1)没有走我实际的ip解析,就会报错,无法创建client。

解决方法:

1.修改节点/etc/hosts,将127.0.0.1注释掉;

2.修改metastore-site.xml文件中的hive.metastore.uri.resolver属性,添加metastore uris的全限定名,使uriResolveHook不为null。

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。