Metastore client自动解析域名问题
上下文&问题:
交代一下上下文信息,metastore起在指定主机网卡上,主机上/etc/hosts配置了如下信息:
近期在开发中遇到thrift中自动把ip转成域名,这里拿metastore源码分析一下。在metastore.xml文件中,
上述配置项明确写的是thrift://ip:port,比如说这里写的是thrift://127.0.0.1:9083,但是实际在开发中我们会发现日志里去创建client的时候有一条日志
Trying to connect to metastore with URI thrift://loalhost:9083。
分析:
我们先分析下为什么会自动转成域名。
定位代码发现metastore服务是在HiveMetastoreClient类中调用resolveUris方法去对metastore.thrift.uris转换成URL类。
这时候还没结束,看到uriResolveHook这个属性,大家可以自己看下,默认这个属性是null(也可以在配置项里进行修改指定uri),那就是走的第二步,在这里如果你写的ip他有对应的域名,就会转换成对应的域名。
可能平常大家觉得没有什么问题,但是当一个主机节点带有多个网卡的时候,将metastore服务指定在具体网卡上时(在这里我指定的是192.168.111.111),当你在所在主机上去调用的时候你会发现client创建失败,因为metastore服务给我的ip解析成hhytest,因为我的/etc/hosts里自带两个同名的域名,他走到第一个(127.0.0.1)没有走我实际的ip解析,就会报错,无法创建client。
解决方法:
1.修改节点/etc/hosts,将127.0.0.1注释掉;
2.修改metastore-site.xml文件中的hive.metastore.uri.resolver属性,添加metastore uris的全限定名,使uriResolveHook不为null。
- 点赞
- 收藏
- 关注作者
评论(0)