记录一次由于Jar包冲突导致的神奇问题

举报
浪浪山下那个村 发表于 2023/05/23 00:17:45 2023/05/23
【摘要】 背景今天同事找我帮忙看一个Flink的问题,现象是前几天还能提交的客户端,就在今天突然提交不了作业了,报错提示大概如下(公司的东西涉密)Caused by: org.apache.flink.api.common.InvalidProgramException: The LocalStreamEnvironment cannot be used when submitting a prog...

背景

今天同事找我帮忙看一个Flink的问题,现象是前几天还能提交的客户端,就在今天突然提交不了作业了,报错提示大概如下(公司的东西涉密)

Caused by: org.apache.flink.api.common.InvalidProgramException: The LocalStreamEnvironment cannot be used when submitting a program through a client, or running in a TestEnvironment context.
at org.apache.flink.streaming.api.environment.LocalStreamEnvironment.(LocalStreamEnvironment.java:68)
at org.apache.flink.streaming.api.environment.LocalStreamEnvironment.(LocalStreamEnvironment.java:58)
at org.apache.flink.streaming.api.environment.StreamExecutionEnvironment.createLocalEnvironment(StreamExecutionEnvironment.java:1626)
at org.apache.flink.streaming.api.environment.StreamExecutionEnvironment.createLocalEnvironment(StreamExecutionEnvironment.java:1612)

问题定位思路

由于我个人的Flink源码还不是很熟悉,于是拿到这个报错我的第一反应是不是哪个配置项配置错了,于是就问同事,是不是最近有什么变更,得到的答案是没有。

既然这样只能开始定位了,我想着既然配置错了走了LocalStreamEnvironment这个分支,那这个配置项的值或者value里面一定会存在相关的关键字的。于是,我就在Flink的配置文件 flink-con.yml里面找了一遍,发现没有相关配置,那就说明不是配置项的问题(来来回回检查了好几次)。

找不到和哪个配置项有关,那怎么办呢?

没办法只能对着同事给我的堆栈,和我的Flink源码看一下了,于是就开始了找代码的旅程。在找代码的时候发现堆栈里面的代码行数和我代码里面的不一致。我就像我是不是看错代码分支了。经过的我的层层确认,发现我没意拿错代码,于是我就找了我们maven仓库里面的哪个jar包,反编译看了下,结果代码仓库里面的jar反编译的代码行数和我代码仓里面的能对的上。

定位到这儿,就想着是不是环境上的包会不会有问题呢?于是就去Flink客户端目录的lib下面看了一眼,发现有个 flink-streaming-java的包的版本不是我们部门给出去的版本,我就想到flink一般所有的依赖的class都会在 flink-dist这个胖包里面,会不会和外面这个不是我们部门给出去的包有关系呢?

于是就让同事把这个未知的包移动到其他地方去。重试了一把,作业可以正常提交了。

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。