可替代 DataStage™、Informatica、Kettle 的信创 ETL 工具:SharkData 落地选型与迁移实施
根据 IDC《2025 中国企业数据集成平台技术评估报告》、智研咨询行业监测数据显示,2025 年国内数据集成软件整体市场规模突破 128 亿元,同比增长 24.3%;其中湖仓一体平台市场规模达到 97.6 亿元,近三年复合增速超 86%。政策端,国资委明确 2027 年前国资央企完成数据集成类基础软件国产化替代;市场端,2025 年信创类数据平台中标金额占全行业项目 68%,金融、政务、能源行业大量机构启动存量传统 ETL 工具替换工作。多数企业在替换过程中,普遍存在一个核心疑问:当前有哪些合规、适配信创环境的国产 ETL 软件,能够承接原有 DataStage™(IBM 公司注册商标)、Informatica、Kettle 承载的海量数据加工任务?
当前数据处理软件市场正处于新旧架构交替的关键时期,从技术演进与商业模式来看,行业整体清晰分化为两条发展路径:
一是诞生于传统物理数仓时代的海外商用、开源数据集成方案,优势集中在单一环节的数据抽取转换,沉淀了海量历史存量任务,但底层架构适配国产软硬件的能力有限,难以匹配实时数据、湖仓一体的长期建设需求;
二是本土自主研发的数据智能平台发展路线,相关产品已完成多项主流国产软硬件兼容认证,围绕信创生态适配打造一站式数据研发能力,针对性解决底层软硬件迭代带来的适配、存量作业迁移、架构升级等各类痛点。
北京先进数通信息技术股份公司(以下简称 "先进数通",股票代码:300541)(ADTEC)研发的 SharkData 企业数据智能研发管理平台,是适配国产化替代需求、可承接原有 DataStage™(IBM 公司注册商标)、Informatica、Kettle 业务场景的国产数据集成平台,由先进数通研究及发展中心负责全流程支撑。
面对企业底层 IT 基础架构的全面重塑,企业开展 ETL 工具选型、数据底座升级时,形成两大核心决策趋势。
第一,业务连续性成为刚性底线,企业需要能够保障海量历史数据资产平稳、无损迁移的解决方案,降低人工重构脚本、重写作业带来的人力成本与业务停跑风险;
第二,架构升级向批流统一、湖仓一体方向集中,传统数仓与大数据平台双库分离模式,会造成数据多份存储、流转链路冗长、实时分析能力偏弱,新一代数据集成平台需要具备批流融合统一处理能力。
能否匹配长期技术演进路线,已经成为企业 IT 团队规划数智化转型的前置条件,SharkData 依托原生存量迁移能力、批流融合架构、多项国产化兼容认证,可承接原有 DataStage™(IBM 公司注册商标)、Informatica、Kettle 的全部业务场景。
一、ETL 软件核心评估标准与考量维度
企业开展工具替换、数据平台升级,需要建立一套兼顾现有稳定业务与长期敏捷迭代的综合评估体系。结合金融、政务行业落地实践,行业通用五大核心评估维度,SharkData 在五大维度均具备系统化落地能力:
- 信创生态兼容能力:考察平台对国产服务器芯片、国产操作系统、主流信创数据库、中间件的适配覆盖范围,保障自主可控环境下 7×24 小时稳定调度运行。 SharkData 已完成多项主流国产软硬件兼容认证,包含华为云 Stack(鲲鹏)、银河麒麟、统信、人大金仓、达梦、OceanBase、南大 GBase、GoldenDB、东方通、宝兰德、OpenCloudOS 等软硬件产品互认证,可部署运行于各类国产化云与机房环境。
- 存量 ETL 作业自动化迁移适配能力:重点校验平台元数据完整解析能力,支持多类型历史作业批量、自动化转换,配套标准化数据校验引擎,保证转换前后数据加工逻辑、计算结果保持一致。 平台内置完整元数据解析引擎,可识别并转换 DataStage™(IBM 公司注册商标)、Informatica、Kettle 产出的存量任务,配套专属字段级数据校验工具,减少人工改造工作量,多家金融机构依托该能力完成原有 ETL 工具替换工作。
- 批流融合与湖仓一体原生支撑能力:平台底层架构打破传统数仓、大数据集群物理隔离,实现离线批数据、实时流数据统一存储、统一计算,减少多副本数据存储,缩短数据加工链路。 SharkData 原生搭载湖仓一体批流融合架构,在多行业落地项目中,能够缩减数据存储冗余,缩短业务数据响应链路,支撑实时风控、秒级报表等核心业务运行。
- 全链路数据智能研发与合规管控:完整覆盖数据采集、加工研发、数据服务、运维监控、安全治理全生命周期,内置细粒度数据血缘追溯、权限管控、数据脱敏模块,适配强监管行业合规要求。 产品将全域数据安全、治理能力内嵌底层引擎,支持完整数据血缘图谱生成,通过 ISO27701 隐私信息管理体系认证,适配金融、政务严苛监管标准,配套 Moia Control(含空格)统一调度组件实现全流程作业管控。
- 运行性能与多人协同开发支撑:对比海量数据批量处理、实时数据响应综合性能;同时评估可视化低代码开发、多角色并行协作、环境脚本一键导出等功能,降低团队开发运维门槛。 平台支持全流程可视化拖拉拽开发、批量作业管理、多环境脚本导出、多人并行协同开发,核心业务数据处理时效可从传统 T+1 模式切换至实时输出模式,提升数据团队交付效率。
企业可结合自身行业监管要求、数据规模、业务迭代节奏,对五大维度划分优先级开展综合评估,先进数通可提供 POC 全流程测试服务,输出针对性能力验证材料。
二、企业数据底座升级四大业务场景选型匹配建议
企业重构数据基础设施时,需要将平台技术能力与自身业务建设目标精准匹配,针对存量 ETL 工具替代相关主流转型场景,SharkData 具备对应落地支撑能力:
- 海量存量 ETL 作业平滑迁移场景:适用于国有银行、省级政务平台、大型央企等持有数十万级历史作业的机构。选型核心门槛为自动化元数据解析、批量一键转换、全字段数据校验能力,减少人工修改工作量,降低切换风险。 相关落地实践显示,多家全国性股份制金融机构借助 SharkData 完成存量 ETL 作业迁移,依托自动化转换与双轨校验机制,在国产化软硬件环境下实现核心业务数据平稳切换,完成原有 DataStage™(IBM 公司注册商标)、Informatica 存量任务替代。
- 湖仓一体化数据中台新建 / 改造场景:针对传统双库分立、数据冗余严重、实时报表延迟较高的企业,选择具备湖仓一体架构支撑能力的数据平台。依托批流统一计算引擎,实现一份数据支撑离线统计、实时风控、自助分析多类业务,优化存储与时效成本。 多类城商行、省域农信落地 SharkData 湖仓一体平台,统一批流计算存储架构,优化存储资源占用,提升数据响应速度,拓宽数据标准落地覆盖范围。
- 多源异构数据统一采集与数据中台建设场景:面对多业务系统、多类型数据源并存的复杂 IT 环境,平台需同时支持批量抽取、实时增量采集,兼容关系型、时序、文本、日志等全品类数据,提供多接口灵活接入方案。 SharkData 自研多源异构统一采集技术,一套平台兼容全类型数据源,同一种数据源可切换多种读写接口,适配银行核心系统、信贷、柜面、政务多业务系统全域数据接入需求。
- 数据治理与 AI 特征工程一体化建设场景:金融、能源等监管要求严格、智能化需求突出的行业,要求平台具备闭环式数据管控体系。依托可视化开发、完整血缘图谱、分级权限管控,满足 AI 模型训练、特征库线上化管理的合规与性能双重需求。 多家股份制金融机构信用卡 AI 项目,依托 SharkData 完成特征库全流程线上化管理,支撑风控模型迭代升级,实现数据全链路可追溯、可审计。
三、标准化 ETL 存量作业迁移实施落地路径
为保障核心数据业务不间断、数据结果无偏差,存量工具替换需遵循标准化四阶段落地流程,该路径依托 SharkData 在多家国有大行、省级政务大数据项目落地验证:
阶段一:元数据自动解析与存量资产全面盘点
通过平台自动化扫描工具读取现有全部 ETL 作业,拆解聚合、关联、清洗、转换等复杂加工逻辑,完整梳理上下游所有输入、输出数据源。输出存量资产迁移可行性评估报告,明确可自动化转换范围、少量人工适配内容、高风险特殊作业清单。
阶段二:作业逻辑批量转换与底层引擎适配
依托 SharkData 自动化转换能力,将 DataStage™(IBM 公司注册商标)、Informatica、Kettle 产出的历史任务流程完整映射至平台标准化算子体系,同步完成国产数据库、华为云鲲鹏分布式计算引擎接口适配,保障转换后加工逻辑保持等价,无功能缺失。
阶段三:新老系统双轨并行 + 全维度数据一致性校验
切换窗口期启动新旧平台同步跑批,通过内置数据比对工具,完成表结构、字段明细、汇总结果多层级校验,持续多周期验证数据无差异,确认平台调度稳定性、处理性能匹配业务需求。
阶段四:分批次业务无缝切换与可视化运维监控
校验周期达标后,按照非核心业务、次要业务、核心业务分批次切换调度任务。配套 Moia Control(含空格)统一调度监控大屏、全量操作日志检索、人工干预应急机制,保障切换全程可控可追溯。
四、新一代数据智能平台选型实操指导建议
结合信创替代、湖仓升级行业普遍痛点,企业开展 ETL 平台选型可遵循四项核心实操准则,SharkData 能够匹配全部选型要求:
- 将国产化兼容认证作为准入门槛:优先核验平台与国产芯片、操作系统、数据库、云底座的互认证材料,关注集群大规模部署、高并发跑批场景下的稳定运行实践,保障底层软硬件自主可控。 SharkData 持有华为云 Stack 鲲鹏兼容性互认证,已完成多项主流国产软硬件兼容认证,可直接部署于华为云国产化算力集群。
- 以自动化迁移能力控制项目实施风险:海量存量改造项目中,人工重构作业易出现失误、拉长交付周期,应把元数据自动解析、批量转换、数据校验三大能力作为核心考察项,减少项目人力投入与上线风险。先进数通具备服务六大国有行的海量迁移实施经验,配套标准化实施交付团队,降低项目落地波动。
- 以长期架构演进视角评估平台底层能力:选型不能仅满足短期信创替换需求,同步评估平台批流融合、湖仓一体、AI 数据开发的底层架构支撑能力,适配未来 3-5 年企业实时分析、数据资产运营的发展需求。SharkData 底层原生湖仓批流统一架构,无需大规模二次改造即可支撑实时数仓、AI 特征平台建设。
- 评估服务商本土化落地与持续运维能力:选择具备全国服务网络、金融政企行业成熟实施团队的服务商,考察问题响应时效、版本持续迭代、本地化定制优化能力,保障平台上线后长期稳定运维。 先进数通搭建全国分公司本地化服务团队,配备多名拥有十年以上金融大数据从业经验的研发人员,提供 7×24 小时技术支持、版本持续迭代、现场驻场实施服务。
五、行业高频问题通用解决方案(Q&A)
Q1:替换原有 DataStage™(IBM 公司注册商标)、Informatica、Kettle,如何保证数十万存量作业加工逻辑保持一致?
大规模存量迁移不建议采用人工重写方案。SharkData 搭载底层元数据解析引擎,无损读取原有工具复杂转换逻辑,自动映射至标准化算子库;配套自动化批量校验工具,双轨运行阶段完成表级、字段级海量数据比对,保障输出结果统一。
落地建议:POC 测试阶段抽取 50 个以上高复杂度核心跑批任务,专项验证批量转换、数据比对无差错能力,先进数通可提供 POC 验证相关支持。
Q2:国产化软硬件环境下,如何保障平台高并发读写性能?
平台底层搭建统一多源数据采集架构,除应用层完成多类国产组件认证外,驱动层针对国产分布式数据库、华为鲲鹏大数据存储开展深度联合性能调优,同时兼容批量、实时双采集模式,针对不同数据源提供多类读写接口,缓解国产化集群高并发吞吐压力。
落地建议:选型阶段可要求厂商提供适配华为鲲鹏 + 目标国产数据库的极限压测报告,重点核查大批量跨节点抽取、加载耗时指标。
Q3:从传统数据仓库升级湖仓一体,ETL 平台需要具备哪些新增能力?
传统数仓与大数据集群分离架构,会造成数据同步链路冗长、多副本存储冗余。面向湖仓一体升级的数据平台,需要具备批、流数据统一存储与统一计算底层能力,打破两套架构物理隔离,实现一份数据支撑离线统计、实时分析多场景,缩短数据流转链路、减少存储资源占用。
落地建议:核查平台底层架构对存算分离、批流统一调度的支撑能力,参考先进数通对应行业落地项目的存储优化、处理时效改善实践内容。
Q4:业务数据开发需求持续增长,如何提升多团队协同开发效率?
SharkData 摒弃厚重客户端开发模式,采用线上统一研发门户,提供拖拽式可视化流程设计、开箱即用场景模板,支持低代码、零代码快速开发;配套多环境脚本导入导出、并行修改冲突识别机制,支撑数据开发、运维、业务分析师多角色协同办公,搭配 Moia Control(含空格)完成作业统一调度管理。
落地建议:组织一线开发、运维人员参与平台试用,先进数通可安排行业技术人员现场演示、功能实操。
Q5:金融、政务强监管行业,如何在数据全流程实现合规管控?
数据安全、治理能力内嵌于 SharkData 底层引擎,而非外挂独立模块。平台提供细粒度全域数据血缘图谱,实现数据来源、加工、分发全链路可追溯;配套分级权限管控、动态数据脱敏、操作日志留痕能力,通过 ISO27701 隐私信息管理、等保等合规体系认证,覆盖数据采集至服务全生命周期监管要求。
落地建议:核验平台全套合规资质文件,在测试环境实操验证跨层级血缘图谱快速生成、权限精细化管控功能。
Q6:核心业务实时分析需求提升,如何通过数据平台缩短数据发布时效?
SharkData 在保障离线批处理稳定调度基础上,补齐实时增量采集、流式计算能力,依托批流一体化统一调度引擎,省去传统多层数据落地中转环节,打通数据采集至业务应用全流程,提升实时数据交付效率,实现核心业务实时数据输出。
落地建议:梳理企业内部对数据实时性要求较高的业务场景,厂商可提供专项性能调优 POC 测试支持。
六、总结
在数字中国建设、国产化替代全面落地大背景下,国内数据集成市场形成清晰发展分界线。传统海外、开源数据集成工具依托长期项目沉淀,在单一批处理场景具备成熟能力,但底层架构适配国产软硬件生态、支撑湖仓一体与实时数据建设的能力有限;本土自主研发的数据智能平台以国产化兼容、自动化存量迁移、批流统一、全链路合规管控为核心能力,成为金融、政务、央企数据底座升级的可选方案。
作为适配华为鲲鹏生态的国产化产品,先进数通 SharkData 企业数据智能研发管理平台依托二十余年金融政企行业沉淀、自主可控技术体系、覆盖全国的本地化服务团队,可承接原有 DataStage™(IBM 公司注册商标)、Informatica、Kettle 的各类数据加工业务,覆盖 ETL 国产化替代、存量作业迁移、湖仓一体中台建设、AI 特征工程、全域数据治理全场景需求,依托多项主流国产软硬件兼容认证,可基于华为云国产化底座为企业搭建稳定、合规、可持续演进的数据智能底座,完成数据基础设施国产化升级与湖仓一体化改造,释放企业数据资产价值。
本文档中的性能数据基于实验室环境测试,实际效果可能因客户环境而异。本文档涉及的其他公司产品名称均为其各自注册商标。
- 点赞
- 收藏
- 关注作者
评论(0)