大数据平台操作系统原地迁移实践研究
雷仙梅 翁云山 马丹颖
中国电建华东勘测设计研究院有限公司 浙江省 杭州 311122
1. 引言
数据作为国家重要战略资源,信息系统的安全与自主可控日益成为核心议题。大量关键行业仍依赖 CentOS 等西方服务器操作系统,这种依赖存在持续性风险。CentOS 停服后,缺乏安全补丁和组件更新,导致系统稳定性和安全性受威胁。中央深化改革委员会明确要求推进操作系统等关键技术创新,国资委亦强调国央企信创改造落实。替换底层系统过程中,确保上层业务稳定迁移和安全运行成为国产化进程中的关键挑战。
2. 问题与挑战
大数据平台通常部署在CentOS、RedHat 等传统Linux 操作系统上,这些系统面临停服风险,且难以适应新技术栈的升级需求。迁移至国产操作系统面临以下挑战:
1)业务不适配
由于传统操作系统与大数据平台高度集成,迁移过程中可能出现业务与操作系统不兼容。
2)海量数据迁移困难
大数据平台存储数据量巨大,迁移过程复杂且耗时,存在数据丢失和损坏的风险。
3)预算限制
许多企业没有足够的预算采购新的硬件设备以支持操作系统和大数据平台的迁移。
3. 原地迁移解决方案的提出与价值
3.1. 原地迁移的定义
原地迁移是指在不改变现有硬件、架构和数据存储方式的情况下,仅替换底层操作系统,从而实现大数据平台的平滑过渡。该方法能够最大程度地保持业务连续性和数据完整性,降低迁移风险。
原地迁移可以最大程度保持客户原有系统配置、应用配置及业务数据的稳定性,确保上层的大数据平台(如 Hadoop、Kafka 等)应用和数据保持不变,从而减少业务在迁移过程中的业务连续性风险及数据丢失风险,实现系统从CentOS 到国产化操作系统的平滑过渡。
3.2. 价值与意义
采用原地迁移方式进行系统改造可以为客户带来如下收益。
• 节省成本:无需采购新硬件设备,显著降低迁移成本。
• 降低风险:避免海量数据的迁移和同步,减少数据丢失和损坏的风险。
• 提高效率:缩短迁移周期,减少业务停机时间,提升系统稳定性。
• 自主可控:采用国产操作系统,增强数据安全和自主可控能力。
4. 技术挑战与解决方案
针对传统大数据平台中数十个组件与国产操作系统存在的不兼容问题,开展了系统适配性改造和优化工作,保障各组件在国产环境下的兼容性和稳定运行。同时,基于国产操作系统的标准测试框架mugen,设计并实施自动化测试用例,涵盖系统层面及业务平台,评估迁移后系统的健康状况,确保满足业务需求。为提升迁移过程的准确性与效率,开发了迁移适配脚本,实现源系统与目标系统基础组件的精准替换与匹配。此外,制定了完善的系统回退方案,以应对迁移过程中可能出现的异常,保障系统能够迅速恢复,最大限度降低迁移风险。
5. 原地迁移解决方案开发实践
5.1. 迁移前调研分析
5.1.1. 需求分析
对大数据平台进行全面的需求分析,包括业务连续性、应用兼容性、数据管理、系统兼容性、资源管理、安全需求、性能需求等方面。确保迁移方案能够满足当前及未来业务需求。
5.1.2. 现状分析
• 系统环境评估:评估现有系统的硬件基础设施、大数据软件栈环境等。
• 数据状况分析:分析数据量、数据分布、数据安全等情况。
• 性能评估:评估现有系统的处理能力和资源利用率。
• 组织和流程评估:评估现有IT 团队能力、流程和规范等。
5.2. 迁移实施
迁移前,需依据数据备份手册和脚本完成所有关键数据与配置文件的备份,确保数据完整且可恢复。备份是保障迁移成功的基础。
实际迁移前,应申请业务系统下线,防止数据迁移和配置期间出现不一致或丢失,离线过程需与相关部门协调,尽量缩短业务中断时间。
完成备份并业务下线后,使用 x2openEuler 工具开展操作系统迁移,确保迁移后业务正常运行,数据完整一致。整个过程须严格遵循迁移手册规定的步骤,防止迁移失败及数据损坏,确保可回退。
迁移结束后,需完成大数据业务和数据库的数据恢复,验证目标系统数据的完整性和准确性,保证功能配置继承完整。
5.3. 迁移后测试
5.3.1. 功能性测试
业务功能测试旨在验证所有核心业务功能在迁移后的操作系统上的正常运行。这包括功能的完整性、正确性和可用性的验证,确保所有业务流程和操作在新环境中能够按预期进行,从而保证用户能够无缝地使用系统。
5.3.2. 性能测试
性能测试主要关注系统在迁移后的操作系统上的性能表现。测试包括但不限于响应时间、吞吐量、负载能力和资源利用率等方面的评估,旨在确认系统在新环境中是否能够满足预期的性能需求,并及时发现和解决潜在的性能瓶颈,针对性能瓶颈有效实施性能优化。评估迁移后系统的处理能力和响应速度,确保性能不低于迁移前水平。
5.3.3. 安全性测试
安全测试涵盖系统在新操作系统上的安全性能和防护能力。测试包括漏洞扫描、身份验证、权限管理、数据加密和安全审计等,确保系统能够有效保护敏感数据和防范各类安全威胁,以确保系统在迁移后的安全性和稳定性。
6. 结语
本文针对大数据平台操作系统的原地迁移展开深入研究,构建了切实可行的解决方案,并验证了其在系统稳定性、成本控制及迁移效率方面的显著优势。该方案为企业在 CentOS 停服背景下实现平滑替代提供了有效路径,同时积累了信创战略实施的宝贵经验。未来,大数据平台将面临更高复杂度,原地迁移技术亟需拓展功能,以满足日益严苛的性能与安全要求。
参考文献
[1]敦科翔,赵可心,李付民.软交换系统跨平台的设计与实现[J].计算机与网络 ,2024,50(3):189-193
[2]苏奕豪.基于国产云基座的私有化容器云平台构建研究[J].铁路计算机应用 ,2023,32(9):43-47