数据库迁移系列从oracle迁移到opengauss实战分享(代码片段)

Gauss松鼠会 Gauss松鼠会     2022-12-15     528

关键词:

之前的迁移系列中我们介绍了Mysql到openGauss的迁移方法,本篇介绍使用Ora2og工具从Oracle到openGauss数据库的迁移。

文章目录

简介

ora2pg 可以将 Oracle 或者 MySQL 数据库迁移到 PostgreSQL,应用场景小到 Oracle 数据库的反向工程,大到大型企业数据库迁移,或者简单地将一些 Oracle 数据复制到 PostgreSQL 数据库。Ora2Pg 由一个 Perl 脚本(ora2pg)以及一个 Perl 模块(Ora2Pg.pm)组成,唯一需要做的事情就是修改它的配置文件 ora2pg.conf,设置连接 Oracle 数据库的 DSN 和一个可选的模式名称。完成之后,只需要设置导出的类型:TABLE(包括约束)、VIEW、TABLESPACE、SEQUENCE、INDEXES、TRIGGER、FUNCTION、PROCEDURE、PACKAGE等等。

ora2og是一个将Oracle数据库迁移至openGauss的工具,ora2og初始代码源自ora2pg release v21.1,在原基础上适配了openGauss的相关内容。

特点:

  • 支持导出数据库绝大多数对象类型,包括表、视图、序列、索引、外键、约束、函数、存储过程等。
  • 提供PL/SQL到PL/PGSQL语法的自动转换,一定程度避免了人工修正。
  • 可生成迁移报告,包括迁移难度评估、人天估算。
  • 可选对导出数据进行压缩,节约磁盘开销。
  • 配置选项丰富,可自定义迁移行为。

迁移前准备

环境

本篇使用环境:
Oracle : 华为云服务器2核4G + CentoOS 7.6 +Oracle 11.2
openGauss:华为云服务器2核4G + CentoOS 7.6 +openGauss 3.1.0极简版
两台节点网络互通
迁移前准备
Ora2og工具既可以安装在Oracle服务器上,也可以安装在openGauss服务器上。本篇中将工具部署在Oracle服务器上。
注意,如果安装在openGauss上时,需要在服务器上安装Oracle客户端。

软件安装

Ora2Pg语言为perl,故需安装所需perl模块,版本5.8及以上。

root用户下操作,安装DBI、JSON、DBD:Pg、DBD:Oracle,Ora2Pg依赖这些软件去连接数据库。

yum install -y perl-ExtUtils-CBuilder perl-ExtUtils-MakeMaker
yum install perl-CPAN
perl -MCPAN -e 'install DBI'
perl -MCPAN -e 'install JSON'
perl -MCPAN -e 'install DBD::Pg'

设置root 用户的环境变量,可以写入/etc/profile,然后source生效。根据实际情况修改。

export ORACLE_HOME=/u01/app/oracle/product/11.2.0/
export LD_LIBRARY_PATH=/u01/app/oracle/product/11.2.0/lib

使用 perl -MCPAN -e ‘install DBD::Oracle’ 安装报错了,换了另一种自己编译的方式。

[root@oraclehost ora2pg-master]# perl -MCPAN -e shell
......
cpan[1]> get DBD::Oracle
........
Checksum for /root/.cpan/sources/authors/id/Z/ZA/ZARQUON/DBD-Oracle-1.83.tar.gz ok
......
cpan[2]> quit

[root@oraclehost ora2pg-master]# cd /root/.cpan/sources/authors/id/Z/ZA/ZARQUON/
[root@oraclehost ZARQUON]# tar -zxvf DBD-Oracle-1.83.tar.gz
[root@oraclehost ZARQUON]# cd DBD-Oracle-1.83
[root@oraclehost DBD-Oracle-1.83]# perl Makefile.PL
[root@oraclehost DBD-Oracle-1.83]# make && make install

ora2og工具安装

安装Ora2Pg <you_install_dir>为目标安装路径,<source_code_dir>为下载的代码路径。 如果服务器上没有git的话,可以从网站把源码包下载再解压。

mkdir -p /opt/software/ora2pg
git clone https://toscode.gitee.com/opengauss/openGauss-tools-ora2og.git

进到代码目录下
perl Makefile.PL PREFIX=<your_install_dir>
make && make install
设置环境变量,查看是否安装成功
export PERL5LIB=<source_code_dir>/lib
export PATH=$PATH:<your_install_dir>/usr/local/bin
需要确保bin路径下有ora2pg这个文件,否则命令找不到。
执行ora2pg --help

创建迁移项目

ora2pg --init_project oramig

创建迁移项目后会在当前目录下生成oramig目录模板,如下所示。其中主要包含两个脚本export_schema.sh和import_all.sh,后续导出和导入即使用这两个脚本。schema和sources目录存放各对象的DDL语句,区别在于schema存放PL/SQL语法转化为PL/PGSQL后的语句, sources目录存放转化前PL/SQL的语句,data目录存放表数据文件,config目录包含配置文件ora2pg.conf,reports目录存放迁移报告。

建用户和表
Oracle建个表,用来做测试数据

 create table customerchat.test(name char(10));
 insert into customerchat.test values('opengauss');
 create table customerchat.xxx(name char(20));
 insert into customerchat.xxx values('yy');

openGauss侧新建数据库mydb和用户tuser ,迁移时会用到。

mydb=#create database mydb;
mydb=# CREATE USER tuser WITH PASSWORD '自己定义';
mydb=# GRANT ALL PRIVILEGES TO tuser;
mydb=# alter database mydb owner to tuser;

配置ora2pg.conf

拷贝配置文件,注意路径,后面执行sh的时候会找config/ora2pg.conf。

cp <your_install_dir>/etc/ora2pg/ora2pg.conf.dist <source_code_dir>/config/ora2pg.conf

ORACLE相关参数:
ORACLE_HOME /u01/app/oracle/product/11.2.0/
ORACLE_DSN dbi:Oracle:host=oracleIP;sid=orcl;port=1521
ORACLE_USER customerchat // 这里用的oracle普通用户和密码
ORACLE_PWD XXXXX
SCHEMA customerchat //一般和用户名一样
openGauss相关参数:
PG_DSN dbi:Pg:dbname=mydb;host=localhost;port=5432
PG_USER tuser
PG_PWD 自己定义的密码
工具自身参数:
DATA_LIMIT 默认是10000,如果oracle服务器内存较小,比如4G以下,可以修改为2500或5000,否则可能会报内存不足。
更多更详细的配置项说明,可查看ora2pg.darold.net官网.

测试一下配置:
执行如下命令会返回连接的Oracle版本号。

 ora2pg -t SHOW_VERSION -c config/ora2pg.conf  

测试迁移

修改迁移工具oramig目录下export_schema.sh中导出类型EXPORT_TYPE和SOURCE_TYPE,本次迁移导出TABLE。

导出

在oramig目录下执行

sh export_schema.sh

执行完成后 在schema/tables生成 table.sql ,里面是建表脚本。

reports/目录下生成的report报告report.html

导入

还是在oramig目录下执行导入
为了使用openGauss命令行工具gsql,需要将数据库的bin和lib加在操作系统的环境变量PATH和LD_LIBRARY_PATH中。可以通过直接root用户执行gsql测试。
3. 将import_all.sh里的psql修改为gsql。

执行导入脚本,表示使用用户tuser登录openGauss中mydb的数据库,ip和端口,-f选项表示跳过用户和数据库是否需要创建的检查。

sh import_all.sh -d mydb -o tuser -h openGaussIP -p 5432 -f

执行成功。

可以看到表和数据都已经迁移过来。

Ora2Pg不足

Ora2Pg对PL/SQL和PL/PGSQL的语法转换处理采用正则表达式和文本替换的方式,先天设计不足,很难覆盖所有的语法,目前仅支持部分转换。因此,Ora2Pg可以满足SQL简单的应用迁移,对于复杂的语法,并不能完全保证转换的正确性,需要对生成的SQL语句进行核对,必要时需要人工修正。

FAQ

1.报错:Path to pg_config? /opt/software/openGauss/bin/pg_config
/opt/software/openGauss/bin/pg_config: error while loading shared libraries: libssl.so.1.1: cannot open shared object file: No such file or directory
环境自带的是1.0.2,得升级libssl.so。

[root@oraclehost ~]# openssl version -a
OpenSSL 1.0.2k-fips  26 Jan 2017
yum remove openssl

获取新的版本并安装
wget https://www.openssl.org/source/openssl-1.1.1c.tar.gz
tar -zxvf openssl-1.1.1c.tar.gz
cd openssl-1.1.1c
./config --prefix=/usr/local/openssl   #如果此步骤报错,需要安装perl以及gcc包
make && make install

ln -s /usr/local/openssl/lib/libssl.so.1.1 /usr/lib64/libssl.so.1.1
ln -s /usr/local/openssl/lib/libcrypto.so.1.1 /usr/lib64/libcrypto.so.1.1
ln -s /usr/local/openssl/bin/openssl /usr/bin/openssl
ln -s /usr/local/openssl/include/openssl /usr/include/openssl
echo "/usr/local/openssl/lib" >> /etc/ld.so.conf
ldconfig -v

sudo  yum install postgresql-devel

再重新执行  perl -MCPAN -e 'install DBD::Pg'

2、perl 报错 Can’t locate JSON.pm in @INC

解决:

sudo perl -MCPAN -e ‘install JSON’

3、如何查看Oracle 的SID ?

SQL> select instance_name from V$instance;

4、执行 ora2pg -t SHOW_VERSION -c ora2pg.conf 报错
FATAL: -1 … ERROR OCIEnvNlsCreate. Check ORACLE_HOME (Linux) env var or PATH (Windows) and or NLS settings, permissions, etc.
Aborting export…
Export $ORACLE_HOME了半天,发现原来是 ora2pg.conf 里面配置的ORACLE_HOME 不对

5、执行ora2pg -t SHOW_VERSION -c ora2pg.conf报错
FATAL: 12505 … ORA-12505: TNS:listener does not currently know of SID given in connect descriptor (DBD ERROR: OCIServerAttach)
Aborting export…

解决办法 SID配置有问题 或者 /etc/hosts有问题。参考下面连接解决
https://www.shuzhiduo.com/A/6pdDw0bl5w/

6、执行 ora2pg -t SHOW_VERSION -c config/ora2pg.conf 报错
install_driver(Oracle) failed: Can’t load ‘/usr/local/lib64/perl5/auto/DBD/Oracle/Oracle.so’ for module DBD::Oracle: libclntsh.so.11.1: cannot open shared object file: No such file or directory at /usr/lib64/perl5/DynaLoader.pm line 190.
解决办法

export LD_LIBRARY_PATH=$ORACLE_HOME/lib

7、执行 ora2pg -t SHOW_VERSION -c ora2pg.conf报错
FATAL: ORA-08178: illegal SERIALIZABLE clause specified for user INTERNAL (DBD ERROR: OCIStmtExecute)
解决办法:
不要使用sys用户,使用普通oracle用户(没有可新建),然后修改 ora2pg.conf中的用户名和密码

8、执行sh import_all.sh -d mydb -o tuser -h IP -p 5432 -f 提示Out of memory , 但是top显示还有1G多。
解决办法:
Opened ./config/ora2pg.conf and modfied set DATA_LIMIT 5000 or 2500 solved the issue.

9、报错:DBD::Pg::db do failed: ERROR: permission denied for relation xxx
解决办法:
需要给openGauss的角色赋权限

mydb=# grant all privileges to tuser;

10、报错:
DBI connect(‘dbname=mydb;host=openGaussIP;port=5432’,‘testuser’,…) failed: connection to server at “openGaussIP”, port 5432 failed: none of the server’s SASL authentication mechanisms are supported at /opt/software/ora2pg/lib
解决办法:
这个错是openGauss返回的。需要把openGauss的pg_hba.conf & postgres.conf再搞下。
修改 data/single_node/postgresql.conf 中password_encryption_type = 1 。
修改pg_hba.conf 中

然后重启openGauss:gs_ctl restart -D /opt/software/openGauss/data/single_node

🍒如果您觉得博主的文章还不错或者有帮助的话,请关注一下博主,如果三连点赞评论收藏就更好啦!谢谢各位大佬给予的支持!

数据库迁移系列从mysql到opengauss的数据库对象迁移实践(代码片段)

...迁移和增量迁移的性能不但有了全面提升,而且支持数据库对象视图、触发器、自定义函数、存储过程的迁移。本篇就来分享一下使用chameleon工具进行从MySQL到openGauss的数据库对象迁移。文章 查看详情

使用 Sqoop 将视图(数据库表重)从 Oracle 迁移到 Hive

】使用Sqoop将视图(数据库表重)从Oracle迁移到Hive【英文标题】:UsingSqooptomigrateviews(databasetablesheavy)fromOracletoHive【发布时间】:2017-05-2410:42:29【问题描述】:我是大数据的初学者,我们正在使用sqoop和Cloudera管理将视图从Oracle迁... 查看详情

从 postgres 迁移到 oracle (Ansi) 中的奇怪字符

...发布时间】:2017-07-2814:45:20【问题描述】:我正在将一个数据库从postgres迁移到oracle。我使用以下命令创建csv文件:\\copytttto\'C:\\test\\ttt.csv\'CSVDELIMITER\',\'HEADE 查看详情

从 Oracle 到 MySQL 的大数据迁移

】从Oracle到MySQL的大数据迁移【英文标题】:BigdatamigrationfromOracletoMySQL【发布时间】:2014-04-0605:13:12【问题描述】:我从一家零售商那里收到了超过100GB的数据,其中包含6700万条记录。我的目标是做一些市场篮子分析和CLV。此数... 查看详情

用于从 AIX 迁移到 Linux 的 Oracle DB 工具

...:2018-10-2415:49:14【问题描述】:我的同事在AIX中运行Oracle数据库(11g),他们希望将此数据库移至RHEL。我已经找到Link。但是,我想检查是否有人已经迁移或使用了任何其他最佳工具。【问题讨论】:【参考方案1】:您有多种选择... 查看详情

如何将oracle数据迁移到greenplum数据库

】如何将oracle数据迁移到greenplum数据库【英文标题】:howtomigrateoracledatatogreenplumdatabase【发布时间】:2019-05-0118:14:44【问题描述】:如何将Oracle数据迁移到Greenplum数据库有什么方法可以将数据从Oracle迁移到Greenplum数据库,比如一... 查看详情

怎么将数据库从oracle迁移到sqlserver,或从oracle迁移到mysql

...清理数据存储空间,发布阈值报告等Extract进程:运行在数据库源端,主要用于捕获数据的变化,负责全量、增量数据的抽取Trails文件:临时存放在磁盘上的数据文件DataPump进程:运行在数据库源端,属于Extract进程的一个辅助进... 查看详情

多租户:在oracle12.2中从non-cdb迁移到pdb,从pdb迁移另一个cdb中

...n-CDB迁移到另一个CDB的PDB准备从PDB或者Non-CDB迁移到CDB容器数据库中PDB,由于PDB和Non-CDB迁移到CDB的步骤几乎相同,PDB和Non-CDB迁移非常相似,共同进行处理。准备:CDB1:目标pdb数据库的容器数据库db12c:需要迁移的Non-CDBCDB3:需要迁移... 查看详情

将数据库从 oracle 11g 迁移到 MySql 5.7 的优点、缺点和问题是啥?

】将数据库从oracle11g迁移到MySql5.7的优点、缺点和问题是啥?【英文标题】:whatistheadvantages,disadvantagesandissueswhenmigratingdatabasefromoracle11gtoMySql5.7?将数据库从oracle11g迁移到MySql5.7的优点、缺点和问题是什么?【发布时间】:2018-08-070... 查看详情

审计数据迁移到 Oracle

...2020-08-0606:40:28【问题描述】:我的任务是将数据从另一个数据库迁移到Oracle数据库。并且来自先前数据库的数据具有审计信息,即使用update_time和update_user跟踪记录的创建/更新。为简单起见,我们假设我之前所说的数据库是以下... 查看详情

我可以使用 imp/exp 工具将数据库从 Oracle 9 迁移到 Oracle 10

】我可以使用imp/exp工具将数据库从Oracle9迁移到Oracle10【英文标题】:CanIuseimp/exptoolstomigratedatabasefromOracle9toOracle10【发布时间】:2011-01-3001:31:21【问题描述】:我是分包商,我的客户想要将Oracle数据库从9升级到10。其他供应商将... 查看详情

Oracle 到 Apache Cassandra 数据迁移

】Oracle到ApacheCassandra数据迁移【英文标题】:OracletoApacheCassandradatamigration【发布时间】:2015-03-1706:41:27【问题描述】:我正在处理ApacheCassandra数据迁移。我有几个表需要移动到带有数据的Cassandra列族-最好的方法是什么?我看过Ap... 查看详情

从 mysql 迁移到 oracle 命中 ora-01400

】从mysql迁移到oracle命中ora-01400【英文标题】:migrationfrommysqltooraclehitsora-01400【发布时间】:2021-08-1018:27:24【问题描述】:我按照将MySQL迁移到oracle的说明进行操作,在最后一步(按完成),我们遇到以下错误:迁移操作失败,... 查看详情

SQL Alchemy - 从 Oracle 迁移到 MySQL 的 Python 脚本

】SQLAlchemy-从Oracle迁移到MySQL的Python脚本【英文标题】:SQLAlchemy-PythonscripttomigratefromOracletoMySQL【发布时间】:2021-08-2617:09:18【问题描述】:我正在尝试使用cx_Oracle和SQLAlchemy执行从Oracle到MySQL的批量提取/加载。我在网上找到了这个... 查看详情

如何使用ppas中的migration工具edbmtk从oracle迁移到ppas

参考技术APPAS有两个迁移工具,一个图形界面的,一个命令行的,下面以图形界面为例。1首先需要在目标数据库系统PPAS上建立和源库对应的用户和对等的权限,再建立目标数据库。 查看详情

如何从oracle迁移到mongodb

...虑将Oracle导出为平文件再导入到MongoDB。Oracle是结构化的数据库,而mongodb是非结构化数据库无法直接导入。具体的操作步骤=大致如下:导出数据:sqluldr2USER=hh/hh@orderInfoQUERY="select*fromhh.ent_person"table=testhead=yesFILE=test.csv导入... 查看详情

oracle数据库的迁移(从一台服务器到另一个台服务器,从oracle10g到oracle11g)

...最初我使用的是Navicat中的数据传输来迁移的,虽说整个数据库的迁移没有成功,但传输指定的对象时还是传输成功了。所以还是记录一下吧。1.前提连接好数据库。在指定的数据库上右击,选择“数据传输”。2.在弹出的框内选... 查看详情

exchangeserver2016管理系列课件39.新建本地移动请求

...通过新建本地移动请求,可以很方便的将用户邮箱从一个数据库迁移到另外一个数据库。1)跨平台邮件迁移;(低exchange迁移到高版本exchange)2)数据库平衡与优化;(企业当中,数据库规划不合理)3)在已经无法去修复邮箱... 查看详情